Развитие коммуникационных технологий сделали кластеры общедоступными. Кластер – это связный набор полноценных компьютеров, используемый в качестве единого вычислительного ресурса. Привлекательной чертой кластера является возможность объединения самых разных компьютеров, начиная от персональных и заканчивая суперкомпьютерами. Поскольку кластеры могут быть собраны из серийных компьютеров, стоимость их создания довольно низкая.
СОСОА – в нем на базе 25 двухпроцессорных ПК была создана система, эквивалентная 48 процессорному Cray T3D. СОСОА стоит 100000 долларов, Cray – несколько миллионов. Производительность систем с распределенной памятью очень сильно зависит от параметров среды. Коммуникационная среда характеризуется 2 параметрами: латентность – время задержки при посылке сообщений через линию связи; скорость передачи информации. Для Cray эти параметры составляют 1 мкс и 480 Мбит/с. Для СОСОА – 100 мкс и 10 Мбит/с. Преимущества кластерной системы является также наличие диспетчерских программ, позволяющих послать задание кластеру в целом. При создании кластеров чаще всего используется либо однопроцессорные ПК, либо двух- и четырех- SMP-узлы. Каждый узел может работать под управлением своей ОС. Когда узлы кластера неоднородны, то говорят о гетерогенных кластерах. Создаются кластеры согласно двум возможным подходам. Если кластер небольшой, то объединяются обычные ПК. При создании больших кластеров блоки компьютеров размещаются в особых стойках в одном месте, блоки не обладают вспомогательными устройствами (видеокарта, монитор, дисковые накопители). Компьютеры при этом соединены с хост-узлом, обладающим всем необходимым для программистов. Разработано множество технологий соединения компьютеров в кластеры. Используется технология Fast Ethernet. При этом максимальная скорость обмена – 10 Мбит/с (250 Мбит/с – скорость доступа к данным в ОП узлов). Требование к интерфейсу формулируется так: скорость межпроцессорных обменов между двумя узлами, измеренная в Мбит/с, должна быть не менее 0,1 пиковой производительности вычислительного узла, измеренной в МегаФлопсах. Данное положение может исправить использование Gigabit Ethernet. Ряд фирм предлагают специализированные кластерные решения на основе скоростных сетей таких, как сети SCI (100 Мбит/с), Mirynet (120 Мбит/с).