Массовая параллель — это термин, обозначающий использование большого количества компьютерных процессоров (или отдельных компьютеров) для одновременного параллельного выполнения набора скоординированных вычислений . Графические процессоры представляют собой массово-параллельную архитектуру с десятками тысяч потоков.
Одним из подходов являются грид-вычисления , при которых вычислительная мощность множества компьютеров в распределенных, разнообразных административных доменах используется оппортунистически всякий раз, когда компьютер доступен. [1] Примером может служить BOINC , оппортунистическая сетевая система, основанная на волонтерах , в которой сеть обеспечивает электроэнергию только при условии максимальных усилий. [2]
Другой подход — группировка множества процессоров в непосредственной близости друг от друга, как в компьютерном кластере . В такой централизованной системе скорость и гибкость межсоединений становятся очень важными, и в современных суперкомпьютерах используются различные подходы — от усовершенствованных систем InfiniBand до трехмерных торических межсоединений . [3]
Этот термин также применяется к массивам процессоров с массовым параллелизмом (MPPA), типу интегральной схемы с массивом из сотен или тысяч центральных процессоров (ЦП) и банков оперативной памяти (ОЗУ). Эти процессоры передают работу друг другу через реконфигурируемое соединение каналов. За счет использования множества процессоров, работающих параллельно, чип MPPA может выполнять более сложные задачи, чем обычные чипы. [ нужна цитация ] MPPA основаны на модели параллельного программирования программного обеспечения для разработки высокопроизводительных встроенных системных приложений.
Goodyear MPP был ранней реализацией компьютерной архитектуры с массовым параллелизмом. Архитектуры MPP являются второй по распространенности реализацией суперкомпьютеров после кластеров по состоянию на ноябрь 2013 года. [4]
Устройства хранения данных , такие как Teradata , Netezza или Microsoft PDW, обычно реализуют архитектуру MPP для параллельной обработки очень больших объемов данных.