Память с высокой пропускной способностью

Прорежьте видеокарту, которая использует память с высокой пропускной способностью. См. Сквозные кремниевые переходные отверстия (TSV).

High Bandwidth Memory ( HBM ) - это высокоскоростной интерфейс компьютерной памяти для трехмерной синхронной динамической памяти с произвольным доступом (SDRAM) от Samsung , AMD и SK Hynix . Он используется в сочетании с высокопроизводительными графическими ускорителями, сетевыми устройствами, высокопроизводительными ИИ ASIC и ПЛИС центров обработки данных, а также в некоторых суперкомпьютерах. (Например, NEC SX-Aurora TSUBASA и Fujitsu A64FX ) ^[1] Первый чип памяти HBM был произведен SK Hynix в 2013 году ^[2], а первыми устройствами, использующими HBM, были AMD Fiji.Графические процессоры в 2015 году. ^{[3] [4]}

Память с высокой пропускной способностью была принята JEDEC в качестве промышленного стандарта в октябре 2013 года. ^[5] Второе поколение, HBM2 , было принято JEDEC в январе 2016 года. ^[6]

Технология [ править ]

HBM обеспечивает более высокую пропускную способность при меньшем потреблении энергии и значительно меньшем форм-факторе, чем DDR4 или GDDR5 . ^[7] Это достигается за счет наложения до восьми кристаллов DRAM (таким образом, это трехмерная интегральная схема ), включая дополнительный базовый кристалл (часто кремниевый переходник ^{[8] [9]} ) с контроллером памяти, которые соединены между собой посредством сквозные кремниевые переходные отверстия (TSV) и микровыступы . Технология HBM аналогична в принципе, но несовместима с интерфейсом Hybrid Memory Cube, разработанным Micron Technology . ^[10]

Шина памяти HBM очень широка по сравнению с другими модулями памяти DRAM, такими как DDR4 или GDDR5. Стек HBM из четырех кристаллов DRAM (4-Hi) имеет два 128-битных канала на кристалл, всего 8 каналов и ширину 1024 бит. Таким образом, графическая карта / графический процессор с четырьмя стеками 4-Hi HBM будет иметь шину памяти шириной 4096 бит. Для сравнения, ширина шины памяти GDDR составляет 32 бита, с 16 каналами для графической карты с 512-битным интерфейсом памяти. ^[11] HBM поддерживает до 4 ГБ на пакет.

Большее количество подключений к памяти по сравнению с DDR4 или GDDR5 потребовало нового метода подключения памяти HBM к графическому процессору (или другому процессору). ^[12] AMD и Nvidia использовали специальные кремниевые чипы, называемые интерпозиционерами , для соединения памяти и графического процессора. У этого промежуточного устройства есть дополнительное преимущество, заключающееся в том, что память и процессор должны быть физически близко друг к другу, что сокращает пути к памяти. Однако, поскольку изготовление полупроводниковых устройств значительно дороже, чем изготовление печатных плат , это увеличивает стоимость конечного продукта.

• Кристалл HBM DRAM

• Матрица контроллера HBM

• Память HBM на графическом процессоре видеокарты AMD Radeon R9 Nano

Интерфейс [ править ]

HBM DRAM тесно связан с вычислительным кристаллом хоста с помощью распределенного интерфейса. Интерфейс разделен на независимые каналы. Каналы полностью независимы друг от друга и не обязательно синхронны друг с другом. HBM DRAM использует архитектуру с широким интерфейсом для достижения высокоскоростной работы с низким энергопотреблением. HBM DRAM использует дифференциальную тактовую частоту CK_t / CK_c 500 МГц (где суффикс «_t» обозначает «истинный» или «положительный» компонент дифференциальной пары, а «_c» обозначает «дополнительный»). Команды регистрируются на переднем фронте CK_t, CK_c. Каждый интерфейс канала поддерживает 128-битную шину данных, работающую с удвоенной скоростью передачи данных (DDR). HBM поддерживает скорость передачи 1  ГТ / с.на вывод (передача 1 бита), что дает общую пропускную способность корпуса 128 ГБ / с. ^[13]

HBM2 [ править ]

Второе поколение памяти с высокой пропускной способностью, HBM2, также определяет до восьми кристаллов на стек и удваивает скорость передачи выводов до 2  ГТ / с . Сохраняя доступ шириной 1024 бит, HBM2 может обеспечить пропускную способность памяти 256 ГБ / с на пакет. Спецификация HBM2 позволяет использовать до 8 ГБ на пакет. По прогнозам, HBM2 будет особенно полезен для потребительских приложений, чувствительных к производительности, таких как виртуальная реальность . ^[14]

19 января 2016 года Samsung объявила о начале массового производства HBM2 с объемом памяти до 8 ГБ на стек. ^{[15] [16]} SK Hynix также объявила о доступности стеков по 4 ГБ в августе 2016 года. ^[17]

• Кристалл HBM2 DRAM

• Матрица контроллера HBM2

• Переходник HBM2 графического процессора Radeon RX Vega 64 с удаленными матрицами HBM; GPU все еще на месте

HBM2E [ править ]

В конце 2018 года JEDEC анонсировал обновление спецификации HBM2, предусматривающее увеличение пропускной способности и емкости. ^[18] До 307 ГБ / с на стек (эффективная скорость передачи данных 2,5 Тбит / с) теперь поддерживается в официальной спецификации, хотя продукты, работающие с такой скоростью, уже были доступны. Кроме того, в обновлении была добавлена ​​поддержка стеков 12 ‑ Hi (12 матриц), что позволило увеличить емкость до 24 ГБ на стек.

20 марта 2019 года Samsung анонсировала свой Flashbolt HBM2E с восемью матрицами на стек, скоростью передачи 3,2  ГТ / с , что обеспечивает в общей сложности 16 ГБ и 410 ГБ / с на стек. ^[19]

12 августа 2019 года SK Hynix анонсировала свой HBM2E с восемью матрицами на стек, скорость передачи 3,6  ГТ / с , что в сумме обеспечивает 16 ГБ и 460 ГБ / с на стек. ^{[20] [21]} 2 июля 2020 года SK Hynix объявила о начале массового производства. ^[22]

HBMnext [ править ]

В конце 2020 года Micron объявила, что стандарт HBM2E будет обновлен, а вместе с тем представила следующий стандарт, известный как HBMnext. Первоначально предложенный как HBM3, это большой скачок поколений от HBM2 и замена HBM2E. Эта новая видеопамять выйдет на рынок в четвертом квартале 2022 года. Скорее всего, она представит новую архитектуру, как следует из названия.

Хотя архитектура может быть пересмотрена, утечки указывают на то, что производительность будет аналогична производительности обновленного стандарта HBM2E. Эта оперативная память, вероятно, будет использоваться в основном в графических процессорах центров обработки данных . ^{[23] [24] [25] [26]}

HBM-PIM [ править ]

В феврале 2021 года Samsung объявила о разработке HBM с обработкой в ​​памяти. Эта новая память привносит в память вычислительные возможности искусственного интеллекта, чтобы увеличить масштабную обработку данных. Оптимизированный для DRAM AI-движок размещается внутри каждого банка памяти, чтобы обеспечить параллельную обработку и минимизировать перемещение данных. Samsung утверждает, что это обеспечит вдвое большую производительность системы и снизит потребление энергии более чем на 70%, не требуя при этом никаких изменений оборудования или программного обеспечения в остальной части системы. ^[27]

История [ править ]

Фон [ править ]

Модульная память изначально была коммерциализирована в индустрии флэш-памяти . Toshiba представила микросхему флэш- памяти NAND с восемью установленными друг на друга матрицами в апреле 2007 года ^[28], а в сентябре 2007 года Hynix Semiconductor представила микросхему флэш-памяти NAND с 24 вставленными матрицами ^[29].

Трехмерная память с произвольным доступом (RAM) с использованием технологии сквозного полупроводникового канала (TSV) была коммерциализирована компанией Elpida Memory , которая разработала первый чип DRAM объемом 8 ГБ (укомплектованный четырьмя кристаллами DDR3 SDRAM ) в сентябре 2009 года и выпустила его в июне 2011. В 2011 году SK Hynix представила память DDR3 объемом 16 ГБ ( класс 40 нм ) с использованием технологии TSV, ^[2] Samsung Electronics в сентябре представила трехмерный стек DDR3 объемом 32 ГБ ( класс 30 нм ) на основе TSV, а затем Samsung и Micron Technology. анонсирован на базе ТСВ       Технология Hybrid Memory Cube (HMC) в октябре. ^[30]

Развитие [ править ]

Разработка памяти с высокой пропускной способностью началась в AMD в 2008 году для решения проблемы постоянно растущего энергопотребления и форм-фактора компьютерной памяти. В течение следующих нескольких лет AMD совместно с командой, возглавляемой старшим научным сотрудником AMD Брайаном Блэком, разработала процедуры для решения проблем с укладкой кристаллов. ^[31] Чтобы помочь AMD реализовать свое видение HBM, они привлекли партнеров из отрасли памяти, в частности, корейскую компанию SK Hynix , ^{[31] у} которой был предыдущий опыт работы с памятью с трехмерным стеком, ^{[2] [29],} а также партнеров из шифратор промышленность (тайваньская компания UMC ) и упаковка промышленности ( Amkor технологии и ASE). ^[31]

Разработка HBM была завершена в 2013 году, когда SK Hynix построил первый чип памяти HBM. ^[2] HBM был принят в качестве промышленного стандарта JESD235 компанией JEDEC в октябре 2013 года по предложению AMD и SK Hynix в 2010 году. ^{[5] В} 2015 году на заводе Hynix в Ичхоне , Южная Корея, началось массовое производство .

Первым графическим процессором, использующим HBM, был AMD Fiji, выпущенный в июне 2015 года для AMD Radeon R9 Fury X. ^{[3] [32] [33]}

В январе 2016 года Samsung Electronics начала раннее массовое производство HBM2. ^{[15] [16]} В том же месяце HBM2 был принят JEDEC в качестве стандарта JESD235a. ^[6] Первым графическим процессором, использующим HBM2, является Nvidia Tesla P100, о котором было официально объявлено в апреле 2016 года. ^{[34] [35]}

Будущее [ править ]

На выставке Hot Chips в августе 2016 года и Samsung, и Hynix анонсировали технологии памяти HBM следующего поколения. ^{[36] [37]} Обе компании анонсировали высокопроизводительные продукты, которые, как ожидается, будут иметь повышенную плотность, увеличенную пропускную способность и более низкое энергопотребление. Samsung также анонсировала разрабатываемую более дешевую версию HBM, ориентированную на массовые рынки. Удаление буферного кристалла и уменьшение количества TSV снижает стоимость, хотя и за счет уменьшения общей пропускной способности (200 ГБ / с).

См. Также [ править ]

• С накоплением DRAM
• eDRAM
• Многокристальный модуль для стека микросхем
• Куб гибридной памяти : стандарт многослойной памяти от Micron Technology (2011 г.)

Ссылки [ править ]

Внешние ссылки [ править ]

• DRAM с высокой пропускной способностью (HBM) (JESD235) , JEDEC, октябрь 2013 г.
• Ли, Донг Ук; Ким, Кён Ван; Ким, Кван Веон; Ким, Хонджунг; Ким, Джу Ён; и другие. (9–13 февраля 2014 г.). «Стэк DRAM с 8-канальной памятью с высокой пропускной способностью (HBM) 1,2 В 8 Гбит / с с эффективными методами тестирования ввода-вывода микровыступами с использованием 29-нм техпроцесса и TSV». 2014 IEEE International Solid-State Circuits Conference - Digest of Technical Papers . IEEE (опубликовано 6 марта 2014 г.): 432–433. DOI : 10.1109 / ISSCC.2014.6757501 . S2CID  40185587 .
• HBM против HBM2 против GDDR5 против GDDR5X Сравнение памяти