AMD показала ИИ-ускоритель MI455X и стойку Helios для конкуренции с Nvidia

AMD раскрыла характеристики графического процессора Instinct MI455X и архитектуры для серверных стоек Helios. Последняя представляет собой кластер из 72 графических процессоров, объединенных в единый когерентный домен. Это решение рассматривается как прямой ответ на аналогичную систему Nvidia NVL72, используемую в поколениях Blackwell и Rubin.

AMD показала ускоритель MI455X и стойку Helios для конкуренции с Nvidia NVL72
Источник

MI455X производится с использованием передовых технологий корпусировки и содержит 320 миллиардов транзисторов. Конструкция включает четыре вычислительных кристалла (XCD), размещенных на кристаллах фабрики и кэша (FCD) с помощью гибридной соединения. При этом вычислительные блоки изготавливаются по технологическому процессу TSMC 2N (GAA), а вспомогательные элементы — по TSMC N3P. Количество базовых вычислительных модулей (WGP) осталось на уровне предыдущей модели MI355X — 256 штук, однако архитектура CDNA 5 принесла изменения в программную модель: ширина волнового фронта сокращена с 64 до 32 элементов, что, по заявлению разработчиков, снижает задержки и повышает гибкость при работе с тензорами различных размеров.

Пиковая вычислительная мощность MI455X в ряде форматов с плавающей запятой (например, OCP MXFP4 и MXFP8) теоретически в два-четыре раза превышает показатели предшественника MI355X. В сравнении с будущим графическим процессором Nvidia Rubin, MI455X на бумаге демонстрирует более высокие значения в некоторых категориях вычислений. Однако в AMD признают, что реальная производительность в рабочих нагрузках будет ниже теоретических максимумов, и основная задача заключается в оптимизации программного обеспечения.

Существенные изменения произошли в иерархии памяти. Вместо большого Infinity Cache применен общий кэш L2 объемом 192 МБ с увеличенной пропускной способностью. Также удвоен объем локальной буферной памяти (LDS) до 320 КБ на модуль. Основная память переведена на стандарт HBM4: 12 стеков обеспечивают 432 ГБ памяти на чип с пропускной способностью 23,3 ТБ/с. Для сравнения, у Nvidia Rubin в начальной конфигурации заявлено 288 ГБ HBM4 и пропускная способность до 22 ТБ/с.

В конфигурации стойки Helios совокупный объем HBM-памяти достигает 31,1 ТБ на 72 процессора, что примерно на 50% больше, чем у системы Vera Rubin (20,7 ТБ). Кроме того, архитектура Helios впервые объединяет всю память графических процессоров в общий когерентный домен, что важно для задач логического вывода в ИИ, где критичны локальность данных и пропускная способность памяти.

В новом поколении усовершенствован механизм перемещения данных Tensor Data Mover, позволяющий передавать информацию напрямую из DRAM в кэш вычислительных блоков, минуя промежуточные уровни. Также добавлена поддержка многоадресной рассылки при чтении данных, что должно снизить дублирование трафика и энергопотребление. Улучшена производительность «трансцендентного» блока, отвечающего за операции вроде softmax и активации нейронных сетей.

 

Что будем искать? Например,ChatGPT

Мы в социальных сетях