Разработан чип для выполнения ИИ-вычислений непосредственно в памяти

Южнокорейский производитель микросхем SK hynix и американская компания TetraMem объявили о завершении совместной разработки процессора, использующего аналоговые вычисления непосредственно в блоках памяти. Эта технология, известная как A-IMC (Analog In-Memory Computing — аналоговые вычисления в памяти), призвана изменить привычную архитектуру обработки данных в системах искусственного интеллекта.

Разработан чип для выполнения ИИ-вычислений непосредственно в памяти
Источник

Созданный прототип представляет собой систему на кристалле (SoC), которая интегрирует вычислительные функции прямо в массив памяти. В основе работы лежат мемристорные элементы, позволяющие выполнять ключевые для ИИ операции, в частности глубинную свертку, без постоянной пересылки данных между процессором и накопителями.

Основная цель разработки — преодоление так называемого «узкого места», связанного с перемещением данных. В традиционных чипах основная часть энергии и времени тратится именно на передачу информации между вычислительными блоками и памятью, а не на сами математические операции. По мере роста моделей ИИ до триллионов параметров эта проблема становится все более острой, приводя к повышенному энергопотреблению и выделению тепла.

Предложенный подход меняет логику работы: вместо постоянной загрузки данных в вычислительный блок, умножение матриц (основная операция нейросетей) происходит непосредственно в массиве памяти. Это позволяет сократить количество ненужных циклов передачи данных и повысить общую энергоэффективность системы.

В рамках сотрудничества стороны объединили свои компетенции: TetraMem предоставила платформу аналоговых вычислений, а SK hynix — экспертизу в области передовых полупроводниковых технологий и проектирования схем. По итогам работы инженерам удалось совместить элементы схемотехники, архитектуру ИИ, программное обеспечение и системную оптимизацию в единую платформу.

Компании намерены продолжать совместные исследования в области инновационных технологий памяти, вычислительных архитектур и системной интеграции для создания более эффективной инфраструктуры искусственного интеллекта в будущем.

Что будем искать? Например,ChatGPT

Мы в социальных сетях