Microsoft представила Maia 300 — ускоритель искусственного интеллекта третьего поколения, разработанный для обработки запросов к большим языковым моделям и работы ИИ-агентов. Компания рассчитывает использовать его в своих облачных сервисах, чтобы повысить производительность вычислений и сократить энергозатраты.
В отличие от предыдущих поколений, Maia 300 построен на модульной архитектуре с несколькими чиплетами. Такой подход позволяет разделить вычислительные блоки, контроллеры памяти и интерфейсы ввода-вывода. Вычислительные чиплеты производятся по техпроцессу TSMC N2P. По заявлению Microsoft, это помогает повысить эффективность и упростить масштабирование системы.
Ускоритель оснащен восемью стеками памяти HBM4 общим объемом 288 ГБ. Пиковая пропускная способность памяти достигает 18 ТБ/с при заявленном энергопотреблении до 950 Вт на ускоритель. Большая пропускная способность особенно важна при обработке длинных запросов и работе с моделями, которым необходимо постоянно обращаться к значительным объемам данных.
Microsoft также переработала взаимодействие вычислительных блоков, памяти и сетевых интерфейсов. Программно управляемая организация потоков данных должна сокращать лишние перемещения информации и эффективнее использовать вычислительные ресурсы. Поддержка форматов с низкой разрядностью, включая MXFP4, позволяет уменьшить требования к памяти и хранению промежуточных данных при работе с моделями.
В серверной стойке планируется размещать до 96 ускорителей Maia 300. Совокупная мощность такой конфигурации составит около 167 кВт, а суммарная емкость HBM достигнет 27,6 ТБ. По оценке Microsoft, система сможет обеспечивать до семи раз большую пропускную способность обработки токенов на уровне стойки по сравнению с Maia 200. Компания также заявляет о 40-процентном преимуществе по количеству обрабатываемых токенов на мегаватт относительно ведущих систем на базе графических ускорителей.
Maia 300 ориентирован прежде всего на инференс — этап, на котором уже обученная нейросеть обрабатывает запросы и генерирует ответы. Такие вычисления используются в чат-ботах, помощниках для программирования и корпоративных ИИ-агентах.
Microsoft планирует начать развёртывание Maia 300 в производственной инфраструктуре в 2027 году. Maia 200 уже используется в рабочих нагрузках компании, включая Microsoft Copilot. Новое поколение должно расширить возможности облачной инфраструктуры Azure и снизить зависимость компании от сторонних поставщиков ускорителей.
Читайте также: «Ростелеком» завершил разработку DWDM-системы «БУЛАТ» для оптических сетей