Xiaomi представила новое семейство ИИ-моделей MiMo-V2.6. В него вошли флагманская MiMo-V2.6-Pro, более компактная MiMo-V2.6-Flash и версия Pro-UltraSpeed с повышенной скоростью генерации. Компания также открыла веса моделей и значительную часть инфраструктуры, использованной для их обучения.
MiMo-V2.6-Pro получила 46 баллов в Intelligence Index от Artificial Analysis и заняла первое место среди моделей с открытыми весами в этом рейтинге. При этом речь не идет о лидерстве среди всех ИИ-моделей: показатель 46 баллов сопоставим с некоторыми закрытыми системами, а ряд других моделей в рейтинге получает более высокие результаты.
Флагман построен по архитектуре Mixture of Experts и содержит около 1,02 трлн параметров, из которых при обработке каждого токена активны примерно 42 млрд. Контекстное окно достигает 1 млн токенов. Модель поддерживает текст, изображения, аудио и видео на входе, а также рассчитана на работу с агентами и сложными многошаговыми задачами.
По данным компании, MiMo-V2.6-Pro и Flash прошли по 30 этапов RL-обучения, в общей сложности обработав около 750 тыс. траекторий менее чем за шесть дней. Заявленные затраты составили около $2,62 млн для Pro и $850 тыс. для Flash.
Xiaomi использовала обучение на длинных агентных сценариях: модель должна не просто отвечать на запросы, а выполнять последовательности действий, работать с инструментами, исправлять ошибки и доводить задачи до результата. Для этого компания разработала собственные механизмы оценки качества и защиты от так называемого reward hacking — ситуаций, когда модель учится получать высокий балл, обходя саму задачу.
MiMo-V2.6-Flash получила 310 млрд параметров, из которых активны около 15 млрд. Она также работает с контекстом до 1 млн токенов и поддерживает мультимодальный ввод. При этом Xiaomi предлагает Flash как вариант для большого количества обращений и производственных нагрузок.
Помимо самих моделей, Xiaomi опубликовала более 7 тыс. сред для RL-задач, технический отчет, фреймворк обучения и набор инструментов для работы с агентами. В релиз также вошла модель MiMo-V2.6-Distill-Qwen-9B, созданная с использованием траекторий обучения MiMo.
Читайте также:
Alibaba представила новый ИИ-чип и готовит модель на 10 трлн параметров
ChatGPT, Claude и другие ассистенты появились в CarPlay
xAI выпустила Grok 4.7 для длительных задач и программирования