«Яндекс» выложил в открытый доступ Alice AI Search Pretrain — свою собственную обученную с нуля языковую модель. Благодаря своей архитектуре она способна мгновенно давать емкие ответы и обрабатывать большой поток запросов. «Яндекс» первым выложил в открытый доступ базовую (pretrain) модель, дообученная версия которой генерирует ии-ответы в Поиске. Ее можно найти на платформе Hugging Face.
Alice AI Search Pretrain — это компактная языковая модель, которая уже прошла первый этап обучения и имеет обширные знания о мире. Она способна обрабатывать большой объем документов и выдерживать большую нагрузку. А благодаря своей компактности не требует больших вычислительных мощностей. Разработчики и исследователи могут использовать ее в своих проектах и изучать ее архитектуру.
Модель имеет гибридную архитектуру, которая до «Яндекса» существовала в основном только в научных исследованиях. Она объединяет две технологии: «Энкодер-декодер» (Encoder-Decoder) и MoE (Mixture of Experts). Первая позволяет давать емкий лаконичный ответ за счет того, что одна часть модели изучает и отбирает информацию, а другая генерирует ответ. Вторая технология ускоряет работу модели и экономит вычислительные мощности. Вместо того, чтобы задействовать всю нейросеть, MoE активирует только ту часть ее «мозга», которая лучше разбирается в теме. Эта модель содержит 35 млрд параметров, но при обработке одного токена (небольшого фрагмента текста) используется лишь около 600 млн — менее 2%.
По качеству ответов Alice AI Search Pretrain превосходит компактные языковые модели на задачах по русскому языку. По данным замеров методом слепого тестирования она отвечает лучше Qwen 3.5 2B и 4B и T5 Gemma 2 4B-4B Base. При этом модель также сопоставима по качеству с Qwen 3.5 35B-A3B, которая требует значительно больше вычислительных ресурсов, чем Alice AI Search Pretrain.
С июля в Поиске «Яндекса» работает дообученная версия этой модели — Alice AI Search, входящая в семейство генеративных моделей Alice AI. Чтобы Alice AI Search давала емкие и понятные ответы, разработчики собрали пользовательские сигналы и обучили модель на реальных примерах взаимодействия людей с поиском. Ответы модели появляются прямо под поисковой строкой и помогают быстро разобраться в теме. Каждый месяц быстрыми ответами пользуются более 49 миллионов человек. Это самый массовый генеративный продукт «Яндекса», где пользователи чаще всего сталкиваются с искусственным интеллектом.