Компания Inception представила Mercury 3 — языковую модель на основе диффузионной архитектуры, которая, по заявлениям разработчиков, способна генерировать более 1000 токенов в секунду. Модель рассчитана на задачи, где важны высокая скорость ответа и обработка больших объемов информации, включая работу ИИ-агентов, интерактивное обучение и поиск данных.
По данным Inception, скорость генерации Mercury 3 достигает 1068 токенов в секунду на графических процессорах NVIDIA. Компания утверждает, что в ряде тестов модель превосходит GPT-6 Luna и Claude Haiku 5.5 по качеству ответов, одновременно работая в четыре-восемь раз быстрее. Эти результаты представлены самой разработавшей модель компанией.
Главная особенность Mercury 3 — архитектура. Традиционные языковые модели обычно генерируют текст последовательно, предсказывая следующий токен за предыдущим. Диффузионные модели используют другой подход: они формируют и уточняют несколько частей текста параллельно. Это позволяет ускорить генерацию ответов, хотя итоговая производительность зависит от конкретной задачи и условий тестирования.
По сравнению с первой моделью семейства Mercury 3 стала более чем в 40 раз крупнее. Скорость генерации удалось сохранить на уровне более 1000 токенов в секунду. Контекстное окно выросло до одного миллиона токенов против 260 тысяч у Mercury 2.5. Это позволяет модели обрабатывать значительно большие объемы текста и других входных данных в рамках одного запроса.
Разработчики ориентируются прежде всего на приложения, в которых задержки накапливаются при выполнении множества последовательных операций. Например, ИИ-агент может искать информацию на сайтах, анализировать документы и изучать программные журналы. Если модель отвечает быстрее на каждом этапе, весь процесс может занимать меньше времени.
Mercury 3 доступна через API Inception, а также через платформы Baseten, OpenRouter и Vercel. Модель совместима с форматом API OpenAI, поэтому разработчики могут интегрировать ее в существующие приложения без масштабной переработки кода.
Читайте также:
Российская платформа «Каппа» помогает проверять данные для обучения нейросетей
ИИ-агенты Google самостоятельно прошли Minecraft за 27 часов