Mistral Large 4 построена на архитектуре Mixture of Experts (MoE). Она содержит около 1 трлн параметров, но при обработке каждого токена задействует примерно 49 млрд. В модели предусмотрено 128 специализированных экспертов, из которых одновременно работают четыре, а также один общий эксперт. Такой подход позволяет использовать большую модель, не активируя все ее параметры при каждом запросе.
Модель поддерживает работу с текстом и изображениями. Она может анализировать фотографии, графики, технические чертежи и документы, а также выполнять задачи по программированию, рассуждению и работе с внешними инструментами. Контекстное окно достигает 1 млн токенов, что позволяет обрабатывать большие объемы информации в рамках одного запроса.
Для сложных задач предусмотрены три уровня глубины рассуждений: низкий, средний и высокий. Кроме того, Mistral Large 4 поддерживает более 160 языков. Разработчики также заявляют о возможностях модели в создании ИИ-агентов, которые могут самостоятельно обращаться к инструментам и выполнять последовательности действий.
Модель опубликована под лицензией Mistral Ecosystem Open-Weight License, которая допускает коммерческое и некоммерческое использование. Однако компаниям, планирующим предоставлять к ней доступ в виде собственного облачного сервиса, потребуется отдельная коммерческая лицензия.
Запустить Mistral Large 4 можно с помощью инструментов vLLM, SGLang и Transformers. Масштаб модели предполагает серьезные требования к оборудованию: для полноценного развертывания компания рекомендует конфигурации с несколькими графическими ускорителями.
Читайте также:
Anthropic ужесточила проверки Claude и блокирует аккаунты пользователей
Google представила Gemini 4 Carbon с рекордными результатами в кибербезопасности