Google Gemini Decisions API обрабатывает до 1000 запросов за 150–250 миллисекунд

Google запустила Gemini Decisions API — новый интерфейс для разработчиков, который позволяет ИИ-агентам быстро выполнять типовые проверки и выбирать действия. Вместо развернутого текстового ответа система оценивает заданные варианты и возвращает вероятности и показатели уверенности.

Google Gemini Decisions API обрабатывает до 1000 запросов за 150–250 миллисекунд
Источник: stock.adobe.com

API работает на основе модели Gemini Decision 1. Она принимает общий набор данных объемом до 256 тыс. токенов, включая текст, изображения, аудио, видео и PDF-документы. По одному запросу разработчик может задать до 1000 независимых вопросов. Например, попросить систему определить, соответствует ли изображение заданным требованиям, выбрать подходящий инструмент или оценить документ по установленным критериям.

Предусмотрены три типа задач: ответы «да» или «нет», выбор одного варианта из списка и оценка по заданной шкале. Для каждого результата модель возвращает вероятность и показатель уверенности от 0 до 1. Если уверенность недостаточна, приложение может передать задачу другой модели или человеку.

Главное отличие Gemini Decision 1 от обычных языковых моделей — способ обработки запросов. Вместо последовательной генерации текста модель оценивает предложенные варианты за один проход. По данным Google, вычисление внутри модели занимает в среднем 50–100 миллисекунд, а полная обработка запроса — 150–250 миллисекунд. Компания также утверждает, что задержка почти не меняется при увеличении числа вопросов с одного до ста.

Google рассчитывает использовать API в сценариях, где агентам приходится принимать множество небольших решений: выбирать инструменты, распределять запросы между моделями, проверять соблюдение правил и оценивать поступающие данные. Технология уже применяется в нескольких продуктах компании. Gemini Notebook использует ее для выбора подходящей модели, а Google Search — для выявления потенциально опасных действий при работе с инструментами MCP.

Gemini Decisions API доступен в предварительной версии через Google AI Studio. Google также объявила о расширении интеграций с платформами OpenRouter, LangChain, Vercel, LiteLLM и другими инструментами для разработчиков. По оценке Google, на собственном наборе тестов новая система почти в пять раз дешевле Gemini 3.5 Flash-Lite при использовании через Interactions API.

Читайте также: Alibaba открыла доступ к тестированию новой флагманской ИИ-модели Qwen4-Max

Что будем искать? Например,ChatGPT

Мы в социальных сетях