Ученые Университета ИТМО представили библиотеку CoolPrompt для автоматической оптимизации текстовых запросов к большим языковым моделям. Разработка призвана упростить и ускорить процесс составления эффективных инструкций для искусственного интеллекта.
Как отмечают разработчики, эффективность современных ИИ-систем часто зависит от точности и качества промптов — текстовых команд. Составление таких запросов для сложных задач в областях вроде медицины или анализа данных традиционно требует участия специалистов. Новая библиотека автоматизирует этот процесс: она самостоятельно генерирует, тестирует и отбирает оптимальные варианты запросов под конкретную задачу.
По словам руководителя RnD-команды CT-Lab Никиты Кулина, преимущество CoolPrompt перед аналогами заключается в высокой эффективности подбора промптов и широком функционале. Фреймворк может сам создавать данные для настройки и оценки запросов, позволяет выбирать метод оптимизации в зависимости от приоритета — скорости или качества — и поддерживает широкий спектр языковых моделей. Кроме того, система формирует понятный отчет по итогам оптимизации.
В основе работы системы лежит принцип последовательного улучшения запросов. Начав с исходной формулировки от пользователя, алгоритм постепенно уточняет и детализирует инструкцию, добавляя конкретные параметры, такие как роль ИИ, структура ответа и стиль изложения. Это позволяет преобразовать общий запрос в развернутую и эффективную команду.