OpenAI объявило о внедрении целого ряда улучшений в свои модели, среди которых большая гибкость управления моделями API, возможность вызова функций, расширение контекста, а также снижение цен.
Что известно
Лаборатория искусственного интеллекта OpenAI обновила свои предложения API для больших языковых моделей (включая GPT-4 и GPT-3.5-turbo).
Ключевые изменения:
- GPT-3.5 получила новую версию «GPT-3.5-turbo-16k», которая позволяет подсказке иметь длину до 16 000 токенов. Это в четыре раза больше, чем стандартная версия.
- Модели получили «функции вызова функции». Простыми словами разработчикам теперь проще создавать чат-ботов, способных вызывать внешние инструменты, преобразовывать естественный язык во внешние вызовы API или выполнять запросы к базе данных. Например, ИИ может преобразовывать такие подсказки, как «Напишите Полине, чтобы узнать, не хочет ли она выпить кофе в следующую пятницу», в вызов функции, такой как «send_email(to: string, body: string)». Эта функция также позволит обеспечить согласованный вывод в формате JSON, который ранее пользователи API сталкивались с трудностями.
- В дополнение к функциональным улучшениям OpenAI предлагает существенное снижение стоимости. GPT-3.5-turbo стал дешевле на 25 процентов.
Почему это важно
OpenAI также объявила о начале процесса устаревания некоторых более ранних версий этих моделей, включая GPT-3.5-turbo-0301 и GPT-4-0314. Разработчики могут продолжать использовать эти модели до 13 сентября, после чего старые модели больше не будут доступны. API OpenAI GPT-4 по-прежнему заблокирован в списке ожидания.