Высокие расходы на масштабирование генеративного ИИ

Технологические компании вкладывают миллиарды в разработку и внедрение генеративного искусственного интеллекта. Эти инвестиции необходимо окупить, однако, как показывают недавние отчеты и аналитика, это не так просто.

Что известно

Согласно анонимному источнику из Wall Street Journal, Microsoft в первые месяцы года теряла более 20 долларов с каждого пользователя в месяц на генеративном AI-коде Github Copilot. Утверждается, что некоторые пользователи обходились компании в 80 долларов в месяц, при этом Microsoft взимает с пользователей по 10 долларов в месяц.

Убытки связаны с тем, что модель AI, генерирующая код, требует значительных затрат на обслуживание. Github Copilot пользуется популярностью среди разработчиков и на текущий момент имеет около 1,5 миллиона пользователей, которые постоянно активируют модель для написания дополнительного кода.

Детали

Крупные компании вроде Microsoft, Adobe, Google и Zoom уже адаптируются к увеличенным операционным расходам. Они предлагают обновленные версии своего программного обеспечения с ИИ-функциями и устанавливают за них более высокую цену. Adobe, например, вводит ограничения на использование и систему оплаты «плати по мере использования», в то время как Zoom сокращает расходы, применяя более простые ИИ-технологии, разработанные внутри компании.

«Мы стремимся предложить клиентам максимальную ценность, не забывая при этом и о собственной экономической безопасности», — подчеркивает генеральный директор Adobe Шантану Нараен. Адам Селипски, генеральный директор Amazon Web Services, добавляет, что клиенты недовольны высокой стоимостью эксплуатации ИИ-моделей.

Почему это важно

Стоимость и дефицит микрочипов также становятся проблемой. OpenAI, сотрудничая с Microsoft, использует для своих услуг суперкомпьютер, оборудованный 10 000 графических процессоров Nvidia. Как отмечает аналитик Стейси Расгон из Bernstein, стоимость каждого запроса составляет приблизительно 4 цента.

Расгон утверждает, что если бы объем запросов был в десять раз меньше, чем объем поисковых запросов в Google, первоначальные инвестиции в графические процессоры достигли бы порядка 48,1 миллиарда долларов, а годовые расходы на их обслуживание составили бы около 16 миллиардов долларов.

Аналитическая платформа Appfigures оценивает, что рост выручки приложения ChatGPT снизился с 39% в августе до 20% в сентябре. При этом ожидается, что выручка за сентябрь составит 4,58 миллиона долларов. Приложение ChatGPT было загружено приблизительно 52 миллиона раз, причем только в сентябре произошло 15,6 миллиона новых установок. Из них 9 миллионов пришлось на устройства с операционной системой Android, а 6,6 миллиона — на iOS.

Замедление темпов роста выручки может сигнализировать о том, что приложение достигло предела пользователей, готовых платить за платную версию GPT-4. Стоит отметить, что эксплуатация GPT-4 обходится значительно дороже, чем GPT-3.5. При этом качество GPT-4 значительно выше.

 

Что будем искать? Например,ChatGPT

Мы в социальных сетях