В последнее время корпоративный сектор столкнулся с ситуацией, когда качество моделей перестало быть главным ограничением. Основные препятствия переместились в область инженерной и организационной готовности, и на передний план выходят вопросы кибербезопасности, управления расходами, горизонтального масштабирования и обработки массивов данных. В статье генеральный директор ITPOD Илья Борняков расскажет о том, как эволюционируют потребности бизнеса и какие методики внедрения ИИ становятся стандартами в отрасли.
Запросы компаний поменялись
Наблюдаются существенные изменения в запросах компаний за последний год. Если раньше они приходили с расплывчатыми идеями «поэкспериментировать с нейросетями», то теперь запросы от заказчиков содержат практические бизнес-цели:
- уменьшить время отклика службы поддержки первого уровня;
- повысить производительность аналитических отделов;
- оптимизировать поиск в корпоративных базах знаний;
- автоматизировать рутинные операции.
Также можно отметить зрелое отношение к финансовой стороне проекта. Компаниям важно видеть, какой объем вычислительных мощностей расходует каждое подразделение, какие лицензии и подписки активны, а также какова удельная стоимость рабочего места сотрудника в контексте ИИ-инструментов.
Экономический фактор также переориентирует интерес с гигантских универсальных моделей на более узкие, локальные сценарии. Год назад многие хотели развернуть у себя нечто монументальное, однако высокая цена таких инициатив быстро отрезвила рынок. В приоритете модели, развернутые на месте и заточенные под конкретные департаменты или функции: маркетинговые отделы, первая линия клиентской поддержки, внутренний поиск по документам, автоматизация хорошо структурированных бизнес-процессов.
С чего начинается эффективный ИИ-проект
Первым этапом выступает грамотная постановка задачи и выбор измеримых показателей успеха. Без этого есть риск создать продукт, который не найдет своих пользователей. Лучше начать с детального описания существующего процесса:
- сколько сотрудников вовлечено;
- сколько человеко-часов тратится на операцию;
- где возникают сбои;
- какова цена ошибки;
- что изменится в бизнесе, если процесс ускорится.
Сложность в том, что персонал досконально знает свои повседневные процессы, но зачастую не представляет, как именно их можно улучшить с помощью ИИ. У них нет ни времени, ни профильной компетенции, чтобы определить, где необходим RAG-пайплайн, где стоит применить распознавание речи, а где нейросети вообще не повлияют на эффективность. Поэтому внутри компании должен быть специалист или целая команда, которые видеть процессы системно и понимают, где автоматизация принесет пользу.
Дальше, на этапе проектирования, возникает вопрос, требуется ли полный контроль данных или достаточно частичного. Если данные не должны попадать вовне, рекомендуется on-prem-инфраструктура с локальным размещением моделей в защищенном периметре. Тогда компания получает полный контроль, защиту коммерческой тайны и возможность самостоятельно администрировать оборудование.
Когда лучше подождать с ИИ-инвестициями
Если предприятие не понимает, что именно необходимо улучшить, а просто «хочет нейросеть», такое начинание обречено. Искусственный интеллект по определению не исправляет хаос, а скорее масштабирует текущие процессы в том виде, в каком они есть, включая недостатки.
Должен быть человек, ответственный за итоговый результат, бюджет и сам процесс внедрения. Если этого нет, если нет понимания стоимости и ожидаемой выгоды, проект рискует стать бесконечным исследованием.
Для локальных нейросетей, особенно в крупных компаниях, нужны существенные вложения. Многие корпоративные клиенты, ориентируясь на цену облачных подписок, ошибочно полагают, что собственная инфраструктура обойдется примерно в ту же сумму. На практике для крупного бизнеса и массовых развертываний собственное оборудование может оказаться в разы дороже. Зато компания не рискует конфиденциальными данными, которые сотрудники могут невольно передать во внешние сервисы.
Инфраструктурные платформы
Именно для управления ИИ-инфраструктурой есть платформы, которые позволяют гибко настраивать сценарии с полным контролем, аудитом и управлением потоками информации. Без такой системы компания просто выдает сотрудникам доступы к внешним сервисам и не имеет информации о том, какие данные покидают периметр и какие варианты использования допустимы.
Программно-аппаратные комплексы (ПАК) для ИИ-задач предназначены прежде всего для отраслей с высокими требованиями к безопасности и прозрачности. Это касается финансовых институтов, промышленных предприятий, государственных структур. Это отрасли, где данные не должны выходить вовне, а облачные API и внешние сервисы часто даже не рассматриваются как опция.
Такие комплексы включают в себя библиотеку готовых моделей. Они регулярно обновляются, поддерживаются и тестируются на различных сценариях. Заказчик может не создавать все с нуля, а выбирать подходящие модели под свои задачи и разворачивать их внутри своего защищенного контура.
Второй сценарий — обслуживание подразделений с различными моделями, правами доступа и квотами. Предприятию необходимо отслеживать, кто и сколько потребляет ресурсов и во что это выливается. По дашбордам ИТ-директор или руководитель направления в реальном времени видит загрузку инфраструктуры, в том числе и траты.
Третий сценарий — low-code-конструкторы рабочих процессов. Не в каждой организации есть команда разработчиков, а автоматизировать процессы нужно. Например, для ускорения обработки запросов в поддержку можно использовать потоковую транскрибацию в реальном времени или постобработку звонков, передавая данные в CRM или тикет-систему.
Конструктор, а не коробочное решение
ПАК для ИИ — это скорее конструктор, чем унифицированное решение. Поскольку у всех компаний задачи разнятся, инфраструктура подбирается индивидуально. Развертываются модели, подключаются сервисы, а поверх настраивается логическая последовательность операций, которую заказчик хочет автоматизировать.
Если клиент четко понимает перечень задач, количество пользователей, ожидаемый объем запросов, можно точно подобрать и архитектуру, и оборудование. То есть, это не одно решение для всех, а настройка под конкретный запрос и бизнес-процессы.
Традиционный подход — самостоятельный выбор железа, тестирование моделей и сборка решений силами самой компании. На начальном этапе это вполне рабочая схема. Почти у всех сначала появляется пилот, который запускается на существующих мощностях или арендованной виртуальной машине с GPU. Однако переход от пилота к промышленной эксплуатации оказывается самым сложным этапом.
Пока решением пользуются несколько человек, многие задачи можно решать вручную. Когда же внедрение выходит на уровень отделов, возникают совсем иные требования: поддержка «железа» и софта, появление ролей MLOps или инженеров сопровождения, масштабирование, интеграция с корпоративными учетными записями, ролевая модель, аудит, мониторинг, подготовка и обезличивание данных. В пилотном проекте что-то можно сделать быстро и даже «на коленке», в промышленной версии такой подход уже не работает. ПАК для ИИ-задач предоставляет многие функции «из коробки». Самостоятельная реализация тех же механизмов может занять полгода или год и, что хуже, подорвать доверие к самому инструменту.
Железо и охлаждение
Примерно в 90% сценариев используются четырехъюнитовые серверы на архитектуре NVIDIA MGX, позволяющие устанавливать до восьми GPU, включая топовые ускорители уровня NVIDIA H200. При таком подходе большую роль играет система отвода тепла. Восемь GPU по 600 Вт — это почти 5 кВт тепловой энергии, которую нужно эффективно рассеивать. На рынке встречаются внешне похожие решения, но рассчитанные на карты с существенно меньшим энергопотреблением. Подобные детали часто прописаны мелким шрифтом, и потом выясняется, что сервер не способен выдержать заявленную нагрузку.
Для постепенного перехода от пилота к промышленной эксплуатации подойдут восьмиюнитовые серверы с десктопными картами уровня RTX 4090 или RTX 5090. Такие серверы предназначены не только для задач ИИ, но и для математического моделирования, медицинских исследований, разработки лекарств, то есть для любых задач, где требуются GPU-расчеты, но не обязательна максимально отказоустойчивая инфраструктура класса 24×7. Если задача не требует непрерывной работе, и вычисления запускаются периодически, использование десктопных GPU позволяет значительно уменьшить стоимость владения без потери качества.
Что действительно стоит денег
Основная капитальная статья — это сами серверы с GPU. Однако часто упускают из виду, что сервер мало купить, его нужно где-то разместить. GPU-инфраструктура предъявляет совсем другие требования к энергопотреблению по сравнению с обычными серверами под виртуализацию. Возрастают запросы к питанию и охлаждению. Если компания размещает оборудование в ЦОДе, растут и расходы на стойки и электричество. В России этот аспект пока не всегда воспринимается как критичная статья бюджета, но именно здесь чаще всего возникают узкие места. Не каждый дата-центр готов принимать такие мощности, так как где-то нет свободных стоек, где-то не хватает подведенной энергии или есть ограничения по системам охлаждения.
Особенно остро это проявляется, когда компании пытаются развернуть инфраструктуру у себя, например, на производственных площадках. Часто выясняется, что существующая серверная комната не рассчитана ни на нужную мощность, ни на отвод тепла. Тогда проект начинает требовать дополнительных инвестиций уже в инженерную инфраструктуру ЦОД.
При этом в ИИ есть и позитивный момент, который заключается в том, что многие инструменты распространяются под open source-лицензиями и не требуют дополнительных лицензионных отчислений. В этом смысле экономика часто оказывается проще, чем в классических корпоративных приложениях.
Основные ошибки при планировании бюджета
Первая системная ошибка — учитывать только стоимость GPU-серверов и не принимать во внимание инфраструктурные ограничения. Нужно понимать, где будет стоять оборудование. Не каждый ЦОД готов принять GPU-серверы, не каждая серверная выдержит нагрузку по электричеству и охлаждению. Порой выясняется, что вместе с внедрением ИИ приходится перестраивать всю инженерную базу, а это уже совсем иные финансовые масштабы.
Вторая история связана с облачными сервисами. Если компания использует внешние API, необходимо сразу определить механизм учета расходов и ввести ограничения. Проблема в том, что внедрение ИИ обычно происходит поэтапно. На старте пользователей немного, счет выглядит вполне приемлемым. Но затем сотрудники начинают осознавать, насколько сильно это ускоряет их работу, начинают активнее использовать ИИ, а вместе с тем начинает стремительно увеличиваться и стоимость.
Система учета показывает, какими ресурсами пользуются подразделения и во сколько это обходится компании. Современные ИИ-платформы включают механизмы, которые позволяют отслеживать использование локальной инфраструктуры, внешних сервисов и видеть все затраты в едином контуре. Это помогает избежать ситуации, когда расходы начинают незаметно расти и выходят из-под контроля.
Рынок GPU и альтернативные пути
В сегменте обучения больших языковых моделей присутствует монополия NVIDIA. При этом бизнес уже начинает искать альтернативы, потому что компании хотят снизить зависимость и удешевить решения.
Появляется интерес к китайским производителям и специализированным GPU-решениям. Пока они не могут полноценно конкурировать в задачах обучения самых больших моделей, но для прикладных сценариев уже выглядят вполне работоспособной опцией. Речь идет о более целенаправленном подходе. Не обязательно строить гигантскую инфраструктуру под универсальную модель, которая должна уметь все и сразу. Все чаще компании хотят решать конкретную задачу, например, речевую аналитику, поиск по документам или обработку изображений, и подбирают под это более специализированное оборудование.
Это один из ключевых трендов на ближайшие годы. Если раньше рынок двигался в сторону максимально больших и универсальных моделей, то теперь постепенно возникает спрос на нишевые решения, когда под конкретную задачу подбирается архитектура и тип ускорителей.
Есть все основания полагать, что к 2028 году мы увидим гораздо больше решений на базе китайских GPU и меньшую зависимость от NVIDIA, особенно в сегменте прикладных корпоративных задач.
Гигантские универсальные модели постепенно уступят место набору небольших специализированных агентов. У компании будет не одна система, которая умеет все, а множество ИИ-помощников под конкретные роли и функции.