Почему одной сильной модели уже недостаточно: интервью с Денисом Нагаевым, CTO OSMI IT

Корпоративный ИИ развился уже настолько, что не нуждается в новых технологических решениях, но испытывает дефицит связности. Подключить сильную модель недостаточно, ее нужно встроить в ландшафт корпоративных систем, уровней доступов, баз знаний компании и часто ручных процессов. На этом фоне выходит обновление платформы OSMI AI, которая становится полноценной библиотекой готовых ИИ-агентов для автоматизации разных бизнес-процессов: HR, продажи, маркетинг, бухгалтерия, etc. Мы решили обсудить архитектурные вызовы такого решения и техническую сторону его внедрения в корпорациях с CTO OSMI IT Денисом Нагаевым.

Корпоративный ИИ развился уже настолько, что не нуждается в новых технологических решениях, но испытывает дефицит связности. Подключить сильную модель недостаточно, ее нужно встроить в ландшафт корпоративных систем, уровней доступов, баз знаний компании и часто ручных процессов. На этом фоне выходит обновление платформы OSMI AI, которая становится полноценной библиотекой готовых ИИ-агентов для автоматизации разных бизнес-процессов: HR, продажи, маркетинг, бухгалтерия, etc. Мы решили обсудить архитектурные вызовы такого решения и техническую сторону его внедрения в корпорациях с CTO OSMI IT Денисом Нагаевым.

— Какой на сегодня главный технический барьер для внедрения искусственного интеллекта в крупных компаниях? 

На мой взгляд, это неготовность инфраструктуры и внутренних процессов. Во многих компаниях ИИ приходится внедрять в системы с разрозненной архитектурой, в которой нет связности между ИТ-контуром, данными и реальными рабочими сценариями. И здесь мы сталкиваемся даже не с проблемой качества модели, а с тем, как она встраивается в процессы и обеспечивает безопасный и воспроизводимый результат. Добиться эффективности помогает мультиагентная логика, при которой компания использует разных ИИ-агентов в разных ролях на разных частях процессов. Оркестрируя их, можно обеспечить предсказуемость, повторяемость и контроль результатов.

— Возможно ли добиться эффективности, используя лишь одну модель?

Такое стратегическое ограничение снижает возможность маневра. Ведь разные модели могут похвастаться преимуществами на разных сценариях: где-то выигрывает цена инференса, где-то важнее соответствие требованиям ИБ, где-то скорость, где-то глубина и качество рассуждений. Но в целом следовать можно одному правилу на любой модели: чувствительные данные всегда должны быть в локальных моделях в контуре, а для всех остальных подойдут облачные варианты под конкретную задачу. 

— Почему разделение сред на dev/test/prod так важно именно для ИИ?  

Инженерная дисциплина важна здесь не меньше, чем в классической разработке, а даже больше. Ведь поведение ИИ-систем зависит не от одного слоя логики, а сразу от нескольких. В решениях меняются не только код, а еще и промпты, состав базы знаний, права доступа, интеграции и т. д. Если править все это «по живому», то результаты будут непредсказуемыми.

— Во многих компаниях камнем преткновения для внедрения ИИ становится невозможность выстроить систему так, чтобы его работа была полностью прозрачна. Как с технической точки зрения выстроить процессы так, чтобы поведение ИИ поддавалось контролю, была возможна бизнес-аналитика и выполнялись требования СБ? 

Такие проблемы решает наблюдаемость на каждом этапе цепочки в каждом конкретном сценарии: по какой логике ИИ-агент обрабатывал запрос, где возник сбой, почему маршрут был именно таким, а не другим. Дополнить картину могут дашборды с аналитикой по стабильности работы ИИ и затратами на него. Это помогает анализировать проект со всех точек зрения.

— Почему в корпоративной среде недостаточно просто подключить RAG ко внутренним документам и какие риски возникают без продуманного разграничения доступа?

Работа с внутренними документами компании — это фундамент платформенного подхода. Возможность индексирования документов, поиска, включение релевантного контекста ни в коем случае не должны быть реализованы через отдельные продукты. Но когда все документы собираются в единый источник, возникает другой вопрос: кто имеет права доступа и на каких уровнях? Поэтому RAG без RBAC — прямой риск утечки и неконтролируемого доступа к данным. В корпоративной среде у команд должны быть раздельные доступы и к документам, и к средам, и к проектам.

— Еще один слой, подверженный рискам, — интеграционный. С какими техническими ограничениями сталкиваются компании при внедрении внешних систем? 

В живом контуре внешние системы могут отвечать нестабильно, менять поведение, выдавать ошибочные ответы. Внутренняя система должна уметь с этим работать: управление SLA и ретраями, контроль логов, прозрачная работа с веб-хуками, схемы взаимосвязей, источники данных, централизованное управление секретами и ключами… Как только локальное решение становится частью бизнес-процессов, отсутствие стандартов безопасности сразу превращается в повышенные операционные риски, и наша задача — этого избежать.

— То есть обновление OSMI AI до библиотеки ИИ-агентов отражает не столько новый интерфейс, сколько улучшения безопасности и управляемости? 

Да, для нас это обновление стало зеркалом того, как мы в целом видим корпоративный ИИ — в формате мультиагентной системы, не набора разрозненных ИИ-инструментов под отдельные задачи. Для бизнеса это значит быстрое бесшовное внедрение, возможное даже без ИТ-навыков, а для ИТ — предсказуемую архитектуру, в которой прозрачны все процессы.

Корпоративный ИИ начинается не с красивого интерфейса, а с управляемой архитектуры, доступа к знаниям, ролевой безопасности и готовых рабочих сценариев. Именно так устроен OSMI AI. 

Что будем искать? Например,ChatGPT

Мы в социальных сетях