Пока топ-менеджеры российских компаний с энтузиазмом осваивают no-code, технические специалисты все внимательнее присматриваются к издержкам массового внедрения ИИ-агентов. На форуме Data Fusion спикеры сессии «Софта не будет: как агентный ИИ меняет архитектуру корпоративных систем» фактически разделились на технооптимистов и айтишников-«старообрядцев» и обсуждали, сколько свободы можно и нужно отдавать ИИ-агентам в корпоративной среде, и кто будет отвечать за их промахи.
Руководитель направления «Искусственный интеллект» ИТ‑холдинга Т1 Сергей Голицын, выступивший модератором дискуссии, подчеркнул, что ИИ‑агенты уже «вросли» в офисный софт.
«В Т1 есть процессы, в которых мультиагентные системы сами формулируют задачи, ставят друг другу подзадачи, разрабатывают решения и верифицируют их, фактически закрывая весь контур создания продукта. Главный вопрос сегодня — какие задачи мы готовы делегировать таким «кремниевым коллегам», которые уже переросли уровень скрипта с нейросетевой прослойкой, и насколько к этим изменениям готовы разработчики и пользователи», — отметил он.
Старший управляющий директор Московской биржи по розничному бизнесу и маркетплейсу «Финуслуги» Игорь Алутин подчеркнул, что проникновение ИИ радикально меняет работу с информацией:
«От качества и систематизации данных напрямую зависят и качество, и стоимость вычислений. Эволюция ИИ‑агентов в рознице Мосбиржи, по его словам, началась с FinGPT — виртуального финансового консультанта для частных инвесторов. Опора на открытые источники быстро выявила пределы качества: ответы не всегда были точными, и модель пришлось намеренно «упростить», жестко задав сценарии работы».
Игорь Алутин, старший управляющий директор Московской биржи по розничному бизнесу и маркетплейсу «Финуслуги»
Этот опыт убедил команду, что профессиональный ИИ-агент невозможен без опоры на верифицированные источники. Сейчас под агентную архитектуру перестраивают витрину маркетплейса «Финуслуги», и Алутин ожидает, что в течение ближайшего года до половины пользовательского трафика сместится из классических поисковиков в GPT-подобные интерфейсы, включая отечественные.
«Покупка финансовых продуктов через ИИ‑агента станет для клиента стандартным поведением, но потребность в человеческих компетенциях при принятии инвестиционных решений не исчезнет», — считает он.
«ИИ-агенты возьмут на себя сбор и первичную сводку данных, а человеку еще какое-то время придется заниматься верификацией. По мере роста точности люди будут уходить от сплошного чтения отчетности к проверке и интерпретации данных, потому что институты доверия для инвесторов никуда не денутся», — уверен Игорь Алутин.
Как заметили участники встречи, внедрение ИИ‑агентов в компаниях почти всегда проходит через сопротивление инерции. Советник генерального директора «Р7‑Офис» Михаил Алексеев признал, что айтишники-«старообрядцы» в офисной среде не исчезнут, но их доля будет сокращаться естественным образом — так же, как когда‑то исчезла когорта людей, пользовавшихся интернетом без браузера.
По словам Алексеева, смена пользовательского опыта уже идет: молодое поколение ИТ-специалистов и офисных работников не пишет макросы на VBA, они изначально ориентируются на естественный язык инструкций и мгновенный результат. «В перспективе 20–25% пользователей будут обращаться к таблицам и другим офисным инструментам через диалоговый интерфейс, получая сразу инсайты, а не только цифры, — и это станет нормой и для начинающих специалистов, и для членов советов директоров», — резюмировал он.
При этом, как подчеркивает Алексеев, ИИ не дает сакрального знания: его задача — снять с человека рутину. По оценке компании, 30% рабочего времени среднего офисного сотрудника — рутинные операции, которые можно отдать ИИ-ассистентам и агентам, высвободив сотрудникам время на рефлексию и творчество. Уже сейчас одной из самых востребованных функций становится интеллектуальный семантический поиск документов внутри индивидуального рабочего пространства сотрудника, в разных каналах рабочей коммуникации: только это может освобождать до 10% рабочего времени и напрямую конвертироваться в экономию денег».
Где агент заканчивается и начинается ответственность
Голосом традиционной российской ИТ-школы стал Алексей Лукацкий, бизнес-консультант по информационной безопасности Positive Technologies. По его словам, в нынешнем цифровом ландшафте у большинства компаний есть именно ассистенты, а по-настоящему автономных агентов, принимающих решения без участия человека, пока немного, хотя их доля будет расти.
Лукацкий резко возражает против демонизации безопасников как «жрецов-старообрядцев», которые все только запрещают. «Настоящая задача безопасности — встроить технологию, в том числе ИИ-агентов, в контур компании так, чтобы она не нанесла ущерба и вписывалась в согласованные уровни риска», — подчеркивает он.
Парадокс в том, отмечает эксперт, что ИИ уже глубоко проник в критическую инфраструктуру, включая военные применения. Без раскрытия деталей Лукацкий привел пример одной организации, перед которой стояла задача взломать боевую торпеду с ИИ, чтобы показать доступные противнику векторы атаки.
С юридической точки зрения, напоминает он, любая ИИ‑функция, реализованная в финансовой организации или госкорпорации, автоматически оказывается в контуре критической инфраструктуры, даже если формально не задействует критические процессы. В этом случае зона ответственности разработчика агентов и архитектора безопасности не может ограничиваться удобством: сначала нужно навести порядок в правах и доступах людей, и только потом — строить безопасную «агентскую» архитектуру.
Почему агентам все равно нужен человек
Директор департамента машинного обучения MWS AI (входит в МТС Web Services) Даниил Киреев описал риски некритичного увлечения агентами и no‑code‑программированием. На конкретных примерах он показал, насколько опасно отдавать разработку полностью на откуп ИИ. Во многом это связано с проблемой ИИ-галлюцинаций и «неизвестных неизвестных».
«Для критических контуров необходима многоуровневая архитектура: отдельные модели-цензоры, расширяемые бенчмарки оценки результатов, автоматическое тестирование и постоянная работа над безопасностью и интерпретируемостью поведения агентов».
Даниил Киреев, директор департамента машинного обучения MWS AI (входит в МТС Web Services)
Подводя итоги сессии, участники сошлись в одном: участие ИИ-агентов в бизнес-процессах уже стало фактом. Ключевой навык ИТ-специалистов ближайших лет — не знание того, «на какие кнопки нажимать», а умение формулировать цели, ограничения и критерии качества для искусственного интеллекта и брать на себя ответственность за результат совместной работы человека и ИИ.
На фоне того, что даже в крупных корпорациях доля сотрудников, регулярно использующих новые инструменты, пока далека от 100%, именно способность ставить задачи и управлять агентами может стать главной компетенцией менеджера в эпоху сотрудничества человека и «кремниевого ассистента».