Код, написанный ИИ — это «кот в мешке», проверить его можно только наблюдением

Илья Захаров, директор департамента мониторинга «Группы Астра», уверен, что наблюдаемость станет главным способом контролировать код, который написал ИИ.

Источник: bibka56.ru

«Раньше разработчик отчетливо понимал, что происходит в его коде, но сегодня часть, которую пишут агенты, становится все больше, и по-настоящему код не знает никто. При этом он все равно попадет в промышленную эксплуатацию после проверок, тестов и согласований, по итогам которых все будут уверены, что проблем нет», — говорит Илья Захаров.

Сегодня единственный способ узнать, как такой код ведет себя на самом деле — наблюдать за ним в работе. «Наблюдаемость из инструмента эксплуатации превращается в главный механизм контроля качества. Метрики, логи и трассировки становятся по сути документацией: они рассказывают, что делает код, лучше, чем любой человек в команде. Телеметрия будет закладываться в код уже при генерации», — продолжает эксперт «Группы Астра».

Эксперт также прогнозирует, что в ближайшем будущем агенты смогут сами устранять типовые сбои и работать в дежурной смене.

«Первые шаги в этом направлении уже сделаны. На конференции «Группы Астра» был представлен AMAIA (Astra Monitoring AI Agents) — агентный слой поверх платформы наблюдаемости. Агенты работают по инструкциям на русском языке, разбирают инциденты, накапливают опыт и разворачиваются внутри контура заказчика. Сейчас они уже работают в пилотах у крупных компаний».

Илья Захаров, директор департамента мониторинга «Группы Астра»

Какие задачи ИИ решает в мониторинге, можно будет узнать на вебинаре 16 октября в 14:00. Зарегистрировать можно по ссылке.

Что будем искать? Например,ChatGPT

Мы в социальных сетях