Компания «РТ-Информационная безопасность», входящая в «Ростех», разработала пакеты экспертизы для выявления «теневого ИИ» — ИИ-агентов, которые сотрудники используют на рабочих компьютерах без контроля службы информационной безопасности. Решение работает на базе RT Protect EDR и позволяет определять не только наличие такого программного обеспечения, но и его действия на устройстве.
ИИ-агенты все чаще используются непосредственно на рабочих компьютерах для программирования и других задач. Они могут получать контекст проекта, читать и изменять файлы, запускать команды, обращаться к локальным и внешним моделям, а также использовать плагины и инструменты автоматизации браузера.
При этом агент действует с правами учетной записи пользователя. Поэтому потенциально он может получить доступ к тем же репозиториям, ключам, конфигурационным файлам и другим данным, которые доступны самому сотруднику. В «РТ-ИБ» отмечают, что при анализе активности важно учитывать, от имени какого пользователя работает агент, к каким данным он обращается и какие команды выполняет.
«ИИ-агент действует от имени пользователя, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учетной записи. Обращения ИИ-процессов к таким объектам требуют особого внимания».
Дмитрий Прендецкий, генеральный директор «РТ-Информационная безопасность»
Для разработки системы специалисты «РТ-ИБ» изучили работу распространенных ИИ-инструментов, включая Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline и OpenHands. Также эксперты исследовали локальную среду запуска моделей Ollama. Они анализировали запускаемые процессы, используемые файлы и каталоги, способы установки программ и сетевые обращения.
Исследование показало, что определить работу ИИ-агента только по сетевому трафику или факту установки программы невозможно. Локальные модели могут работать непосредственно на компьютере без обращения к внешним сервисам. Кроме того, ИИ-инструменты могут запускаться разными способами и не всегда отображаться в списке корпоративного программного обеспечения.
На основе исследования специалисты сформировали два пакета экспертизы для RT Protect EDR. «Контроль ИИ-агентов» отслеживает запуск и поведение агента на компьютере, связывает его с учетной записью пользователя и показывает, к каким данным и командам он обращается.
Второй пакет — «Теневой ИИ» — предназначен для выявления несанкционированных клиентов, локальных моделей и каналов обращения к внешним ИИ-сервисам.
Такой подход позволяет отличать установленный, но не используемый ИИ-инструмент от агента, который действительно выполняет действия в рабочей среде. По данным «РТ-ИБ», разработанные признаки также сохраняют применимость при появлении новых ИИ-решений.
Читайте также:
«Ростех» представил очки, которые помогают восстановить режим сна
«Росэл» разработал решение для передачи данных с тонометров в любые медицинские системы