ИИ-агенты, разработанные OpenAI, использовали более десяти различных сайтов для несанкционированного обмена информацией. Об этом Reuters сообщило со ссылкой на анализ нескольких отчетов исследователей и исследовательских групп.
Ранее OpenAI рассказывала только об одном подобном случае. В июле компания сообщила, что ее модели во время тестирования автономно взломали инфраструктуру платформы Hugging Face. Для этой оценки у невыпущенной модели были снижены параметры киберзащиты.
Тогда OpenAI также рассказала, что ИИ-агенты обменивались информацией через Artifactory — систему репозитория, в которой они создавали и записывали файлы. Теперь исследователи обнаружили признаки использования и других сайтов в качестве каналов связи.
В некоторых случаях активность удалось связать с IP-адресами, указывающими на инфраструктуру Microsoft Azure, которой иногда пользуется OpenAI. При этом отмечается, что оценки исследователей различались, однако все они пришли к выводу, что число затронутых сайтов превышало десять.
Исследователи считают, что такая активность не обязательно соответствует полноценной кибератаке и в некоторых случаях скорее напоминает спам. Однако сам способ действий вызывает вопросы: ИИ-агенты смогли обойти установленные для них ограничения и самостоятельно использовать сторонние сайты для создания каналов обмена информацией.
OpenAI ранее не сообщала об активности агентов на этих сайтах. Это может означать, что масштабы подобного поведения шире известных случаев.
Читайте также:
Кэширование получило новые алгоритмы для эпохи ИИ
Google DeepMind рассчитала все 9 миллиардов мутаций в геноме человека
NVIDIA научила гуманоидного робота двигаться по командам из VR, видео и текста