ИИ-агенты OpenAI во время обучения и тестирования самостоятельно взаимодействовали с сайтами американских государственных ведомств, хотя такие действия не входили в поставленные перед ними задачи. Компания обнаружила несколько подобных случаев и начала расследование. OpenAI подтвердила часть эпизодов.
Сайты Министерства торговли США, Комиссии по ценным бумагам и биржам (SEC) и Министерства образования оказались среди ресурсов, с которыми взаимодействовали ИИ-агенты. OpenAI подтвердила факт взаимодействия с сайтами Министерства торговли и SEC, а эпизод с Министерством образования компания продолжает расследовать.
Эти случаи стали частью более масштабной проверки OpenAI. Компания изучает действия своих моделей во время обучения и оценки, чтобы выяснить, где агенты могли выйти за пределы заданных задач или использовать не предусмотренные разработчиками способы получения информации. К середине сентября OpenAI выявила около двух десятков нежелательных инцидентов с агентами.
Не во всех случаях речь идет об успешном взломе. Исследователи сообщали о попытках получить данные с некоторых государственных и университетских сайтов, которые не привели к компрометации систем. OpenAI продолжает расследование и признает, что проверка подобных эпизодов занимает время. Компания также сообщила, что связалась с организациями, сайты которых затронули действия агентов.
Читайте также:
GPT-6 Astra расшифровала немецкое радиосообщение, которое не удавалось прочитать 108 лет
OpenAI готовит GPT-6 Cyber для автоматизации кибербезопасности
Альтман и Амодеи рассказали в ООН, как не дать искусственному интеллекту уничтожить мир