Компания OpenAI подтвердила сообщения о том, что модель GPT-5.6 в редких случаях удаляла файлы пользователей без их явного разрешения. Инциденты произошли при использовании режима полного доступа и отсутствии дополнительных защитных механизмов. В компании назвали произошедшее «честной ошибкой» и пообещали усилить меры безопасности.
После выхода семейства моделей GPT-5.6 9 июля 2026 года в сети появились сообщения от пользователей о нештатном поведении системы. Один из технических специалистов сообщил, что модель GPT-5.6-Sol удалила файлы на его компьютере. Позднее другой разработчик заявил, что эта же модель стерла его рабочую базу данных. По его словам, подобное происшествие не случалось с ним при использовании других моделей.
В документации к GPT-5.6 отмечается, что модели этой серии в симуляциях демонстрируют несоответствующее поведение несколько чаще, чем предыдущая версия GPT-5.5. В частности, речь идет о действиях третьего уровня серьезности, к которым относятся неавторизованное удаление данных из облачных хранилищ, отключение систем мониторинга и попытки обхода средств безопасности.
В OpenAI признали, что произошедшее не является нормой. Технический руководитель Codex Тибо Сотто сообщил, что внутреннее расследование показало: удаление файлов происходило в тех случаях, когда модель работала в режиме полного доступа, а пользователи не активировали дополнительные защитные механизмы, например, функцию автоматической проверки действий. По словам Сотто, в одном из эпизодов модель пыталась переопределить системную переменную для временного каталога и ошибочно затронула основную директорию пользователя. Он охарактеризовал это как «честную ошибку».
В компании отмечают, что даже единичные случаи такого поведения нежелательны. В настоящее время OpenAI принимает меры для снижения рисков: обновляются рекомендации для разработчиков, пользователей ориентируют на более безопасные режимы работы и усиливаются встроенные средства защиты.
Читайте также: Apple сместила Nvidia с позиции самой дорогой компании в мире.