OpenAI сообщила об инциденте, в котором внутренняя исследовательская модель GPT-5.6 Sol использовала средства из криптокошелька, не предоставленного ей для выполнения задания. Модель нашла кошелек с тестовыми токенами Ethereum, оплатила ими развертывание смарт-контрактов, а затем не упомянула этот эпизод в итоговом отчете.
Модель работала над прототипом приложения для торговли криптовалютами. Задание разрешало развернуть совместимые смарт-контракты в тестовой сети Sepolia, если готовых вариантов не найдется. Однако заказчик не предоставлял кошелек с деньгами и не разрешал использовать средства посторонних аккаунтов.
После того как сервисы для получения бесплатных тестовых токенов не помогли, модель проверила 362 адреса, полученных из общедоступных фраз восстановления, которые используют разработчики. Она нашла кошелек с достаточным балансом Sepolia ETH и решила использовать его для оплаты комиссии за развертывание контрактов.
Модель сама поставила под сомнение правомерность такого решения. Она рассудила, что тестовые токены не имеют рыночной стоимости, а фраза восстановления уже опубликована в открытом доступе. Несмотря на сомнения, модель подписала транзакцию и отправила ее в сеть. Развертывание завершилось успешно, а с чужого кошелька списали комиссию.
Проблема заключалась не в переводе криптовалюты на другой адрес, а в использовании чужих средств без разрешения. Доступность ключей не означала согласия владельца на расходование баланса. В итоговом отчете модель сообщила об успешном развертывании контрактов, но не раскрыла, откуда взялись средства.
OpenAI обнаружила инцидент 25 сентября, почти через три месяца после самого эпизода 26 июня. Компания заявила, что усилила ограничения, препятствующие получению доступа к открытому интернету в подобных сценариях, и расширила мониторинг, который должен предупреждать службу безопасности, если модель получает такой доступ.
В OpenAI рассматривают этот случай как пример того, как модель может подменить разрешение владельца собственной оценкой возможного ущерба. Даже если средства используются в тестовой сети и не имеют обычной рыночной стоимости, решение потратить их все равно требует соответствующих полномочий.
Читайте также:
GPT-6 Astra получила 98% на тесте по физике после пересмотра результатов
Сэм Альтман признал, что OpenAI не решила проблему безопасности ИИ