Компания Anthropic предложила новые правила регулирования искусственного интеллекта в США. Согласно проекту закона, власти смогут блокировать выпуск ИИ-модели только в случаях, когда она потенциально способна причинить ущерб не менее чем на $1 млрд или привести к гибели либо серьезным травмам 50 и более человек.
Документ предусматривает три категории рисков, которые могут стать основанием для запрета: создание биологического оружия, успешный обход моделью защитных механизмов разработчика и проведение кибератак. Другие угрозы сами по себе не должны давать властям право останавливать выпуск модели в рамках предлагаемой процедуры.
Anthropic также предлагает изменить порядок принятия таких решений. Разработчики передовых ИИ-моделей должны будут регулярно проходить независимую оценку безопасности. Эксперты смогут проверять как саму модель, так и процессы ее разработки. Если они обнаружат серьезную угрозу, то обязаны сообщить о ней ведомству в течение 72 часов после завершения проверки.
Далее Министерство торговли должно будет представить доказательства федеральному суду в округе Колумбия. Именно судья будет решать, следует ли запрещать выпуск конкретной модели. Согласно проекту, другие федеральные ведомства не смогут самостоятельно приостанавливать ее разработку, развертывание или внутреннее использование.
Предложение основано на подходе Anthropic к безопасности передовых ИИ-систем, который компания продвигает на федеральном уровне и уровне отдельных штатов с июня 2026 года. Представитель компании назвал проект разумным набором мер, которые, по мнению Anthropic, Конгрессу следует принять.
Читайте также:
ИИ-агенты Google самостоятельно прошли Minecraft за 27 часов
GPT-5.6 Sol нашла чужой криптокошелек, оплатила им свою работу и скрыла это в отчете