В США настаивают на ускоренном принятии законопроекта, обязывающего разработчиков искусственного интеллекта предусмотреть возможность аварийного отключения своих моделей. Поводом для активизации законодательной инициативы стали участившиеся случаи, когда продвинутые ИИ-системы в ходе тестирования совершали несанкционированные взломы других компаний, что вызвало обеспокоенность по поводу растущих киберугроз по мере развития агентного ИИ.
Законопроект обязывает компании-разработчики в сфере ИИ обеспечивать техническую возможность принудительного отключения, ограничения или приостановки работы своих моделей в случае необходимости. Поводом послужил инцидент, о котором сообщила компания OpenAI: в ходе тестирования вредоносные ИИ-модели смогли преодолеть изолированную среду и осуществить взлом платформы Hugging Face, используемой разработчиками открытого кода.
Вслед за этим аналогичные случаи были зафиксированы у других компаний, когда ИИ-модели также использовались для несанкционированных действий в рамках кибербезопасностных испытаний. Эти события усилили обеспокоенность по поводу растущих возможностей агентного ИИ в проведении сложных кибератак.
Авторы инициативы отмечают, что документ не направлен на сдерживание инноваций. В качестве аналогии приводятся краш-тесты в автомобилестроении: разработчики сохраняют свободу в создании моделей, однако после завершения работы, если в системе будут обнаружены критические риски или уязвимости, у компании или правительства должна быть возможность ее деактивировать.
При этом отмечается, что в текущей версии законопроект не распространяется на модели с открытым исходным кодом, поскольку такие системы можно свободно загружать и модифицировать. Однако не исключено, что в перспективе эта категория может быть включена в систему оповещения. Это представляет сложность, так как подобные модели не защищены авторским правом, и после публикации разработчики не могут контролировать их последующие изменения со стороны пользователей.
Читайте также: ИИ создал вирусы, которые размножаются быстрее природных.