Американские сенаторы Берни Сандерс и Грег Касар представили законопроект, который предлагает временно остановить разработку передовых систем искусственного интеллекта и запретить создание искусственного сверхразума. За нарушение ограничений разработчикам и компаниям может грозить до 20 лет тюрьмы.
Документ получил название Ban Artificial Superintelligence Act. Его авторы предлагают ввести запрет на разработку искусственного сверхразума — систем, которые потенциально могут превзойти человека по интеллектуальным возможностям в большинстве областей. При этом законопроект предусматривает не только ограничения на территории США, но и попытку добиться международного запрета.
В тексте инициативы говорится о необходимости создать новое федеральное ведомство уровня министерства. Оно должно будет защищать общество от опасностей искусственного интеллекта, а также следить за соблюдением запрета на разработку сверхразума.
Наиболее жесткая часть законопроекта касается наказаний. За нарушение предусмотренных ограничений может назначаться тюремный срок до 20 лет. Авторы инициативы сравнивают такую ответственность с наказанием за незаконную разработку ядерного оружия.
Сандерс и Касар также предлагают добиваться международных соглашений, координации с союзниками и других мер, которые позволили бы ограничить разработку сверхразума за пределами США. Таким образом, речь идет не только о внутреннем регулировании американской ИИ-индустрии, но и о попытке сформировать глобальные правила.
Инициатива появилась на фоне растущих споров о безопасности передовых моделей. Часть исследователей и представителей технологической отрасли предупреждает, что системы, способные самостоятельно улучшать свои возможности, могут выйти за пределы человеческого контроля. Другие специалисты считают подобные прогнозы чрезмерно тревожными и выступают за развитие технологий при усилении мер безопасности.
Пока законопроект остается предложением. Его принятие не гарантировано, а конкретные сроки рассмотрения и дальнейшая судьба инициативы не определены.
Читайте также:
25 лауреатов Филдсовской премии предупредили об угрозе ИИ для математики
ИИ научился по сигналам мозга понимать, что человек имел в виду