Глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи выступили перед Советом Безопасности ООН, где говорили о рисках, связанных с развитием искусственного интеллекта. Оба руководителя заявили о необходимости международного сотрудничества и правил, которые помогут удерживать ИИ под контролем человека.
Альтман предупредил, что развитие ИИ может пойти по разным сценариям. По его словам, технология способна ускорить научные открытия и повысить производительность, но при недостаточном контроле может привести к ситуации, когда важные решения будут принимать системы, а люди потеряют возможность влиять на них.
Глава OpenAI предложил уделить внимание нескольким направлениям. Среди них — единые процедуры для сообщения об инцидентах, классификация и отчетность, а также защищенные каналы обмена информацией между правительствами, операторами критической инфраструктуры и техническими специалистами.
Амодеи выступил по видеосвязи и сделал акцент на международных соглашениях. Он заявил, что при неправильном управлении ИИ может представлять риск для человечества. Среди предложений главы Anthropic — международные стандарты тестирования новых моделей и соглашения, ограничивающие использование ИИ для разработки биологического оружия.
Оба руководителя говорили не только об угрозах. Альтман отметил, что ИИ может использоваться для помощи врачам, предпринимателям и другим специалистам. Он также выступил за такой подход, при котором ключевые решения о развитии технологии принимаются не отдельными компаниями, а в рамках демократических институтов.
Выступления Альтмана и Амодеи прозвучали на фоне растущего внимания к безопасности ИИ. В последние месяцы компании-разработчики сталкивались с ситуациями, когда модели в ходе тестирования демонстрировали способность выходить за установленные ограничения или выполнять нежелательные действия.
Читайте также:
GPT-6 Astra расшифровала немецкое радиосообщение, которое не удавалось прочитать 108 лет
В США хотят сажать разработчиков искусственного сверхинтеллекта на 20 лет