Шесть крупных ИИ-компаний договорились ввести дополнительные уровни контроля за передовыми моделями искусственного интеллекта. Соглашение предусматривает четыре этапа проверки — от внутреннего мониторинга до независимого аудита и контроля со стороны комитетов при советах директоров.
В соглашении участвуют Google, Anthropic, Meta* , OpenAI, xAI и NVIDIA. Документ был подписан при участии президента США Дональда Трампа.
Первый уровень предполагает постоянный внутренний контроль за возможностями и поведением ИИ-моделей во время обучения и работы. Компании должны отслеживать риски, связанные с кибербезопасностью, биологическими и химическими угрозами, а также возможностью несанкционированного доступа моделей к техническим системам.
На втором уровне отдельная внутренняя команда должна проверять, насколько эффективно работают эти механизмы контроля, и добиваться устранения обнаруженных проблем.
Третий уровень предусматривает независимую внешнюю проверку. Компании должны привлекать аудиторов или других независимых специалистов, которые смогут оценить работу систем мониторинга и контроля.
Четвертый уровень связан с руководством компаний. При советах директоров должны работать независимые комитеты, которые будут получать отчеты внутренних команд и внешних аудиторов, контролировать их работу и следить за устранением выявленных проблем.
Участники соглашения также планируют регулярно обмениваться опытом и разрабатывать общие подходы к безопасности ИИ. Это должно помочь сформировать единые практики для оценки рисков, связанных с наиболее продвинутыми моделями.
При этом соглашение носит добровольный характер и само по себе не является законом. В документе допускается, что предложенные меры в дальнейшем могут быть закреплены в законодательстве или нормативных требованиях.
* Meta — признана экстремистской организацией и запрещена в России
Читайте также:
Конфуцианская философия помогает осмыслить развитие искусственного интеллекта
GPT-6 Astra за два дня расшифровала сообщение Enigma 1941 года, остававшееся загадкой 20 лет
Альтман и Амодеи рассказали в ООН, как не дать искусственному интеллекту уничтожить мир