В России обсуждается порядок проверки крупных искусственных интеллектуальных моделей на соответствие законодательству и традиционным духовно-нравственным ценностям. По данным источников, эта тема рассматривалась на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к недавно принятому закону об ИИ.
Закон об искусственном интеллекте был принят 26 июля и вводит два специальных статуса для фундаментальных моделей: «суверенный» и «национальный». Для получения любого из них модель должна пройти проверку на соответствие российскому правовому полю и ценностным ориентирам, закреплённым в указе президента. При этом сам закон носит рамочный характер, а конкретные механизмы реализации предстоит определить в подзаконных актах, разработкой которых занимаются Минцифры, ФСБ и ФСТЭК.
Процедура подтверждения соответствия может включать следующие этапы: разработчик подает заявление в независимую испытательную лабораторию, прилагает описание архитектуры модели, данные о разработчике и механизмах фильтрации. Затем лаборатория проводит экспертизу с использованием специальных бенчмарков — тестовых наборов данных, — проверяет ответы модели и ее устойчивость к попыткам обхода ограничений, например, с помощью промпт-инъекций. По итогам тестирования выдается заключение, которое направляется в правительственную комиссию по цифровизации. Положительное заключение становится одним из условий для присвоения статуса и получения доступа к мерам государственной поддержки, включая участие в госзакупках и приоритетное использование в значимых ИТ-проектах.
Обязательная проверка для всех ИИ-моделей, представленных на рынке, не предусматривается. Требования касаются только тех разработок, которые претендуют на специальный статус и связанные с ним преференции. В Минцифры отмечают, что регулятор намерен опираться на уже существующую экспертизу крупных российских компаний, у которых есть собственные инструменты для ограничения нежелательных запросов, а не создавать систему тестирования с нуля.
На данный момент пакет подзаконных актов проходит межведомственное согласование и дорабатывается с учетом предложений экспертов и бизнеса, поэтому окончательная конструкция проверки пока не утверждена.
Представители отрасли отмечают, что жесткое регулирование часто отстает от технологического прогресса, а у крупных разработчиков уже есть необходимые компетенции. С другой стороны, возникает вопрос о том, как перевести такие абстрактные категории, как гражданственность или историческая память, в четкие технические критерии. Эксперты указывают, что для минимизации рисков субъективных трактовок важно предусмотреть прозрачную процедуру: единые форматы отчетов, фиксированные наборы тестов, возможность повторного тестирования после обновлений, а также создание системы аккредитации лабораторий и апелляционного механизма. Также обсуждается целесообразность ведения публичного реестра заключений и введения срока действия сертификатов.
В настоящее время идет процесс формирования нормативной базы, которая определит правила взаимодействия государства и ИИ-разработчиков в части оценки соответствия моделей установленным требованиям. Окончательные параметры этой системы станут известны после завершения согласительных процедур.
Читайте также: МС-21 с «черным крылом» проходит испытания перед серийным выпуском