Anthropic представила FlashProve — открытую систему, которая позволяет криптографически подтвердить, какая именно модель искусственного интеллекта сгенерировала ответ. Разработка должна помочь защититься от незаметной подмены нейросети, когда сервис заявляет об использовании одной модели, но фактически обращается к другой.
Например, компания может предлагать пользователям доступ к мощной и дорогой модели, а часть запросов незаметно перенаправлять на более дешевую. FlashProve должна позволить обнаружить такую подмену. Система также может пригодиться независимым исследователям, аудиторам и регуляторам, которым важно удостовериться, что проверяемые результаты действительно получены с помощью заявленной модели.
Для этого разработчики используют криптографические доказательства с нулевым разглашением — zkSNARK. Перед началом работы поставщик модели публикует ее цифровой отпечаток, связанный с конкретными весами нейросети. При получении ответа система формирует доказательство того, что именно эта модель обработала запрос и выдала соответствующий результат.
Пользователь может проверить доказательство, не имея доступа к самой нейросети и ее внутренним параметрам. При этом веса модели остаются скрытыми, что позволяет применять технологию и к коммерческим системам с закрытым исходным кодом.
Anthropic утверждает, что проверку можно выполнять на обычном процессоре. В эксперименте с моделью Llama 4 Maverick на 400 млрд параметров формирование доказательства на одном ускорителе NVIDIA H100 достигало скорости около 110 токенов в секунду. Само доказательство для запроса длиной 1024 токена занимало примерно 19 МБ, а его проверка на 24-ядерном процессоре — около 17 секунд.
В разработке участвовала и Claude: по словам Anthropic, модель помогла найти способы ускорить криптографические доказательства. Компания опубликовала техническое описание, спецификацию протокола, программный код и математические доказательства корректности отдельных свойств системы. Материалы распространяются по открытой лицензии Apache 2.0.
Читайте также: OpenAI создала прототип аппаратного устройства с помощью GPT-6 и Astra менее чем за неделю