Специалисты ИТ-компании «Криптонит» разработали метод, позволяющий удалять цифровые образы конкретных людей из нейросетей, обученных распознавать лица. Решение направлено на реализацию юридического права на забвение, позволяя отозвать согласие на обработку биометрии без ущерба для качества идентификации остальных пользователей.
Обычно системы распознавания лиц устроены таким образом, что даже после удаления фотографии человека из базы данных его цифровой образ продолжает храниться внутри самой нейросети. Алгоритм, обученный на этих данных, сохраняет способность идентифицировать человека, что делает выполнение законодательных требований о прекращении обработки биометрии технически сложной задачей. Эта проблема усугубляется рисками утечек, так как биометрические данные, в отличие от пароля, нельзя сменить. Украденные цифровые слепки могут использоваться для создания подделок и получения доступа к устройствам и сервисам.
Новый метод, разработанный в «Криптоните», решает эту проблему кардинально иначе. Вместо маскировки данных алгоритм воздействует на внутреннюю логику системы, делая так, чтобы она перестала узнавать конкретного человека. Проще говоря, технология «рассеивает» цифровые следы конкретного лица внутри модели, при этом способность распознавать всех остальных людей сохраняется на прежнем высоком уровне.
Автор метода, специалист лаборатории искусственного интеллекта компании «Криптонит» Михаил Захаров, пояснил суть работы: система идентифицирует человека до тех пор, пока внутри нее существует его цифровой образ. Разработанный подход позволяет рассеять эти данные, делая их недоступными для алгоритма.
Эффективность технологии подтверждена испытаниями на общедоступных тестовых наборах данных. Они показали, что точность идентификации «забытых» людей снижается до 88%, в то время как общие показатели работы системы распознавания остаются без изменений.
Применение технологии возможно в различных сферах: в системах видеонаблюдения, контроля доступа (СКУД) и для обеспечения корпоративной безопасности. Например, с ее помощью можно удалять биометрические данные уволенных сотрудников. В будущем планируется интеграция этого решения в открытые промышленные фреймворки, что предоставит бизнесу и государству инструмент для ответственного обращения с биометрической информацией.