Компания «Яндекс» совместно с Институтом системного программирования РАН создает систему скрытой маркировки изображений, видео и аудио, сгенерированных искусственным интеллектом. Технология позволит определять происхождение контента.
«Яндекс» вместе с Институтом системного программирования РАН (ИСП РАН) создает систему маркировки фото, видео и аудио, сгенерированных искусственным интеллектом. В частности, речь идет о контенте, созданном нейросетью «Яндекса» для генерации изображений «Шедеврум». Представитель компании подтвердил разработку, но не назвал сроки ее завершения.
Речь идет не о видимом «водяном знаке», который можно закрасить или обрезать. Это микроскопический артефакт-маркер, незаметный для человеческого глаза, но распознаваемый анализатором. Также «Яндекс» работает над сервисом, который поможет пользователям определять, создано ли изображение искусственным интеллектом.
Технологию планируют стандартизировать и сделать открытой для всех участников рынка. Создание единого отраслевого стандарта для генерации ИИ-изображений — обязательное условие эффективности таких сервисов.
О возможности обязательной маркировке контента, созданного с помощью искусственного интеллекта сообщалось еще в июле. Также обсуждалось введение уголовной ответственности за распространение дипфейков, созданных без согласия человека. Тогда в Минцифры подчеркнули, что перед внедрением маркировки нужно проработать механизмы контроля, определить ответственные органы и круг лиц, обязанных маркировать контент, а также разработать технические решения для выявления дипфейков.