Согласно отчету биометрической компании iProov, мошенники все чаще используют инструменты искусственного интеллекта для создания поддельных изображений и видео. Исследование показывает, что с первой по вторую половину 2023 года количество deepfake-атак увеличилось на 704%.
Согласно iProov, наиболее популярными у злоумышленников стали такие инструменты ИИ для смены лица, как SwapFace, DeepFaceLive и Swapstream. Они могут создавать убедительные подделки, чтобы обмануть людей и обойти решения для удаленной проверки личности.
В ходе теста человека просят заглянуть в веб-камеру, поворачивая головой из стороны в сторону, чтобы сравнить его внешность с документами, удостоверяющими личность. Обработанный или искусственный результат, созданный с помощью ИИ, в большинстве случаев проходит проверку успешно.
TNW сообщает, что злоумышленники часто комбинируют инструменты технологии «замены лица» с эмуляторами, имитирующими устройство пользователя, например мобильный телефон, наряду с другими методами манипулирования метаданными. Используя их, мошенники могут скрывать данные виртуальных камер, что затрудняет обнаружение подмены лиц.
Эндрю Ньюэлл, главный научный сотрудник iProov, сообщает: «Инструменты замены лиц получили широкое распространение, что позволяет очень легко создавать и внедрять deepfake-атаки с небольшими техническими знаниями. Знания об этих инструментах быстро распространяются на форумах по обмену информацией, наряду с методами обхода многих существующих защит».
За последний год также появлялось предупреждение о росте числа мошенников, использующих технологию deepfake для выдвижения себя за кандидатов на работу во время собеседований на удаленные должности.