Большинство компаний, использующих ИИ-инструменты, не оценивают их уязвимости перед внедрением, что приводит к утечкам данных и кибератакам. По данным «Информзащиты», 80% организаций уже столкнулись с компрометацией информации из-за небезопасного использования ИИ.
67% компаний, внедряющих ИИ-инструменты, не оценивают их защищенность и влияние на безопасность инфраструктуры заранее. По данным «Информзащиты», приоритетом для бизнеса остается скорость внедрения, а вопросы безопасности решаются постфактум, когда ИИ уже интегрирован в систему. Наиболее частым инцидентом становится утечка данных — с ней столкнулись 80% организаций. Без предварительной оценки рисков ИИ-решение может получить доступ к избыточной конфиденциальной информации, передавать ее через уязвимые API или хранить в ненадежных базах, что повышает риск взлома и потери данных.
Еще одна распространенная угроза — prompt injection-атаки, когда злоумышленники манипулируют запросами к ИИ, чтобы изменить его поведение. Это позволяет получать закрытые данные, внедрять вредоносное ПО или менять настройки безопасности. С такими атаками столкнулись более 40% компаний, пропустивших этап проверки ИИ-инструментов.
Особенно уязвим малый и средний бизнес: на него приходится 90% атак через уязвимости ИИ. Эти компании часто внедряют технологии в спешке, стремясь оптимизировать процессы или сократить штат, и пренебрегают защитой данных. Эксперты советуют проводить аудит информационной безопасности и пентесты до интеграции ИИ-решений, чтобы минимизировать риски.