Компания Яндекс расширила программу поиска уязвимостей, включив в нее генеративный ИИ. Теперь исследователи могут получить до миллиона рублей за обнаружение критических ошибок в YandexGPT и YandexART, которые могут нарушить работу сервисов или привести к утечке данных.
Яндекс запустил новое направление в программе «Охота за ошибками», посвященное генеративным нейросетям. Теперь белые хакеры могут получить до миллиона рублей за обнаружение технических уязвимостей в моделях YandexGPT, YandexART и связанной с ними инфраструктуре. Участникам программы предстоит искать критические ошибки, способные нарушить работу нейросетей, исказить их поведение или повлиять на другие сервисы компании.
Наибольшие выплаты предусмотрены за уязвимости, приводящие к утечке служебных данных, например технических промтов или внутренней конфигурации моделей. При этом сообщения о некорректных ответах Алисы или ошибках в генерации изображений не считаются уязвимостями и не вознаграждаются.
Генеративные нейросети Яндекса уже интегрированы в более чем 20 сервисов, включая Алису, Поиск с Нейро, Директ и решения Yandex Cloud. Включение этих технологий в программу баг-баунти позволит провести их независимую проверку и укрепить безопасность.
Компания заранее прорабатывает защиту, анализируя архитектуру на этапе проектирования, используя систему «Антиробот» для отражения DDoS-атак и постоянно мониторингя угрозы. Регулярные внутренние аудиты дополняют эти меры, обеспечивая надежность сервисов.
С 2012 года в компании работает программа «Охота за ошибками» — система вознаграждений для специалистов по кибербезопасности. Этичные хакеры помогают улучшать защиту сервисов Яндекса.