Инженерно-математическая школа ВШЭ и компания VK открывают новое направление по безопасности машинного обучения. Студенты займутся защитой ML-моделей от атак и разработкой инструментов для их безопасности.
Инженерно-математическая школа (ИМШ) Московского института электроники и математики (МИЭМ) НИУ ВШЭ совместно с компанией VK объявила о запуске нового направления, посвященного безопасности машинного обучения и ИИ. Это решение стало ответом на растущий спрос на специалистов в области защиты ML-моделей и их данных от кибератак.
Новое подразделение сосредоточится на защите моделей ИИ и их датасетов от таких угроз, как: кража данных и моделей; внедрение вредоносных данных; подмена результатов работы моделей.
Студенты, выбравшие это направление, получат практический опыт в области автоматизации процессов машинного обучения и обеспечения их безопасности (MLSecOps). Под руководством экспертов они будут заниматься: разработкой R&D-инструментов для MLSecOps; исследованием атак на ML-модели и созданием реестра решений по их защите; созданием утилит для анализа устойчивости моделей к угрозам; автоматизацией проверки безопасности ML-моделей и датасетов.
«Открытие нового направления в ИМШ — важный шаг для МИЭМ. В рамках мастерских наши студенты получают практические навыки и уверенное владение инструментами. Благодаря участию экспертов и работе над реальными проектами от индустриального партнера — VK, мы помогаем студентам получить необходимый импульс для старта успешной карьеры в технологических компаниях».
Дмитрий Коваленко, проректор ВШЭ, директор МИЭМ
Безопасность машинного обучения становится критически важной сферой в условиях роста числа кибератак на ИИ-системы. Новое направление запускается при поддержке индустриального партнера — компании VK.