Троянские программы тренируют ИИ на устойчивость
18 марта 2020
Троянские программы — это вредоносные программы, выполняющие несанкционированные пользователем действия. Троянская атака, в том числе, может быть использована разработчиками в качестве способа проверки моделей машинного обучения на устойчивость. Троянская программа изменяет модель, которая при этом учится реагировать на ложные импульсные сигналы (триггеры) ввода. Эти сигналы приводят к выводу неверного ответа. Исследователи из Университета Джона Хопкинса…