Bumble внедрили нейросеть, вычисляющую спам, мошенничество и поддельные профили. Новый инструмент призван реагировать на вредоносный контент еще до того, как пользователи с ним столкнутся.
Приложение для онлайн-знакомств и нетворкинга Bumble дополнили новым инструментом Deception Detector, созданным на базе искусственного интеллекта. В ходе тестирования компания обнаружила, что нейросеть способна автоматически блокировать 95% аккаунтов, которые были идентифицированы как спам или мошенничество. За 2 месяца тестирования количество сообщений пользователей о поддельных аккаунтах сократилось на 45%. Детектор обмана работает совместно с модераторами.
Запуск новой функции произошел после того, как внутреннее исследование Bumble показало, что поддельные профили и риск мошенничества являются главными проблемами пользователей при онлайн-знакомствах. Исследование также показало, что 46% женщин выразили беспокойство по поводу подлинности их онлайн-знакомств в приложениях.
Новый инструмент — это функция ИИ, призванная сделать приложение безопаснее. В 2019 году Bumble уже представляла «Частный детектор», который автоматически размывает изображения обнаженной натуры и помечает их как таковые в чатах, позволяя пользователям просматривать изображения или сообщать о спаме.
Компания также использует искусственный интеллект в Bumble For Friends, специальном приложении для поиска друзей. Недавно в него внедрили нейросеть, которая помогает пользователям писать и отправлять первое сообщение на основе профиля другого человека.