Социальная сеть «ВКонтакте» проводит тестирование нейросети для распознавания агрессивных и грубых высказываний, а также блокировки контента, связанного с разжиганием вражды и ненависти. Об этом говорится в сообщении компании.
По словам разработчиков, новая технология позволит значительно сократить количество оскорбительных публикаций и снизить уровень агрессии среди пользователей. Алгоритм способен самостоятельно распознавать оскорбления и угрозы, а также контент, в которых содержатся расизм, гомофобия, сексизм, ксенофобия и другие материалы, дискриминирующие людей по религиозному, половому или возрастному признакам. Проявление негатива на почве осуждения внешности или наличия заболеваний также расценивается, как нарушение.
Чтобы ускорить модерацию контента, была добавлена новая категория жалоб «Враждебные высказывания». Её можно выбрать, нажав на кнопку «Пожаловаться» в правом верхнем углу публикации. После этого материал будет передан модераторам на рассмотрение.
С начала текущего года благодаря нейросети было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
Подробнее о том, какой контент считается неприемлемым и как ведется борьба с враждебными высказываниями, описано в разделе «Нормы платформы».