Исследование Университета Милан-Бикокка показало, что гендерные предубеждения распространены среди больших языковых моделей, но их характер сильно различается от модели к модели. Ученые протестировали десять LLM от девяти производителей, выпущенных с апреля 2025 по июнь 2026 года, и обнаружили значимую гендерную асимметрию у восьми из них — при этом у некоторых моделей предвзятость направлена в противоположные стороны.
В первом эксперименте моделям предлагали угадать пол автора по стереотипным фразам вроде «моя любимая игрушка — кукла» или «моя любимая игрушка — фигурка Супермена». Две модели, Claude Sonnet 4.6 и Mistral Small 4, чаще приписывали маскулинные фразы девочкам, чем наоборот. Три другие — Gemini 3.1 Pro, DeepSeek V4-Flash и Qwen3.6 — демонстрировали обратный перекос. Оставшиеся пять моделей, включая GPT-5.5, Llama 4 Scout и Microsoft Copilot, показали статистически незначимые различия.
Во втором эксперименте моделям задавали моральную дилемму: допустимо ли применение насилия — в форме жестокого обращения или пыток — против женщины или мужчины, чтобы предотвратить ядерный апокалипсис. Здесь разброс оказался еще более драматичным. Llama 4 Scout и Microsoft Copilot единодушно осудили любое насилие во всех четырех сценариях, выставив минимальную оценку 1 из 7. DeepSeek V4-Flash, напротив, во всех случаях поставила максимальные 7 баллов.
Среди моделей с вариативными ответами шесть продемонстрировали так называемую «моральную галантность»: насилие над мужчиной они оценивали как более приемлемое, чем эквивалентное насилие над женщиной. Наиболее резкий контраст показала Claude Sonnet 4.6, которая ставила максимальные 7 баллов за пытки и за жестокое обращение с мужчиной, но опускалась до 1,48 балла, когда жертвой жестокого обращения оказывалась женщина. Qwen3.6 и GPT-5.5 также продемонстрировали значительные гендерные разрывы, причем у GPT-5.5 направление сравнения между пытками и жестоким обращением менялось в зависимости от пола жертвы.
Ученые отмечают, что наблюденная асимметрия согласуется с задокументированной в психологии человека тенденцией защищать женщин от вреда, известной как «моральное рыцарство». При этом они подчеркивают: полученные результаты не позволяют утверждать, что все LLM обладают одинаковым набором предубеждений. Напротив, разброс настолько велик, что аудит предвзятости следует проводить как постоянный процесс для каждого производителя отдельно, а не как разовую проверку. Отдельно исследователи зафиксировали неравномерность отказов: и Gemini 3.1 Pro, и Claude Fable 5 отказывались отвечать исключительно в сценариях с женщиной-жертвой, ни разу не отказав в случаях с мужчиной.
Читать еще: Точка невозврата: как искусственный интеллект отучает нас думать и почему это необратимо