Компания Amazon отказалась от использования нейросети для поиска сотрудников из обширного списка претендентов на основании их резюме, “уличив” систему в дискриминации женщин, сообщает Reuters. Искусственный интеллект должен был проанализировать резюме нанятых сотрудников и на основании полученных данных выбирать лучших кандидатов на должности. Однако специалисты заметили, что нейросеть отдавала преимущество претендентам-мужчинам.

Объяснялось это тем, что программа была настроена на отбор с учетом всего объема данных по кадровому составу компании за последние десять лет. А за этот период большинство заявлений об устройстве на работу поступало именно от мужчин. Поэтому программа, как объясняют специалисты, сделала вывод: кандидаты-мужчины предпочтительнее.

Согласно другим источникам, механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде «выполнил» (executed) или «захватил» (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. В итоге компания разочаровалась в проекте и распустила команду.

Программу ИИ для подбора кадров в Amazon начали применять в 2014 году. В начале 2017 года она была закрыта, а известно об этом стало сейчас. В настоящее время Amazon использует отдельные версии программы подбора кадров, но только для выполнения простейших задач, не требующих независимой оценки.