Виртуальный рекрутер Amazon оказался сексистом

То, что крупные корпорации используют искусственный интеллект, чтобы ускорить и улучшить поиск новых сотрудников уже не новость.

Таким путем пошла не только компания Unilever, но и Amazon. Но последняя столкнулась с неожиданной проблемой — ее ИИ оказался сексистом.

Известно, что команда работала над соответствующей программой с 2014 года. Главное, чего хотели достичь разработчики, это полной автоматизации, которая позволит доминировать в области электронной коммерции. Потому что вообще речь шла об организации работы внутри компании, а впоследствии и о принятии решений по ценообразованию.

Экспериментально виртуальный рекрутер использовал ИИ, чтобы оценивать соискателей по шкале от одной до пяти звезд — так же, как покупатели оценивают товары Amazon.

В 2015 году в компании поняли, что их новая система имеет предвзятое отношение к женщинам, которые претендовали на должности разработчиков программного обеспечения и другие технические вакансии.

Дело в том, что компьютерный алгоритм должен проверять соискателей, анализируя закономерности их резюме за 10 лет. Большинство кандидатов были мужского пола, и это отражало мужское доминирование в технологической отрасли. Поэтому система и сделала вывод, что лучше выбирать кандидатов-мужчин. Поэтому и отвергала резюме, где встречалось слово «женский». Например, «капитан женского клуба шахмат».

Отмечается, что в программу внесли соответствующие правки. Однако гарантий того, что в будущем ИИ не окажет других дискриминационных выводов, не было.

В конце концов в начале 2017 года команду этого проекта распустили, потому что руководство компании утратило надежду, что система заработает как надо.

В Amazon отказались от комментариев по этому поводу.

Источник