channel 9
Фото:Shutterstock

"Амазон" отключил ИИ, нанимавший на работу только мужчин

В последние годы крупные компании пытаются создать самообучающиеся программы, так называемые "нейросети", которую выполняли бы вместо людей работу, требующую решения аналитических задач.

Это может быть проверка жалоб пользователей на чужие посты в социальных сетях, распределение загруженных в базу данных товаров по секциям виртуального магазина в зависимости от описания и т. д.

Как выяснили журналисты из американского новостного агентства "Рейтер", в компании "Амазон" умудрились еще в 2014 году создать самообучающуюся программу по отбору кадров для работы в компании.

Программу обучили на основе трудовых биографий всех работников компании за последние годы, и дальше она должна была отбирать новые кадры в соответствии с нужными характеристиками и качествами из открытых рекрутинговых баз.

Доверие к программе было столь высоко, что после загрузки первых ста резюме в систему компания сразу наняла пятерых претендентов, которых выбрала нейросеть.

Однако в 2015 году выяснилось, что искусственный разум обучился в том числе и тому, что чисто статистически мужчины как работники ценнее женщин, поскольку в компании действительно работает много мужчин. И при отборе кадров программа стала предпочитать кандидатов мужского пола. За все время работы она отобрала лишь двух выпускниц колледжей.

Неизвестно, пытался ли "Амазон" перепрограммировать свой искусственный интеллект с целью соблюдения политкорректности, но в 2017 году было принято решение отменить его работу и вернуться к традиционному "человеческому" кадровому отбору.

В "Амазоне" надеялись, что эта история не станет достоянием общественности, но сведения о данном казусе просочились в прессу.