Робота для жінок

Компания подозревает искусственный интеллект в сексизме

12 октября 2018 р.

Поручив команде разработчиков написание универсального алгоритма, помогающего отбирать нужных кандидатов, компания Amazon даже не подозревала, что открывает самый настоящий «ящик Пандоры» сексизма.

Положив основу 50 000 базовых терминов, разработчики создали около 500 рабочих моделей, способных отбирать интересующих компанию кандидатов. Однако, через год работы, внимание было обращено на то, что программа отдает предпочтение мужским кандидатам, отбирая последних заметно непропорционально, в сравнении с женщинами.

Объясняя такие особенности тем, что за основу изначально «эталонов» были взяты безупречные резюме работающих в компании мужчин, в Amazon пытались не обратить на это особого внимания. Но, позже стали известны еще подробности.

Так оказалось, что резюме, содержащие «чисто женские» термины и наименования, блокировались программой еще на стадии обнаружения, а среди всех поступающих кандидатов-женщин, искусственный интеллект выбирал только выпускниц двух учебных заведений.

При этом, никаких «специальных вводных» при его создании задействовано не было, и считается, что к выводам, касательно большей эффективности мужчин, как работников для компании, ИИ пришел самостоятельно.

В компании уже отказались от услуг этой программы, посчитав ее неэффективной, однако по слухам, еще продолжительное время, кадровые службы Amazon прислушивались к рекомендациям ИИ в отношении того или иного кандидата.