Группа исследователей из Стэнфордского института искусственного интеллекта (Stanford HAI) под руководством Риши Боммасани (Rishi Bommasani) опубликовала результаты четырёхлетнего исследования, показавшего, что алгоритмы найма, используемые работодателями, нарушают федеральные стандарты США по защите гражданских прав, отсеивая непропорционально большое число чернокожих и азиатских кандидатов.
Исследование, проведённое на данных 3,3 млн соискателей, подавших более 4 млн заявок на 1700 вакансий в 150 компаниях, выявило системные нарушения в работе ИИ-систем, разработанных одним из крупных поставщиков решений для найма. По оценкам учёных, 30% чернокожих и 18% азиатских кандидатов столкнулись с «неблагоприятным воздействием» — термин, используемый в американском законодательстве для обозначения дискриминации по расовому признаку.
Авторы работы отмечают, что алгоритмы, применяемые работодателями, формируют «алгоритмический монокультур»: схожие системы, созданные одним вендором, используются для оценки кандидатов в разных компаниях. Это приводит к однородности результатов — соискатели могут получать отказы на все заявки из-за единого алгоритма. «Если бы эти группы отбирались с той же частотой, что и наиболее успешная группа (как правило, белые кандидаты), то дополнительно было бы одобрено 40 тыс. заявок», — говорится в исследовании.
Особенность работы заключается в том, что учёные получили доступ к реальным данным вендора за период с 2018 по 2022 год, что позволило оценить влияние ИИ на практике. При этом, как подчёркивают авторы, независимые исследования в этой области затруднены из-за ограниченного доступа к данным и системам. «Нам необходимо больше эмпирических исследований, особенно в условиях, когда индустрия переходит к более сложным моделям», — заявил Боммасани.
Исследование также показало, что 80% неблагоприятного воздействия на чернокожих кандидатов приходится на 23% вакансий — эффект, известный как «эффект Матфея» (концентрация негативных последствий в отдельных сегментах). Кроме того, учёные смоделировали сценарий, при котором соискатели подают заявки на большее число вакансий: ни один кандидат не был бы отвергнут на все 1700 позиций, однако многим пришлось бы расширить круг поиска, чтобы минимизировать риск системного отказа.
Источники: X-пост Риши Боммасани (Rishi Bommasani), 26 мая 2026; исследование Stanford HAI.