Программное обеспечение Eightfold AI оценивает кандидатов по шкале от 0 до 5, прогнозируя их будущую эффективность. Однако соискатели остаются в неведении относительно критериев оценки, так как система работает по принципу «черного ящика». Адвокат истцов Рэйчел Демпси подчеркивает: без прозрачности процесса кандидаты не могут оспорить ошибки алгоритмов, которые могут дискриминировать их на основе неверных данных.
В разделе ИТ-бизнес
Иск против ИИ-рекрутера: как алгоритмы создают черные списки
Эрин Кистлер, продакт-менеджер с 20-летним стажем, подала в суд на разработчика ИИ-систем Eightfold AI. После четырех лет безуспешных попыток устроиться в крупные корпорации она заподозрила, что автоматизированные алгоритмы внесли ее в своего рода «черный список», лишая возможности даже пройти первичное собеседование в сотнях компаний одновременно.
Ситуация усугубляется отсутствием в США законодательного регулирования, обязывающего компании раскрывать использование ИИ при найме. Профессор юридической школы Университета Эмори Ифеома Аджунва отмечает, что если алгоритм один раз отклонил кандидата, система может зафиксировать этот отказ как эталонный, транслируя решение на других работодателей. Подобная автоматизация способна не только повторять человеческие предубеждения, но и масштабировать их до катастрофических значений, создавая устойчивые стереотипы на основе демографических или лингвистических признаков.
Комментарии (0)
Пока нет комментариев. Будьте первым!