ИИ в рекрутинге: как алгоритмы дискриминируют кандидатов и почему это опасно

Эксперты предупреждают, что ИИ-системы, применяемые для скрининга резюме и первичного отбора кандидатов, могут неосознанно усиливать дискриминацию. Это происходит потому, что алгоритмы обучаются на исторических данных, отражающих прошлые предубеждения людей. В результате ИИ начинает принимать решения, которые кажутся логичными и хорошо обоснованными, но по сути являются дискриминационными.

Проблема усугубляется, когда такие системы генерируют объяснения своих решений. Эти объяснения могут звучать крайне убедительно, но при этом скрывать истинную, предвзятую логику отбора. Например, ИИ может отклонить кандидата по гендерному признаку, объяснив это «недостаточным опытом» или «несоответствием корпоративной культуре», хотя реальная причина кроется в заложенных в данные предубеждениях.