- Смещение данных и историческая дискриминация: если модель обучена на прошлых решениях или поведении сотрудников, она может унаследовать и усилить существующие предубеждения (пол, раса, возраст, образование), приводя к систематическому исключению групп.
- Проксисные переменные: поведенческие метрики могут быть коррелированы с защищёнными признаками (например, стиль общения коррелирует с культурным происхождением), то есть модель фактически дискриминирует через прокси, даже если прямых признаков нет.
- Неравный доступ и цифровой разрыв: кандидаты из разных социальных и экономических слоёв имеют разный опыт взаимодействия с цифровыми инструментами; метрики поведения (таймстемпинг, навигация по тесту и т. п.) могут отражать доступ к ресурсам, а не способности.
- Неполнота и валидность метрик: поведенческие показатели могут не отражать реальную пригодность для работы (низкая конструктивная валидность), что ведёт к ошибкам отбора и несправедливым отказам.
- Дискособственные и ошибочные отказы (false negatives) и приёмы (false positives): ошибки алгоритма распределяются неравномерно, и для некоторых групп стоимость ошибки выше (утрата шансов на работу, репутация).
- Прозрачность и объяснимость: опросы и кандидаты имеют право знать, как принимается решение; «чёрный ящик» подрывает доверие и ограничивает возможность оспорить результат.
- Ответственность и апелляция: неизвестно, кто отвечает за ошибочные решения — разработчики, HR, корпорация; отсутствие процедур обжалования лишает людей защиты.
- Конфиденциальность и согласие: сбор поведенческих данных (клики, время реакции, видео, голос) вторгается в частную сферу; часто отсутствует информированное согласие и ясность по использованию данных.
- Стигматизация и ярлыки: алгоритмы могут закреплять ярлыки (например, «некомандный»), которые затем влияют на будущие решения и карьеру человека.
- Усиление неравенства и циклические эффекты: алгоритм отбирает одних людей, их результаты формируют данные для дальнейшего обучения, что приводит к самоподдерживающимся неравным циклам.
- Конфликт между разными определениями справедливости: разные метрики справедливости (равенство шансов, равные положительные ставки и т. п.) несовместимы, приходится выбирать компромисс, который сам по себе ценностный выбор.
- Дегуманизация и снижение автономии: замена человеческой оценки алгоритмом уменьшает роль индивидуального контекста, интуиции и сочувствия в решениях о приёме.
- Экономические последствия и концентрация власти: автоматизация отбора может усилить власть работодателей, снизив переговорную позицию работников и усилив барьеры входа для уязвимых групп.
- Юридические и регуляторные риски: возможные нарушения антидискриминационного законодательства и рост жалоб/иск в случае непрозрачных или предвзятых решений.
Краткие способы смягчения (чтобы понимать направление решения): аудит и тестирование на дискриминацию по группам, прозрачность алгоритма и объяснения решений, возможность апелляции, минимизация сбора чувствительных данных, использование корректных метрик валидности, участие представителей разных групп при дизайне и постоянный мониторинг последствий.