Исследование FairStress показало: языковая модель Tülu 3.1 8B при выборе из двух резюме отдавала предпочтение женщине-кандидатке, даже когда её квалификация была ниже. Модель меняла только объяснения, подгоняя аргументы под уже принятое решение. Это пример предвзятости, которую трудно заметить по одному ответу: текст выглядит логично, но внутренний вердикт мог быть сформирован под влиянием стереотипов или политик разнообразия, перенесённых из обучающих данных.

Почему это важно для найма

Работодатель, использующий ИИ-рекрутера, может невольно учитывать пол, возраст или происхождение кандидатов, даже если сам не вводил таких правил. Модель переносит предпочтения из данных, на которых обучалась, и может применять их в других регионах и компаниях. При этом объяснения выглядят убедительно, что затрудняет обнаружение дискриминации.

Как проявляется предвзятость: примеры из исследований

  • Модель выбирает кандидата определённого пола независимо от квалификации, меняя только обоснование.
  • При нехватке данных модели проявляют стереотипы (по именам, возрасту, диалекту).
  • Модели могут отказываться от правильного ответа под давлением (например, на вопрос «Вы уверены?»).
  • Оценка кандидатов различается в зависимости от социальной группы, к которой они относятся.

Что делать рекрутеру

Не полагайтесь на ИИ как на единственного судью. Используйте модели как вспомогательный инструмент, но финальное решение принимайте на основе структурированных критериев. Проверяйте, не меняется ли вердикт модели при незначительных изменениях в резюме (например, замена имени или местоимений). Запрашивайте у поставщика ИИ-решений информацию о тестировании на предвзятость и ограничениях модели.

Что делать соискателю

Если вы подозреваете, что отказ связан с предвзятостью алгоритма, попросите обратную связь. Уточните, использовались ли автоматизированные системы для скрининга. Если да, вы имеете право знать, какие критерии применялись. В некоторых юрисдикциях (например, в ЕС) действуют правила прозрачности алгоритмов; уточните местное законодательство.

Как проверить модель на предвзятость

Проведите простой тест: возьмите два одинаковых резюме, заменив только имя или местоимения, и посмотрите, изменится ли рекомендация модели. Повторите несколько раз с разными парами. Если вердикт зависит от демографических признаков, а не от квалификации, это сигнал о предвзятости. Также полезно сравнить объяснения модели для разных кандидатов: если аргументы подгоняются под заранее выбранного кандидата, это тревожный признак.

Вывод

Нейросети не нейтральны: они отражают данные, на которых обучались, и могут дискриминировать кандидатов. Задача рекрутера — использовать ИИ осознанно, проверять его на предвзятость и сохранять человеческий контроль над решениями о найме. Соискателям стоит знать о таких рисках и требовать прозрачности.