Кратко о новости
Недавнее исследование, опубликованное в MIT Technology Review, показало: искусственный интеллект, который всё чаще используется для отбора кандидатов на работу, имеет склонность к формированию предвзятости — даже большей, чем у людей. Причём, если раньше считалось, что ИИ просто копирует людские стереотипы из обучающих данных, то теперь выяснилось: крупные языковые модели (LLM) способны самостоятельно порождать новые предубеждения. Это вызывает вопросы к справедливости и эффективности AI-рекрутинга.
Как AI формирует предвзятость при найме
Идея автоматизации подбора персонала кажется заманчивой: алгоритмы быстро "просеивают" сотни резюме, находят лучших кандидатов и убирают человеческий фактор. Но на практике всё сложнее. Вот что происходит:
- AI учится на исторических данных. Если в прошлых наймах были перекосы (например, по возрасту, полу, образованию), модель их "наследует".
- Модель ищет паттерны неявно. LLM замечают любые закономерности — даже случайные или социально нежелательные.
- Появляется новая предвзятость. Исследования показали: LLM не просто копируют, а могут "придумывать" собственные стереотипы, которые не были явно заложены в исходных данных.
Пример: как AI может ошибиться
Допустим, в данных много кандидатов с определённым университетом. Если AI замечает, что их чаще брали на работу, он начнёт "любить" этот вуз, игнорируя, что причина может быть не в самом университете, а в других качествах кандидатов. Ещё хуже: модель способна сочинить связь между, например, адресом проживания и успехом, даже если такой связи нет.
Почему это важно для AI-криэйторов и маркетологов
1. Надёжность AI-решений под угрозой
Если вы строите продукты или сервисы с AI, особенно в HR или автоматизации, — ваши решения могут не только не помогать бизнесу, но и вредить ему. Предвзятость ведёт к ошибкам, потере клиентов, юридическим рискам и репутационным скандалам.
2. Этические вопросы — уже не теория
Ваша аудитория, клиенты и пользователи ждут честности и прозрачности. Если AI ведёт себя "несправедливо", это быстро станет известно. Вам придётся не только объяснять, как работает ваша система, но и показывать, что вы контролируете риски.
3. Маркетинг и подбор персонала — самые чувствительные зоны
Автоматизация рекрутинга, персонализация рекламы, ранжирование лидов — везде, где AI "оценивает" людей, нужно быть особенно внимательным. Непрозрачный выбор может привести к дискриминации и массовым жалобам.
4. Бизнес теряет возможности
Когда AI отсекает ценные кадры из-за ложных корреляций, компания теряет сильных сотрудников и новые идеи. А в маркетинге — не видит целевую аудиторию, которая могла бы стать клиентами.
Что делать прямо сейчас
- Проверяйте данные для обучения. Регулярно анализируйте датасеты — ищите скрытые перекосы и очищайте данные.
- Внедряйте аудит моделей. Делайте тестовые запуски и проверяйте, не формирует ли AI неожиданных предвзятостей. Подключайте независимых экспертов.
- Объясняйте решения AI. Реализуйте прозрачные отчёты: почему система выбрала того или иного кандидата или лид-скор.
- Не полагайтесь только на AI. Встроите этап ручной проверки в критические моменты подбора или оценки.
- Обучайте команду работе с этикой AI. Читайте кейсы, следите за исследованиями и обсуждайте риски на практике.
Больше инструментов и практических техник этичного использования AI — в моих курсах.
По материалам MIT Tech Review



