- 29,049
- 46
- 8 Ноя 2022
Команда DeepMind заявила кандидатам о ненадёжности корпоративных фильтров резюме.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Google предлагает корпоративным клиентам поручить искусственному интеллекту проверку резюме, однако собственные исследователи компании решили перестраховаться. Команда Google DeepMind создала отдельную форму, которая помогает кандидатам обойти автоматический отбор и передать заявку напрямую сотрудникам.
Как выяснил Bloomberg , форму подготовила команда AGI Safety and Alignment, занимающаяся снижением рисков, связанных с развитием продвинутого искусственного интеллекта. Кандидатам на открытые вакансии предлагают заполнить форму вместе со стандартной заявкой.
Во внутреннем документе авторы предупредили, что система обработки заявок может ошибочно отклонить резюме либо слишком поздно передать материалы нужной команде. Дополнительная форма гарантирует, что документы просмотрит сотрудник Google DeepMind. Документ сопровождала просьба не распространять информацию широко.
Представитель Google DeepMind заявил, что компания стремится нанимать наиболее квалифицированных специалистов, и отверг утверждение об ошибочном отсеве кандидатов. По версии представителя, отдельная форма лишь позволяет пропустить этап проверки рекрутером и отправить резюме напрямую сотрудникам команды. Упрощенной процедуры приема на работу форма не предусматривает.
Ситуация привлекает внимание из-за активного продвижения искусственного интеллекта самой Google. Подразделение Workspace предлагает корпоративным клиентам использовать новые функции для подготовки вакансий, оценки резюме и прогнозирования потребности в сотрудниках. Разработчики обещают сократить время, которое кадровые службы тратят на рутинные задачи.
Компании применяют ИИ при найме по-разному. Одни модели составляют рейтинг претендентов, другие ищут в резюме ключевые слова и исключают заявки, которые не соответствуют заданным критериям. Точные принципы работы автоматических фильтров часто остаются неизвестными кандидатам.
Автоматизированный отбор неоднократно критиковали из-за риска дискриминации. Проведенное Bloomberg расследование обнаружило у ChatGPT признаки возможной предвзятости, связанной с именами соискателей. Разработчика корпоративного программного обеспечения Workday обвиняют в отсеивании людей по расе, возрасту и инвалидности. Компания отрицает обвинения и настаивает, что окончательные кадровые решения принимают люди.
Соискатели, в свою очередь, применяют нейросети для адаптации резюме под автоматические фильтры и массовой отправки заявок. Команда Google DeepMind предупредила кандидатов, что ответы, подготовленные без помощи ИИ, могут произвести лучшее впечатление. Сотрудники лично читают заполненные формы и быстро замечают однообразные формулировки, характерные для языковых моделей.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Google предлагает корпоративным клиентам поручить искусственному интеллекту проверку резюме, однако собственные исследователи компании решили перестраховаться. Команда Google DeepMind создала отдельную форму, которая помогает кандидатам обойти автоматический отбор и передать заявку напрямую сотрудникам.
Как выяснил Bloomberg , форму подготовила команда AGI Safety and Alignment, занимающаяся снижением рисков, связанных с развитием продвинутого искусственного интеллекта. Кандидатам на открытые вакансии предлагают заполнить форму вместе со стандартной заявкой.
Во внутреннем документе авторы предупредили, что система обработки заявок может ошибочно отклонить резюме либо слишком поздно передать материалы нужной команде. Дополнительная форма гарантирует, что документы просмотрит сотрудник Google DeepMind. Документ сопровождала просьба не распространять информацию широко.
Представитель Google DeepMind заявил, что компания стремится нанимать наиболее квалифицированных специалистов, и отверг утверждение об ошибочном отсеве кандидатов. По версии представителя, отдельная форма лишь позволяет пропустить этап проверки рекрутером и отправить резюме напрямую сотрудникам команды. Упрощенной процедуры приема на работу форма не предусматривает.
Ситуация привлекает внимание из-за активного продвижения искусственного интеллекта самой Google. Подразделение Workspace предлагает корпоративным клиентам использовать новые функции для подготовки вакансий, оценки резюме и прогнозирования потребности в сотрудниках. Разработчики обещают сократить время, которое кадровые службы тратят на рутинные задачи.
Компании применяют ИИ при найме по-разному. Одни модели составляют рейтинг претендентов, другие ищут в резюме ключевые слова и исключают заявки, которые не соответствуют заданным критериям. Точные принципы работы автоматических фильтров часто остаются неизвестными кандидатам.
Автоматизированный отбор неоднократно критиковали из-за риска дискриминации. Проведенное Bloomberg расследование обнаружило у ChatGPT признаки возможной предвзятости, связанной с именами соискателей. Разработчика корпоративного программного обеспечения Workday обвиняют в отсеивании людей по расе, возрасту и инвалидности. Компания отрицает обвинения и настаивает, что окончательные кадровые решения принимают люди.
Соискатели, в свою очередь, применяют нейросети для адаптации резюме под автоматические фильтры и массовой отправки заявок. Команда Google DeepMind предупредила кандидатов, что ответы, подготовленные без помощи ИИ, могут произвести лучшее впечатление. Сотрудники лично читают заполненные формы и быстро замечают однообразные формулировки, характерные для языковых моделей.
- Источник новости
- www.securitylab.ru
