Согласно опубликованному сегодня аудиту, Департамент защиты прав потребителей и работников Нью-Йорка (DCWP) не справляется с контролем за исполнением Местного закона 144 (LL144). Этот закон призван регулировать использование искусственного интеллекта (ИИ) при принятии кадровых решений. Проверка показала, что ведомству сложно выявлять нарушителей, особенно если работодатели скрывают факт использования алгоритмов или не публикуют результаты аудита на предвзятость. В результате соискатели часто даже не подозревают, что их резюме фильтрует робот.
«Люди, ищущие работу, заслуживают честного и прозрачного процесса. Они имеют право знать, оценивает ли их резюме или видеоинтервью искусственный интеллект, и прошла ли эта технология проверку на отсутствие предвзятости, — заявил Томас П. ДиНаполи. — Когда у жителей Нью-Йорка возникают опасения по поводу использования ИИ работодателями, получить помощь оказывается непросто. Департамент должен делать больше для того, чтобы бизнес соблюдал закон, а жалобы граждан получали должное внимание».
Автоматизированные инструменты принятия решений о найме (AEDT) помогают компаниям экономить время и деньги, но несут в себе риски, включая усиление существующей дискриминации. Чтобы решить эту проблему, в 2021 году городской совет Нью-Йорка принял закон LL144. Он обязывает работодателей проводить аудит своих ИИ-инструментов на предмет предвзятости не реже раза в год, публиковать результаты на сайтах и уведомлять кандидатов об использовании таких технологий.
Однако аудит ДиНаполи выявил серьезные проблемы в надзоре. DCWP провел первоначальную разъяснительную работу, но после мая 2023 года прекратил активное информирование общественности, хотя чиновники сами признавали, что осведомленность граждан — ключ к соблюдению закона.
В ходе проверки чиновники DCWP просмотрели сайты 32 работодателей и нашли лишь один случай вероятного нарушения. Аудиторы ДиНаполи, перепроверив те же компании, обнаружили 17 случаев потенциального несоблюдения требований. Выяснилось, что ведомство проводило поверхностный анализ и игнорировало процедуры, разработанные Управлением технологий и инноваций Нью-Йорка (OTI).
Система обработки жалоб также оказалась неэффективной. Аудиторы сделали 12 тестовых звонков в городскую службу 311 с целью подать жалобу на использование ИИ. Результат оказался плачевным: только три звонка (25%) были перенаправлены в нужное ведомство. Восемь звонков (67%) по ошибке перевели в Департамент труда штата, а один звонок и вовсе вернули обратно работодателю. Кроме того, инструкции на сайте самого ведомства оказались запутанными.
По итогам проверки было дано 13 рекомендаций, в том числе: наладить маршрутизацию жалоб, выяснить причины низкой активности заявителей и перейти от пассивного ожидания жалоб к активному выявлению нарушений. Руководство DCWP частично или полностью согласилось с большинством рекомендаций, однако отметило, что главная сложность заключается в «самоотчетности» компаний: если работодатель не публикует данные сам, отследить его действия крайне сложно.