Крупнейшие корпорации объединились для борьбы с предвзятостью ИИ

При приеме на работу сотрудников отделы кадров все чаще стали обращаться за помощью к технологиям искусственного интеллекта (ИИ). С их помощью анализируются резюме, проводится видеоинтервью и оценка психического состояния соискателей.

Крупнейшие американские корпорации решили объединить усилия, чтобы не позволить этим технологиям выдавать предвзятые результаты, которые могут увековечить или даже усугубить прошлую дискриминацию. Как сообщает The New York Times, на прошлой неделе они запустили организацию «Альянс данных и доверия» (Data & Trust Alliance), в которую вошли представители разных отраслей, в частности, CVS Health, Deloitte, General Motors, Humana, IBM, Mastercard, Meta (родительская компания Facebook), Nike и Walmart.

Организация не занимается лоббированием или исследованиями. При участии корпоративных и сторонних экспертов Data & Trust Alliance разработала систему оценки ПО, в котором используется ИИ. Система состоит из 55 вопросов, охватывающих 13 тем, а ее целью является борьба с предвзятостью алгоритмов.

«Это не просто принятие принципов, а реальная реализация конкретных мер», - заявил бывший гендиректор American Express и сопредседатель Data & Trust Alliance Кеннет Чено (Kenneth Chenault).

Современное ПО с технологиями ИИ основывается на данных, поэтому имеет огромное значение, какие данные и каким образом используются. Если данные для обучения алгоритмов относятся в основном к белым мужчинам, то выдаваемые этими алгоритмами результаты, вероятнее всего, будут дискриминировать темнокожих и женщин. Если, например, данные для прогнозирования успеха в компании относятся к сотрудникам, хорошо работавшим в прошлом, выданные алгоритмом результаты могут усилить существовавшую ранее предубежденность.

Кажущиеся нейтральными наборы данных при использовании с другими могут приводить к результатам, дискриминирующим соискателей по расовому, половому или возрастному признаку.

Как показали результаты внутренних исследований компаний, участвующих в Data & Trust Alliance, их отделы кадров используют ПО на базе ИИ, зачастую получаемое от сторонних поставщиков. Корпоративные пользователи, как правило, не знают, какие данные использовал поставщик для обучения моделей ИИ, и как эти модели работают.

Для разработки решения альянс привлек своих сотрудников из отделов кадров, анализа данных, юриспруденции и закупок, а также поставщиков ПО и внешних экспертов. Результатом такого сотрудничества стала система обнаружения, измерения и смягчения предвзятости для изучения практики обработки данных и разработки ПО для управления персоналом.