Разработан набор рекомендаций по аудиту инструментов на базе ИИ

При приеме на работу многие организации используют инструменты на базе искусственного интеллекта для сканирования резюме и прогнозирования навыков, необходимых для определенной должности. Колледжи и университеты используют ИИ для автоматического оценивания эссе, обработки зачетных книжек и просмотра внеклассных мероприятий с целью определения потенциально хороших учеников. В ответ на заявления о несправедливости и предвзятости подобных инструментов специалисты Университета Миннесоты и Университета Пердью разработали новый набор рекомендаций по аудиту инструментов на базе ИИ.

Исследователи разработали рекомендации по аудиту ИИ, сначала рассмотрев идеи справедливости и предвзятости с трех основных точек зрения.

• Как люди определяют, было ли решение справедливым и беспристрастным.

• Как социальные, правовые, этические и моральные стандарты представляют справедливость и предвзятость

• Как отдельные технические области, такие как информатика, статистика и психология, определяют внутреннюю справедливость и предвзятость

Структура аудита состоит из двенадцати компонентов по трем категориям, в том числе:

• Компоненты, связанные с созданием, обработкой и прогнозами, созданными ИИ.

• Компоненты, связанные с тем, как используется ИИ, на кого влияют его решения и почему.

• Компоненты, связанные с общими проблемами: культурный контекст, в котором используется ИИ, уважение к людям и научная достоверность исследований, используемых поставщиками ИИ для поддержки своих заявлений.

Исследователи рекомендуют следовать разработанным ими стандартам как внутренним аудиторам при разработке технологий прогнозирующего ИИ, так и впоследствии независимым внешним аудиторам.