В ЕС разработана первая в мире система подотчетности ИИ

Пять агентств юстиции и внутренних дел ЕС в сотрудничестве с исследователями из CENTRIC создали первую в мире «систему подотчетности ИИ», которая поможет специалистам в области кибербезопасности применять инструменты искусственного интеллекта.

Проект Accountability Principles for Artificial Intelligence (AP4AI) разрабатывается совместно Центром передового опыта в области исследований терроризма, устойчивости, разведки и организованной преступности (CENTRIC) и Лабораторией инноваций Европола при поддержке Евроюста, Агентства ЕС по вопросам убежища (EUAA) и Агентства ЕС по обучению сотрудников правоохранительных органов (CEPOL) при поддержке и содействии Агентства ЕС по основным правам (FRA) в рамках Инновационного центра ЕС по внутренней безопасности.

Целью проекта AP4AI является создание практического инструментария, призванного напрямую поддерживать подотчетность ИИ при реализации во внутренней области безопасности. Принципы подотчетности ИИ разрабатывались в консультации с экспертами из 28 стран, представляющими сотрудников правоохранительных органов, юристов и прокуроров, экспертов по защите данных и основным правам, а также технических и отраслевых экспертов.

В рамках проекта AP4AI были проведены консультации с более чем 5,5 тыс. граждан из 30 стран для изучения ожиданий общественности в отношении подотчетности ИИ. Хотя существуют опасения по поводу использования ИИ полицией, многие граждане также видят большой потенциал в использовании ИИ для целей внутренней безопасности. Более 87% опрошенных согласны с тем, что ИИ следует использовать для защиты детей и уязвимых групп людей, а также для выявления преступников и преступных организаций. Более 90% граждан ожидают, что полиция будет нести ответственность за то, как она использует ИИ, и за его последствия.