ВОЗ предостерегла от применения моделей ИИ, использующих данные из богатых стран

Всемирная организация здравоохранения (ВОЗ) опубликовала новое руководство, согласно которому использование данных, собранных у людей из стран с высоким уровнем дохода, может оказаться неэффективным, если медицинское решение будет использоваться в странах с низким и средним уровнем дохода.

«Системы искусственного интеллекта должны быть тщательно спроектированы, чтобы отражать разнообразие социально-экономических условий и условий здравоохранения, и сопровождаться обучением цифровым навыкам, взаимодействием с общественностью и повышением осведомленности. Системы, основанные в первую очередь на данных людей из стран с высоким уровнем дохода, могут не работать корректно для людей с низким и средним уровнем дохода», — пояснили специалисты в своем отчете Ethics and governance of artificial intelligence for health («Этика и управление искусственным интеллектом в интересах здоровья»).

Как отметили в организации, если «соответствующие меры» не будут приняты при разработке медицинских решений на основе ИИ, это может привести к «ситуациям, когда решения, которые должны приниматься поставщиками услуг и пациентами, передаются машинам, тем самым подрывая автономию человека». Медицинские услуги в таком случае будут доставляться в «нерегулируемых условиях и нерегулируемыми поставщиками услуг, что может создать проблемы для государственного надзора за здравоохранением».

Отчет является результатом 18 месяцев консультаций между группой экспертов в области этики, цифровых технологий и прав человека, назначенных ВОЗ. ИИ обладает огромным потенциалом для улучшения здравоохранения и медицины во всем мире, но только если этические соображения и права человека будут поставлены в центр проектирования, разработки и внедрения.

В отчете ВОЗ предлагается шесть принципов, которые будут использованы в качестве основы для правительств, разработчиков технологий, компаний и организаций гражданского общества при разработке ИИ для здравоохранения. К ним относятся предоставление людям автономии в отношении систем здравоохранения и медицинских решений при обеспечении защиты частной жизни и конфиденциальности, обеспечение прозрачности при разработке, проектировании и развертывании технологий искусственного интеллекта. Также искусственный интеллект в сфере здравоохранения призван поощрять инклюзивность и справедливость.