Mozilla опасается повторения сюжета «Я, робот» в реальной жизни

Согласно новому отчету Mozilla , ИИ отлично подходит для богатых и влиятельных людей, а также для технологических гигантов, пытающихся увеличить прибыль. В противном случае искусственный интеллект и автоматизация, которую он обеспечивает, могут нанести вред.

«В реальной жизни вред ИИ несоразмерно затрагивает людей, которые не пользуются преимуществами глобальных систем власти», — сказали исследователи Mozilla в подкасте Internet Health Report 2022.

«На фоне глобального стремления к автоматизации мы видим большую опасность дискриминации и слежки. Мы видим отсутствие прозрачности и подотчетности, а также чрезмерную зависимость от автоматизации при принятии решений, имеющих огромные последствия».

ИИ выполняет вычислительные задачи, которые ранее были трудными или невозможными. Помимо прочих, задачи ИИ включают в себя:

• распознавание речи;
• обнаружение финансовых махинаций;
• управление беспилотных автомобилей;
• идентификацию птиц по их пению;
• поиск экологически безопасных рецептов бетона;
• предсказание преступлений .

Однако по мере того, как ИИ проникает во все уголки технологий, эксперты также выражают обеспокоенность по поводу развития интеллекта машин. Проблемы ИИ, на которые обращает внимание Mozilla, включают:

• Модели машинного обучения часто воспроизводят расистские и сексистские стереотипы из-за предвзятости данных, из которых они берут информацию, включая интернет-форумы и фотоархивы.
• Крупные компании не прозрачны в отношении того, как они используют наши личные данные в алгоритмах рекомендаций в соцсетях.
• Системами рекомендаций можно манипулировать, чтобы показывать пропаганду или другой вредоносный контент. В исследовании YouTube, проведенном Mozilla, алгоритмические рекомендации показали людям 71% видео, о просмотре которых, по словам пользователей, они пожалели.

Кроме того, Google и Facebook* имеют программы для решения проблемы предвзятости ИИ. Например, Google пытается улучшить то, как компьютеры обрабатывают оттенки кожи , чтобы системы лучше отображали людей с более темной кожей.

Mozilla не нравится тот факт, что Big Tech («Большая четверка» или «Большая пятерка» крупнейших американских технологических компаний) финансирует большое количество исследований ИИ. По словам Mozilla, очень мало статей посвящены социальным проблемам или рискам, связанным с ИИ. Mozilla предложила ввести новые законы. «Регулирование может помочь установить барьеры для инноваций, которые уменьшат вред и обеспечат конфиденциальность данных, права пользователей и многое другое», — сказали в Mozilla.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».