ИИ угрожает демократии: могут ли генеративные технологии расколоть общество?

В понедельник японская телекоммуникационная фирма NTT совместно с медиахолдингом Yomiuri Shimbun опубликовала мрачный прогноз об опасностях, связанных с развитием генеративного ИИ. Специалисты предупредили, что в худшем случае нас ждет крах демократии и социального порядка. Не исключается даже возможность военных конфликтов.

«Если позволить генеративному ИИ развиваться бесконтрольно, это может серьезно подорвать доверие в обществе. Люди начнут относиться друг к другу с опаской, и при этом никто не захочет больше проверять достоверность информации», — объяснили в NTT и Yomiuri Shimbun.

Исследователи отмечают: широкий доступ к интернету означает и широкий доступ к ИИ-моделям, которые отличаются неточностью.

NTT и Yomiuri Shimbun начали исследовать разные подходы, которые помогли бы регулировать прогресс, еще осенью 2023 года. В своем документе компании признают, что отказываться от генеративного ИИ уже поздно – это приведет лишь к снижению производительности во многих сферах, ведь "кот уже выпущен из мешка".

В скором времени потребуются регуляторные меры для защиты ключевых сфер и устоев общества - таких как демократические выборы и обеспечение национальной безопасности. В документе организации предлагают обучать студентов преимуществам и рискам ИИ, обновить законодательство об интеллектуальной собственности, а также обязать авторов маркировать оригинальный контент

В отличие от ЕС, в Японии пока не выработана государственная политика, касающаяся данных в сфере ИИ. Поэтому NTT и Yomiuri Shimbun хотят на первых порах ввести "мягкие правила", которые помогут определить зоны ответственности для разных заинтересованных сторон.

Кроме того, исследователи рекомендуют использовать множество разных ИИ-моделей, чтобы они контролировали и сдерживали друг друга, а пользователи могли сопоставлять результаты и не зависели от одного конкретного продукта.

Скептическое отношение к генеративному ИИ со стороны технологических компаний – большая редкость. Большинство крупных игроков сейчас заняты совершенствованием и адаптацией своих продуктов, чтобы использовать возможности продвинутых алгоритмов по максимуму. Такой энтузиазм характерен даже для облачных провайдеров и производителей чипов.

Так, недавно другой телеком-гигант Singtel заключил партнерство с Nvidia, чтобы развернуть специализированную ИИ-инфраструктуру в Юго-Восточной Азии, фактически поддержав евангелиста распространения ИИ Дженсена Хуанна.