OpenAI борется с дезинформацией: какие ограничения вскоре коснутся ChatGPT

OpenAI , известный как разработчик ChatGPT , недавно объявил на Всемирном экономическом форуме в Давосе о разработке технологий кибербезопасности для военных США и усиленной работе над безопасностью американских выборов.

Это заявление последовало после изменения политики компании , ранее запрещавшей использование её генеративных моделей ИИ в военных целях и для создания вредоносного ПО. Теперь эти ограничения исчезли из документов OpenAI, однако компания подчеркнула, что её технологии по-прежнему не должны использоваться для насилия, разрушения или шпионажа в области коммуникаций.

На интервью в рамках форума вице-президент OpenAI по глобальным вопросам Анна Маканджу упомянула о партнёрстве с Пентагоном в разработке ПО для кибербезопасности с открытым исходным кодом.

Несмотря на удаление ограничений по военным и военно-политическим применениям ChatGPT, Маканджу подтвердила сохранение запрета на использование моделей для разработки оружия. В то же время, Сэм Альтман, генеральный директор OpenAI, также заявил о мерах по предотвращению использования инструментов генеративного ИИ для распространения дезинформации, связанной с выборами.

Примечательно, что подобные заявления происходят на фоне аналогичных усилий Microsoft, крупнейшего инвестора OpenAI. В ноябре представители Редмонда объявили о пятиэтапной стратегии защиты выборов как в США, так и в других странах.

По данным отчёта «Глобальные риски 2024», представленного на Всемирном экономическом форуме, «недостоверная информация и дезинформация» являются ведущим краткосрочным глобальным риском. Там же был проведён опрос, по результатам которого 56% руководителей считают, что генеративный ИИ в ближайшие два года даст преимущество атакующим над IT-защитниками.

Тем не менее, есть основания полагать, что объединение усилий в сфере кибербезопасности поможет исправить положение. Компании, разрабатывающие передовые технологии ИИ, уже предпринимают конкретные шаги по минимизации потенциальных рисков. При адекватном ответе со стороны всех заинтересованных сторон — новые разработки помогут существенно усилить защиту как от киберугроз, так и от распространения дезинформации.