Основатель Google DeepMind: ИИ может вызвать опасную пандемию

Один из пионеров области искусственного интеллекта и бывший топ-менеджер Google предупредил о потенциальной опасности технологии, которую он помог создать.

В недавнем выпуске подкаста " The Diary of a CEO ", сооснователь Google DeepMind Мустафа Сулейман выразил опасения относительно экспериментов с патогенами. "Существует риск, что инженерные синтетические патогены могут быть случайно или намеренно созданы так, чтобы они были более заразными," сказал Сулейман. Вирусы, модифицированные с помощью ИИ, могут распространяться быстрее и быть более смертельными, вызывая повсеместный вред и даже приводя к массовым смертям.

Сулейман подчеркнул, что работа с такими технологиями требует осторожности: "Мы не можем позволять каждому иметь доступ к ним. Нам нужно ограничивать, кто может использовать программное обеспечение ИИ, облачные системы и даже некоторые биологические материалы."

В свете растущего числа людей, которые используют технологии, появляется реальная угроза создания и распространения генетически модифицированных вирусов. Поэтому Сулейман призывает к принятию стратегии "сдерживания" в отношении ИИ, аналогичной той, которую НАТО применяет к ядерному оружию.

Теперь, будучи генеральным директором и сооснователем компании Inflection AI, Сулейман планирует присутствовать на AI-саммите в Вашингтоне, на котором также выступят лидеры отрасли, включая генерального директора OpenAI Сэма Альтмана, генерального директора Meta Марка Цукерберга и других. Многие из участников поддержали опасения Сулеймана относительно потенциальных рисков, связанных с ИИ.

Так, известно, что Илон Маск обсуждал опасности ИИ с бывшим президентом Бараком Обамой и сооснователем Google Ларри Пейджем. Однако, по словам Маска, ни один из них не проявил готовности принять меры против этих рисков.