Новая эра гонки вооружений: кто овладеет ИИ, тот будет править миром

Военные силы всего мира участвуют в тайной гонке за разработку военного оружия на базе искусственного интеллекта (ИИ), как показывает новый документальный фильм « UNKNOWN: Killer Robots », посвященный будущему искусственного интеллекта в бою. Премьера фильма состоится 17 июля на Netflix .

«Кто будет контролировать ИИ в военной сфере, получит огромное техническое преимущество на поле боя», - отмечает режиссёр Джесси Свит. Но общественное осознание этой революции отстает от развития событий.

В фильме говорится, что применение военных роботов и беспилотников уже не новость. Однако их усиление и модернизация с помощью ИИ совершенно новый этап, приводящий к радикальным изменениям в военной стратегии.

Тем не менее, создатели фильма, высказывают опасения относительно быстрой роботизации армии. Существуют опасения, что мы не полностью понимаем, что создаем, и машины могут ошибочно принять мирных жителей или союзников за врагов.

Кроме того, существует риск того, что наши самые мощные оружия могут быть обращены против нас, что уже вызывает напряжение внутри военных структур. Существуют опасения связанные с кибербезопасностью в ИИ и возможностью захвата важных элементов вооруженных сил иностранными правительствами или независимыми хакерами.

Несмотря на весь прогресс ИИ в медицинских и фармацевтических технологиях для лечения и предотвращения болезней, ученые предупреждают, что что-то простое, как изменение нуля на единицу в компьютере, может создать химическое оружие, проводя тысячи симуляций, которые в конечном итоге выдают токсичное соединение.

Сиан Экинс, генеральный директор Collaborations Pharmaceuticals, обеспокоен возможностью создания химического оружия с помощью ИИ и утверждает, что отрасль не отвечает на потенциальную угрозу и не уделяет этому должного внимания. Экинс сравнивает текущую ситуацию с эпохой создания атомной бомбы, когда ученые не думали о последствиях своих открытий. «Будет очень сложно вернуть этого джина обратно в лампу», - заключает Экинс.

На недавнем саммите ООН по искусственному интеллекту в Женеве произошло необычное событие: журналисты интервьюировали девять роботов с искусственным интеллектом . Роботы заверили, что они не хотят заменить людей, а хотят сотрудничать с ними и решать глобальные проблемы. Однако не все были убеждены в искренности роботов. Некоторые из них давали ответы, которые могут показаться подозрительными или даже угрожающими.

Кроме того, OpenAI формирует новую команду для разработки способов управления и контроля над «сверхразумными» системами искусственного интеллекта. В OpenAI предсказывают, что ИИ с интеллектом, превышающим человеческий, может появиться в течение десятилетия. И если он действительно когда-нибудь появится — он не обязательно будет доброжелательным, поэтому нужно изучить способы контроля и ограничения такого ИИ.