Неконтролируемое использование роботов-убийц может уничтожить человечество

Смертоносное автономное оружие давно перестало быть частью научно-фантастических произведений и стало реальностью на поле битвы. 21 декабря нынешнего года 120 стран приняли участие в Конвенции о конкретных видах обычного оружия Организации Объединенных Наций, однако не смогли договориться о том, ограничивать ли разработку или использование летального автономного оружия. Вместо этого они пообещали продолжить обсуждения.

В последние годы все больше оружейных систем включают элементы автономности. Некоторые ракеты могут, например, летать без особых инструкций в пределах заданного района, но по-прежнему обычно полагаются на человека для начала атаки. Но достижения в области алгоритмов, датчиков и электроники искусственного интеллекта упростили создание более сложных автономных систем, повысив вероятность создания машин, которые могут самостоятельно принимать решения об использовании смертоносной силы.

Власти Бразилии, Южной Африки, Новой Зеландии и Швейцарии предложили ограничить использование летального автономного оружия договором, как это было с химическим и биологическим оружием и наземными минами. Германия и Франция поддерживают ограничения на определенные виды автономного оружия, в том числе потенциально нацеленного на людей. Китай поддерживает чрезвычайно узкий набор ограничений.

Другие страны, включая США, Россию, Индию, Великобританию и Австралию, возражают против запрета летального автономного оружия, утверждая, что им необходимо развивать технологию для удержания стратегических позиций.

Проблема стала более актуальной в этом году после того в гражданской войне в Ливии в 2020 году для атаки на людей был использован автономный летальный дрон Kargu-2 производства компании STM.

«Колонны материально-технического снабжения и отступающие силы, связанные с генералом Халифом Хафтаром, были… выслежены и дистанционно поражены беспилотными боевыми летательными аппаратами. Системы были запрограммированы так, чтобы атаковать цели без необходимости передачи данных между оператором и устройством», — говорится в отчете ООН.

Компания STM не подтвердила, что устройство может целиться и стрелять по людям без контроля человека. На web-сайте компании теперь упоминается человек-оператор, принимающий решения о применении смертоносной силы. Однако кешированная версия сайта от июня не содержит такого предостережения.