Армия США использует машинное обучение для обнаружения дипфейков

Армия США представила легковесный инструмент для выявления дипфейков, позволяющий предотвратить представляемую ими потенциальную угрозу национальной безопасности.

«В связи с продвижением генеративных нейронных сетей управляемые искусственным интеллектом дипфейки развиваются так быстро, что надежных методов для их обнаружения и защиты от них попросту не хватает. Существует острая необходимость в альтернативной парадигме, которая могла бы понять механизм поразительной производительности дипфейков и разработать эффективные защитные решения с прочной теоретической поддержкой», – пояснил профессор электротехники и вычислительной техники Университета Южной Калифорнии Чунг-Чи Джей Куо (C.-C. Jay Kuo).

Группа специалистов под руководством Куо создала инструмент DefakeHop, объединяющий в себе машинное обучение, анализ сигналов и компьютерное зрение. В основе DefakeHop лежит новая архитектура нейронной сети Successive Subspace Learning (SSL). По словам исследователей, уникальная конструкция DefakeHop имеет ряд преимуществ перед традиционными методами обнаружения дипфейков, в том числе большую прозрачность, низкие потребности в контроле, меньшие размеры моделей и лучшую безопасность.

Как пояснил Куо, SSL представляет собой совершенно новую математическую основу для архитектуры нейронной сети, разработанная на основе теории преобразования сигналов.

«Она радикально отличается от традиционного подхода, предлагая новое представление сигнала и процесс, включающий несколько матриц преобразования в каскаде. […] Это полная неконтролируемая среда, управляемая данными, предлагающая совершенно новый инструмент для обработки изображений и понимания таких задач, как биометрия лица», – сообщил Куо.

Помимо обнаружения дипфейков специалисты нашли целый ряд применений предложенной ими облегченной модели интерпретации изображений в вооруженных силах.

«Мы ожидаем, что в будущем солдаты будут использовать на поле боя интеллектуальные, но чрезвычайно малые по весу и мощности устройства видения. Предложенное решение имеет ряд желаемых характеристик, в том числе небольшой размер модели, ограниченное количество обучающих данных, низкую сложность обучения и возможность обработки входных изображений с низким разрешением. Это может привести к разработке революционных решений с далеко идущим применением для армии», – пояснил исследователь Армейской исследовательской лаборатории (ARL) Суя Ю.