Гарвардский эксперимент: очки Meta теперь мгновенно раскрывают данные прохожих

Двое студентов из Гарварда разработали устройство, которое крупные технологические компании избегали выпускать в публичный доступ из-за высоких рисков и угроз: умные очки с функцией распознавания лиц, автоматически определяющие личность человека. Более того, студенты добавили к этой технологии возможность извлечения другой информации о человеке из интернета, включая его домашний адрес, номер телефона и данные о членах семьи.

Проект был создан для того, чтобы привлечь внимание к возможностям таких технологий. АнхФу Нгуен и Кейн Ардайфио, создатели этого устройства, решили не распространять исходный код своего проекта, о чём Нгуен рассказал изданию 404 Media. Тем не менее, проведённые эксперименты с использованием очков в реальных условиях показали, что посторонние могут мгновенно получить доступ к личной информации человека, нарушая его анонимность.

Проект получил название I-XRAY и основан на использовании умных очков от Meta* — Ray Ban, которые доступны в коммерческой продаже. По словам Нгуена, устройство позволяет «перейти от лица к имени» всего за несколько секунд. В демонстрационном видео, опубликованном на платформе X**, разработчики показали, как технология работает на практике: Ардайфио проходит мимо человека, на которого направлены очки, и через несколько секунд на телефон поступает информация о нём. В видео также демонстрируется, как очки распознают лицо случайной женщины в метро, а затем Ардайфио подходит к ней и обращается по имени, упоминая детали из результатов поиска. Нгуен уточнил, что в видео были намеренно добавлены реакции случайных людей из метро Бостона, создавая впечатление, что авторы проекта знакомы с этими людьми.

Студенты утверждают, что распознали десятки людей без их ведома, хотя иногда данные оказывались неверными. Нгуен объяснил, что основной мотив проекта — исследование возможностей технологий. Сначала проект привлёк внимание как забавный способ для розыгрышей и видео, но позже у некоторых появились опасения, что такие технологии могут быть использованы для преследования. Один из примеров, приведённых Нгуеном, касается ситуации, когда кто-то мог бы узнать домашний адрес человека в поезде и последовать за ним.

Ардайфио отметил шок некоторых людей от того, как технология раскрывает личную информацию, включая номера телефонов родственников. Возможность мгновенного раскрытия информации через камеру долго считалась опасной чертой технологий. Репортёр The New York Times Кашмир Хилл в своей книге описала, как Facebook* и Google разработали технологии распознавания лиц, но решили не внедрять их из-за рисков. Глава Google Эрик Шмидт более десяти лет назад упомянул, что компания «разработала технологию, но отказалась от её использования».

Компания Clearview AI нарушила это негласное правило и разработала мощную систему распознавания лиц, используя миллиарды изображений из социальных сетей. Clearview AI в основном продает свой продукт правоохранительным органам и также изучала возможность создания умных очков с технологией распознавания лиц.

Несмотря на то, что Нгуен и Ардайфио не планируют публиковать исходный код проекта, они наглядно продемонстрировали, что такие очки можно создать, используя доступные на рынке технологии.

Для распознавания лиц I-XRAY использует сервис Pimeyes, который, в отличие от Clearview AI, доступен любому пользователю. После загрузки фотографии система предоставляет список ссылок на изображения с похожими лицами. Затем большая языковая модель (LLM) анализирует данные и извлекает личную информацию, такую как имя, место работы и другие сведения. Получив имя, система начинает искать информацию в базах данных, содержащих личные данные, включая номера телефонов и домашние адреса. Во время демонстрации разработчики удалили домашний адрес Ардайфио из результатов поиска из соображений безопасности.

Один из самых удивительных моментов, по словам Ардайфио, заключался в том, что людям показывали их фотографии из детского сада, которые они сами никогда не видели. Этот проект показывает, насколько много данных о человеке можно найти в открытом доступе в интернете.

Очки I-XRAY используют модель Meta Ray Bans 2. Представитель Meta прокомментировал, что технология распознавания лиц Pimeyes может использоваться с любой камерой, а не только с умными очками от Meta. По словам студентов, они выбрали эти очки из-за их внешней схожести с обычными, что делает их менее заметными. Тем не менее, Meta отметила, что их устройства оснащены светодиодом, который загорается при записи, чтобы предупреждать окружающих о съёмке.

Компания Pimeyes, в свою очередь, заявила, что их система не предназначена для идентификации людей, а только предоставляет список источников с похожими изображениями. Однако возможность найти ссылку на источник с похожим лицом фактически делает возможным идентификацию человека.

Ранее 404 Media сообщало о пользователе TikTok, который использовал похожие технологии для публичного «доксинга» случайных людей в сети ради развлечения, что вызвало у некоторых жертв чувство нарушения их личного пространства.

Ардайфио выразил надежду, что проект повысит осведомлённость о том, как защитить свои данные в интернете, несмотря на потенциальные негативные последствия от его использования.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

**Социальная сеть запрещена на территории Российской Федерации.