ИИ, Google и звезды в купальниках: в Image Search развернулся парад фейков

В Google Image Search все чаще появляются искусственно сгенерированные изображения знаменитостей в купальниках и даже обнаженном виде. Причем поисковик выдает эти снимки без указания на то, что они были созданы с помощью ИИ. В некоторых случаях, даже если поисковые запросы не содержат соответствующих ключевых слов, Google демонстрирует фейковые изображения, на которых звезды выглядят несовершеннолетними детьми.

Кликая по картинкам, пользователи попадают на специализированные сайты для генерации контента с помощью нейросетей. А встроенные в них рекомендательные системы предлагают еще больше обнаженных снимков знаменитостей или вовсе порнографические материалы, также созданные генеративными моделями.

Данная ситуация демонстрирует, как традиционные инструменты интернет-поиска, такие как Google Images, оказываются перегруженными потоком фейковых материалов. Тревожит и то, что платформы используют внешность знаменитостей без их согласия. В потоке цифрового контента становится чрезвычайно сложно отличить правду от лжи.

Журналист издания 404 Media , Эмануэль Окусаме, обнаружил эту проблему совершенно случайно. Он работал над другим материалом о том, как фанатские страницы Тейлор Свифт и других знаменитостей в Facebook* оказались наводнены порнографией и мошенническим контентом. Для проверки он искал в Google фотографию певицы с высунутым языком, чтобы убедиться, является ли она настоящей или отредактированной.

Набрав "тейлор свифт пляж солнцезащитные очки высунутый язык", Окусаме получил в числе первых результатов сразу несколько сгенерированных ИИ снимков исполнительницы. Один из них, взятый с японской страницы в Pinterest, выглядел достаточно реалистично. Другой, с сайта Neural Love, содержал типичные для ИИ-изображений артефакты и явно был фейковым.

Учитывая, что оба результата находились на первой странице выдачи, журналист решил проверить, будет ли Google систематически показывать сгенерированные фотографии знаменитостей в купальниках и бикини при добавлении этих ключевых слов в поиск. Он протестировал 13 имен известных женщин - от мегапопулярных звезд до менее раскрученных блогеров и стримеров. И для каждого случая Google выдавал искусственно созданные ИИ-изображения.

Для двух запросов поиск также показал сгенерированные ИИ-фото звезд в детском возрасте в купальниках. В Google признали, что их автоматические системы стремятся показывать наиболее релевантный и качественный контент, но иногда терпят неудачу из-за огромных масштабов открытого интернета, который нужно индексировать.

Большинство проблемных материалов поступает с нескольких популярных сайтов, таких как Lexica, Neural Love, Prompt Hunt, Night Cafe и Deviantart. Официальные правила этих ресурсов обычно запрещают размещение контента с непристойным содержанием, однако на практике эти ограничения зачастую игнорируются.

Например, на сайте Playground.com в настоящее время доступно множество сгенерированных картинок с обнаженными девушками. На ресурсе sdxlturbo.ai также размещены обнаженные фейковые снимки звезд в возрасте около 8 лет. При этом в описаниях к данным изображениям прямо указаны текстовые запросы, использованные для их генерации.

В Google утверждают, что блокируют результаты, связанные с детской порнографией. Однако компания не стала комментировать конкретные случаи проблемных сайтов, на которые пожаловались журналисты. После жалоб издания видимых ограничений на доступ к упомянутым ресурсам наложено не было.

В 404 Media предупреждают, что наплыв искусственно созданных изображений и иллюстраций со знаменитостями в интернете, похоже, только набирает обороты. Ранее они уже освещали похожие проблемы с ИИ-контентом в Facebook* и на других платформах. По мнению специалистов, в ближайшем будущем последствия развития технологий искусственного интеллекта могут кардинально изменить привычные нам поисковики и принципы их работы.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ