Казалось бы, причём тут нейросети: Папа Римский в дутом пуховике покоряет Интернет

Не успели мы рассказать о крайне правдоподобной ИИ-генерации нескольких десятков изображений никогда не случавшейся катастрофы, что ввело множество людей в заблуждение, нейросеть Midjourney вновь наделала шума и попала в тренды.

Опубликованное на этих выходных в Twitter изображение Папы Римского Франциска в модной дутой куртке внезапно стало вирусным и быстро разлетелось по всему Интернету. По-видимому, многие люди действительно поверили, что это реальное изображение. На волне популярности этой новости многие интернет-пользователи сами начали генерировать «Папу в пуховике», поэтому сейчас Интернет просто кишит разнообразными вариациями этого изображения. Оригинальное изображение, с которого всё началось, левое снизу.

Вскоре после широкого распространения аналогичных постов Twitter начал добавлять на них контекстное предупреждение, которое гласит: «Это изображение Папы Франциска, созданное искусственным интеллектом. Это не настоящая фотография».

В правилах Twitter говорится, что пользователи «не могут обманным путем делиться синтетическими или манипулируемыми медиафайлами, которые могут причинить вред». Хотя в этом случае грань между вредом и пародией может казаться размытой.

При беглом взгляде многие фальшивые фотографии выглядят вполне реалистично. Но при тщательном изучении подвох всё-таки можно заметить. Особенный резонанс новость вызвала в том числе потому, что Папа Франциск известен своими скромными нарядами, а тут модный пуховик и, вероятно, от известного и популярного бренда.

Сервис изображений, который авторы использовали для создания поддельных изображений Папы Франциска, Midjourney, дебютировал в прошлом году. Наряду со Stable Diffusion и DALL-E это одна из трёх основных моделей синтеза изображений, существующих на данный момент, и обеспечивающих приемлемый уровень генерации. Все три нейросети позволяют пользователям создавать изображения, используя только текстовые описания, называемые «подсказками» или «промтами». Создавать можно по-настоящему абсурдные вещи, которые при этом могут выглядеть крайне реалистично, поэтому нейросети и стали такими популярными.

Midjourney недавно обновился до пятой версии и совершил огромный скачок в фотореализме, визуализируя сложные сцены, полные деталей, из относительно простых подсказок. Поэтому в Интернете чаще можно наткнуться именно на генерации из этой нейросети, так как они выглядят банально лучше и реалистичнее.

Как уже было отмечено нами в прошлой новости , бурное развитие нейросетей в скором времени может породить неконтролируемый уровень фейковых новостей, которые даже при большом желании сложно будет проверить на достоверность. Великие умы современности уже бьют тревогу и подписывают петиции , чтобы приостановить стремительное развитие текстовых нейросетей вроде ChatGPT. Вполне вероятно, точно так же скоро предложат запретить и развитие Midjourney. Однако мы то знаем, что прогресс не так-то просто остановить, вне зависимости от того, что он сулит человечеству.