Google AI: помощник или тролль? ИИ выдает сомнительные советы, а Google ищет виноватых

На прошлой неделе Google запустил новую функцию поиска с использованием искусственного интеллекта AI Overviews для миллионов пользователей, стремясь улучшить взаимодействие с Поиском. Однако вместо инноваций ИИ выдал ряд странных результатов, таких как советы добавлять клей в пиццу, чтобы сыр не спадал, и есть камни.

AI Overviews — это система на базе генеративного ИИ, которая не просто выдает ссылки на релевантные веб-страницы, а генерирует прямые ответы на поисковые запросы пользователей.

Компания Google оперативно удалила некоторые неверные результаты, но ущерб был уже нанесен, и мемы быстро разлетелись по интернету. Глава поисковых систем Google Лиз Рид объяснила, что причиной некорректных результатов стали «пробелы в данных» и пользователи, задающие необычные вопросы.

Рид также отметила, что в целом результаты с использованием ИИ приводят к «большему удовлетворению» пользователей. Лиз Рид утверждает, что AI Overviews в основном не «галлюцинирует», а лишь иногда неверно интерпретирует информацию, уже находящуюся в сети.

Рид отметила, что команда Google заметила бессмысленные запросы, видимо, направленные на получение ошибочных результатов. Отмечается, что в интернете также распространилось множество поддельных скриншотов AI Overviews.

Некоторые вопросы, по мнению Лиз Рид, вполне оправданы, например: «Какое млекопитающее имеет больше всего костей?» Если у вас есть маленький ребенок, вы наверняка сталкивались с подобными запросами. Однако Google активировал эту функцию для миллионов пользователей, что вызвало волну негодования и даже привело к появлению статей с инструкциями по отключению нововведения.

В своем блоге Лиз Рид также объяснила, как Google исправляет AI Overviews, ограничивая появление бессмысленных запросов и сатиры. Это важно, так как многих удивило, что известный сатирический сайт The Onion (источник совета есть камни) и пользователь Reddit под ником «f*cksmith» не были отфильтрованы в результатах ИИ.

Лиз Рид сравнивает AI Overviews с другой давней функцией поиска, называемой featured snippets, которая выделяет информацию с релевантной веб-страницы без использования генеративного ИИ. По словам Рид, точность featured snippets сопоставима с AI Overviews.

Пример featured snippet

В конечном итоге введение AI Overviews стало очередной ошибкой PR-отдела Google. Тем временем Google пытается конкурировать с OpenAI и стартапами в области поиска на основе ИИ, такими как Perplexity, который уже оценивается в $3 миллиарда. Если Google хочет оставаться конкурентоспособным, ему нужно двигаться быстро. Но при этом важно сохранять доверие пользователей.

Нововведения нанесли болезненный удар создателям контента — той самой аудитории, которую, по заявлениям Google, компания стремится продвигать в поиске. Целый ряд популярных ресурсов оказался на грани вымирания.