Тёмная сторона Reddit Answers: как ИИ превращает поиск в игру с ошибками

Reddit представил новую функцию поиска под названием «Reddit Answers» , которая использует ИИ для создания кратких ответов на основе существующих публикаций. Эта разработка направлена на упрощение поиска ответов внутри платформы.

Технология работает за счёт анализа огромного объёма обсуждений и комментариев, скопившихся на платформе за почти 20 лет существования. На вопросы пользователей «Reddit Answers» отвечает с помощью обобщений релевантных диалогов, включая ссылки на соответствующие сообщества и публикации.

Нововведение ставит Reddit в конкурентное положение с такими поисковыми гигантами, как Google, и современными инструментами на базе ИИ от OpenAI и Perplexity. Однако отличие Reddit Answers заключается в ограничении источников контента только платформой Reddit, что обеспечивает более специфичные, но во многом не менее полезные результаты.

Сейчас функция доступна только англоязычным пользователям в США. Позже компания планирует расширить доступ на другие языки и регионы. Reddit активно развивает ИИ с 2023 года.

В то время генеральный директор компании Стив Хаффман заявил о монетизации API платформы, предоставляя крупным компаниям доступ к данным для обучения ИИ. В феврале 2024 года Reddit заключил сделку с Google на $60 млн, а в мае — с OpenAI, интегрировав свой контент в ChatGPT.

Однако пользователи неоднозначно восприняли инициативу компании. В октябре 2024 года лондонские реддиторы начали намеренно публиковать ложные рекомендации о ресторанах, чтобы повлиять на результаты ИИ и защитить любимые заведения от туристов. Это продемонстрировало, как сообщества могут искажать данные для обучения ИИ.

В целом, новая функция несёт риски и без злонамеренного вмешательства троллей. Так, она может предоставлять неверные ответы, опираясь на ошибочную информацию, или интерпретировать достоверные данные некорректно. Аналогичные проблемы были замечены в Google AI Overview.

Компания Advance Publications, владелец Reddit, остаётся крупнейшим акционером платформы. Как будет далее развиваться «Reddit Answers», покажет лишь время.