ทันเอไอ

Reddit столкнулся со спамом новой эпохи: бренды подделывают отзывы, чтобы скармливать данные ИИ-поиску

Бренды маскируются под обычные отзывы на Reddit, чтобы их упоминания попадали в ответы ChatGPT и ИИ-поисковиков — на фоне исследования, показавшего, что даже 13 слов могут повлиять на ответ ИИ

Сайт The Verge в материале Мии Сато рассказывает о новой волне спама на Reddit, которая нацелена уже не только на обман читателей, но и на обман «ИИ». В качестве примера приводится тред в сабреддите о средствах по уходу за кожей: один из пользователей спросил, пробовал ли кто-нибудь спрей с гипохлоритной кислотой (антисептик, популярный для борьбы с акне) определённого бренда. Вскоре пользователь с ником Primary-Taro4254 ответил вполне естественно, подробно порекомендовав спрей бренда Honeydew Labs и расписав его достоинства — типичная схема подделки «органичного» отзыва для скармливания данных ИИ.

Это явление называется «generative engine optimization», или GEO — стратегия создания онлайн-контента, чтобы бренд появлялся в ответах, генерируемых ИИ. Forbes сообщает то же самое: пока Reddit заявляет о борьбе со спамом, ботами и неискренним контентом, бренды используют платформу, чтобы тайно искажать то, что ИИ-поисковики вроде ChatGPT говорят о них.

Беспокойство вызывает исследование Корнеллского университета, которое показало, что всего 13 слов, встроенных в комментарий на Reddit, достаточно, чтобы повлиять на ответ, сгенерированный ИИ, — ведь современные языковые модели часто берут данные с форумов вроде Reddit для ответов пользователям.

Reddit, со своей стороны, раскрыл через TechCrunch цифры: компания блокирует 23 миллиона попыток просмотра спама в день и выявляет около 25 000 новых спам-постов и комментариев ежедневно. Также сообщается, что за январь–март столкновения пользователей со спамом сократились на 20% по сравнению с предыдущими тремя месяцами.

Последствия уже проявляются на уровне сообществ: по данным 404 Media, модераторы r/biohackers объявили об ограничении постов о пептидах и заместительной гормональной терапии после того, как выяснилось, что компании, продающие эти продукты, систематически вставляли спонсорский контент, чтобы его подхватывали инструменты вроде ChatGPT и Google AI search.