ทันเอไอ

Reddit, 새로운 시대의 스팸에 직면: 브랜드들이 AI 검색에 노출되려고 가짜 리뷰를 심는다

상품 브랜드들이 Reddit에서 자연스러운 리뷰인 척 위장해 ChatGPT와 AI 검색의 답변에 포함되도록 하고 있으며, 연구에 따르면 단 13단어의 짧은 문장도 AI 답변에 영향을 줄 수 있는 것으로 나타났다

The Verge의 Mia Sato는 Reddit에서 새로운 유형의 스팸 물결을 보도했다. 이제 이러한 스팸은 단순히 독자를 속이는 것을 넘어 "AI"를 속이는 데에도 쓰인다. 사례로 제시된 것은 스킨케어 관련 서브레딧의 한 스레드로, 한 사용자가 여드름에 흔히 쓰이는 살균 성분인 차아염소산(hypochlorous acid) 스프레이 특정 제품을 써본 사람이 있는지 물었고, 이에 Primary-Taro4254라는 사용자가 아무 의심스러운 점 없이 Honeydew Labs 브랜드의 스프레이를 상세한 효능과 함께 추천하는 댓글을 달았다. 이는 AI에 정보를 주입하기 위해 자연스러운 리뷰를 가장하는 전형적인 수법이다.

이러한 현상은 "생성형 엔진 최적화(generative engine optimization, GEO)"라고 불린다. 즉, 자사 브랜드가 AI가 생성하는 답변에 나타나도록 온라인 콘텐츠를 만드는 전략이다. Forbes도 이와 맥락을 같이하는 보도를 내놓았다. Reddit이 스팸, 봇, 불성실한 콘텐츠 단속을 선언하는 가운데, 브랜드들은 이 플랫폼을 이용해 ChatGPT 같은 AI 검색 도구가 자사를 어떻게 언급하는지 은밀히 왜곡하고 있다는 것이다.

우려스러운 점은 Cornell 대학의 연구 결과다. Reddit 댓글에 심어진 단 13단어의 짧은 문장도 AI가 생성하는 답변에 영향을 미치기에 충분하다는 것이다. 최신 언어 모델들이 Reddit 같은 게시판에서 정보를 가져와 사용자의 질문에 답하는 경우가 많기 때문이다.

Reddit 측은 TechCrunch를 통해 하루 2,300만 건의 스팸 접근 시도를 차단했으며, 하루 약 25,000건의 새로운 스팸 게시물·댓글을 적발했다고 밝혔다. 또한 1월~3월 기간 동안 사용자가 스팸에 노출되는 비율을 직전 3개월 대비 20% 줄였다고 전했다.

그 영향은 이미 커뮤니티 수준에서 나타나고 있다. 404 Media의 보도에 따르면 r/biohackers의 관리자들은 관련 제품을 판매하는 기업들이 ChatGPT나 Google AI 검색 같은 도구에 인용되도록 스폰서 콘텐츠를 조직적으로 삽입한 사실을 발견한 뒤, 펩타이드와 호르몬 대체 요법 관련 게시물을 제한한다고 발표했다.