ทันเอไอ

Redditが直面する新時代のスパム:ブランドが偽レビューでAI検索に情報を注入

商品ブランドがReddit上で自然なレビューを装い、ChatGPTやAI検索の回答に取り込まれることを狙う。わずか13語の短いテキストでもAIの回答に影響を与えられるという研究結果も

The VergeのMia Satoによる報道によると、Redditでは新たなスパムの波が起きており、それは読者を欺くだけでなく「AI」を欺くことも目的としている。例として挙げられたのは、スキンケアに関するサブレディットのスレッドで、あるユーザーが「hypochlorous acid(次亜塩素酸:ニキビ対策として人気の抗菌物質)のスプレーのあるブランドを試した人はいますか」と質問したところ、Primary-Taro4254というユーザーが不自然さのない返答をし、Honeydew Labsというブランドのスプレーをその効能とともに詳しく推薦したというものだ。これはAIに情報を注入するため自然なレビューを装う典型的な手口である。

この現象は「generative engine optimization(GEO)」と呼ばれる — 自社ブランドがAIの生成する回答に登場するよう、オンラインコンテンツを作り込む戦略だ。Forbesも同様の報道をしており、Redditがスパム、ボット、不誠実なコンテンツの取り締まりを表明する一方で、各ブランドはこのプラットフォームを利用して、ChatGPTのようなAI検索ツールが自社について語る内容をこっそり歪めているという。

懸念されるのは、Cornell大学の研究結果だ。Redditのコメントに埋め込まれたわずか13語の短いテキストが、AIの生成する回答に影響を与えるのに十分だという。最新の言語モデルはRedditのような掲示板から情報を引き出してユーザーの質問に答えることが多いためだ。

Reddit側はTechCrunchを通じて、1日あたり2,300万件のスパム閲覧の試みをブロックし、新たなスパム投稿・コメントを1日約25,000件検出していると数字を公表。さらに、1月〜3月の期間でユーザーがスパムに遭遇する割合を、前の3ヶ月と比べて20%削減したと述べている。

影響はすでにコミュニティレベルで現れ始めている。404 Mediaの報道によると、r/biohackersのモデレーターは最近、ペプチドやホルモン補充に関する投稿を制限すると発表した。こうした製品を販売する企業が、ChatGPTやGoogle AI検索のようなツールに取り込まれることを狙って、スポンサー付きコンテンツを組織的に挿入していることが判明したためだ。