ทันเอไอ

Reddit เผชิงสแปมยุคใหม่: แบรนด์ปลอมรีวิวป้อนข้อมูลให้ AI ค้นหา

แบรนด์สินค้าแฝงตัวเป็นรีวิวธรรมชาติบน Reddit เพื่อให้ถูกดึงไปอยู่ในคำตอบของ ChatGPT และ AI search ท่ามกลางงานวิจัยชี้ว่าข้อความสั้นเพียง 13 คำก็มีอิทธิพลต่อคำตอบ AI ได้

เว็บไซต์ The Verge รายงานโดย Mia Sato ถึงคลื่นลูกใหม่ของสแปมบน Reddit ซึ่งตอนนี้ไม่ได้มีไว้แค่หลอกคนอ่าน แต่หลอก "AI" ด้วย ตัวอย่างที่ยกมาคือเธรดในสับเรดดิตเกี่ยวกับสกินแคร์ ที่ผู้ใช้คนหนึ่งถามว่ามีใครเคยลองสเปรย์ hypochlorous acid (สารต้านเชื้อที่นิยมใช้กับสิว) ยี่ห้อหนึ่งหรือไม่ ก่อนจะมีผู้ใช้ชื่อ Primary-Taro4254 ตอบกลับอย่างดูไม่มีพิรุธ พร้อมแนะนำสเปรย์ของแบรนด์ Honeydew Labs พร้อมสรรพคุณอย่างละเอียด ซึ่งเป็นรูปแบบทั่วไปของการปลอมเป็นรีวิวธรรมชาติเพื่อป้อนข้อมูลให้ AI

ปรากฏการณ์นี้มีชื่อเรียกว่า "generative engine optimization" หรือ GEO — กลยุทธ์สร้างเนื้อหาออนไลน์เพื่อให้แบรนด์ตัวเองปรากฏในคำตอบที่ AI สร้างขึ้น Forbes รายงานสอดคล้องกันว่า ขณะที่ Reddit ออกมาประกาศเรื่องการปราบสแปม บอต และเนื้อหาไม่จริงใจ แบรนด์ต่างๆ ก็ใช้แพลตฟอร์มแห่งนี้บิดเบือนสิ่งที่เครื่องมือค้นหา AI อย่าง ChatGPT พูดถึงพวกเขาอย่างลับๆ

ความน่ากังวลอยู่ที่งานวิจัยของมหาวิทยาลัย Cornell ซึ่งพบว่าข้อความสั้นเพียง 13 คำที่ฝังไว้ในความคิดเห็นบน Reddit ก็เพียงพอที่จะมีอิทธิพลต่อคำตอบที่ AI สร้างขึ้น เพราะโมเดลภาษาสมัยใหม่มักดึงข้อมูลจากเว็บบอร์ดอย่าง Reddit ไปใช้ตอบคำถามผู้ใช้

ฝั่ง Reddit เปิดเผยตัวเลขผ่าน TechCrunch ว่า บริษัทบล็อกความพยายามเข้าดูสแปมได้ 23 ล้านครั้งต่อวัน และจับโพสต์/คอมเมนต์สแปมใหม่ได้ประมาณ 25,000 รายการต่อวัน พร้อมระบุว่าลดการที่ผู้ใช้เจอสแปมลง 20% ในช่วงมกราคม–มีนาคม เมื่อเทียบกับสามเดือนก่อนหน้า

ผลกระทบเริ่มปรากฏในระดับชุมชนแล้ว รายงานจาก 404 Media ระบุว่าผู้ดูแลของ r/biohackers เพิ่งประกาศจำกัดโพสต์เกี่ยวกับเปปไทด์และฮอร์โมนทดแทน หลังพบว่าบริษัทที่ขายผลิตภัณฑ์เหล่านั้นแทรกเนื้อหาสปอนเซอร์อย่างเป็นระบบ เพื่อให้ถูกดึงไปใช้โดยเครื่องมืออย่าง ChatGPT และ Google AI search