ทันเอไอ

Reddit enfrenta el spam de la nueva era: marcas fingen reseñas para alimentar a la IA

Las marcas se infiltran como reseñas naturales en Reddit para aparecer en las respuestas de ChatGPT y las búsquedas con IA, en medio de investigaciones que señalan que apenas 13 palabras pueden influir en las respuestas de la IA

El sitio web The Verge informó, de la mano de Mia Sato, sobre una nueva ola de spam en Reddit que ahora no solo busca engañar a los lectores humanos, sino también a la "IA". El ejemplo citado es un hilo en un subreddit sobre cuidado de la piel, donde un usuario preguntó si alguien había probado un spray de ácido hipocloroso (un antiséptico popular contra el acné) de cierta marca. Poco después, un usuario llamado Primary-Taro4254 respondió de forma aparentemente inocente, recomendando el spray de la marca Honeydew Labs con beneficios detallados: un patrón típico de reseñas fingidas destinadas a alimentar a la IA.

Este fenómeno se conoce como "generative engine optimization" o GEO: una estrategia para crear contenido en línea que haga que una marca aparezca en las respuestas generadas por IA. Forbes reportó de forma coincidente que, mientras Reddit anuncia medidas contra el spam, los bots y el contenido no auténtico, las marcas utilizan la plataforma para distorsionar en secreto lo que herramientas de búsqueda con IA como ChatGPT dicen sobre ellas.

La preocupación surge de una investigación de la Universidad de Cornell, que encontró que un texto de apenas 13 palabras insertado en un comentario de Reddit es suficiente para influir en las respuestas generadas por la IA, ya que los modelos de lenguaje modernos suelen extraer información de foros como Reddit para responder a los usuarios.

Por su parte, Reddit reveló cifras a través de TechCrunch: la empresa bloquea 23 millones de intentos de consulta de spam al día y detecta unos 25,000 nuevos posts o comentarios de spam diariamente, señalando además que redujo en un 20% la exposición de los usuarios al spam entre enero y marzo, en comparación con los tres meses anteriores.

El impacto ya se nota a nivel comunitario. Un reporte de 404 Media indica que los moderadores de r/biohackers acaban de anunciar restricciones a las publicaciones sobre péptidos y terapia de reemplazo hormonal, tras descubrir que las empresas que venden esos productos insertaban contenido patrocinado de manera sistemática para ser recogido por herramientas como ChatGPT y Google AI search.