ทันเอไอ

Reddit usa IA con LLM para ayudar a los moderadores y lanza Rules Hub, que detecta publicaciones que infringen las normas automáticamente

Reddit lanza Rules Hub, un sistema de IA basado en LLM que comprende el contexto y la intención de las publicaciones para ayudar a los moderadores de comunidades a detectar y eliminar contenido que infringe las normas

Reddit anunció el uso serio de IA para apoyar el trabajo de los moderadores de comunidades con una nueva función llamada "Rules Hub", impulsada por Large Language Models (LLMs) o modelos de lenguaje de gran tamaño, para ayudar a filtrar contenido que infringe las normas de cada grupo (subreddit).

El punto destacado de este sistema es su capacidad para comprender el contexto, el lenguaje natural y la "intención" de las publicaciones o comentarios, en lugar de depender solo de la detección de palabras prohibidas como antes. Cuando el sistema encuentra contenido que podría infringir las normas, puede tomar medidas, como reportarlo a los moderadores para su revisión o eliminarlo automáticamente.

Reddit comenzará a usar este conjunto de herramientas primero en los subreddits nuevos, antes de expandirlo a todo el sitio web. La empresa permite a los moderadores acceder a las herramientas en mayor medida desde hoy, antes del lanzamiento completo dentro de este año.

Mientras tanto, Dexerto informó además que el sistema de IA ampliará su alcance para ayudar a los moderadores a gestionar tanto publicaciones como comunidades que infrinjan las normas, lo que refleja la tendencia de Reddit a depender cada vez más de la IA en el trabajo de moderación de contenido.

Esta noticia surge en medio del desafío de Reddit de supervisar una cantidad enorme de comunidades, que en su mayoría dependen de moderadores voluntarios que trabajan duro y sin remuneración. Contar con la ayuda de la IA podría aliviar la carga, pero también plantea la pregunta de con qué precisión la herramienta interpretará el contexto.