ทันเอไอ

Reddit setzt auf LLM-gestützte KI zur Unterstützung von Moderatoren und stellt Rules Hub zur automatischen Erkennung von Regelverstößen vor

Reddit stellt Rules Hub vor, ein KI-System auf LLM-Basis, das Kontext und Absicht von Beiträgen versteht, um Community-Moderatoren bei der Erkennung und Entfernung regelverletzender Inhalte zu unterstützen

Reddit hat angekündigt, Moderatoren von Communities künftig ernsthaft mit KI zu unterstützen. Das neue Feature namens „Rules Hub“ wird von Large Language Models (LLMs) angetrieben und soll Inhalte herausfiltern, die gegen die Regeln der jeweiligen Gruppe (Subreddit) verstoßen.

Die Stärke des Systems liegt in seiner Fähigkeit, Kontext, natürliche Sprache und die „Absicht“ von Beiträgen oder Kommentaren zu verstehen – statt sich wie bisher nur auf die Prüfung verbotener Wörter zu verlassen. Erkennt das System einen möglichen Regelverstoß, kann es Maßnahmen ergreifen, etwa den Inhalt zur Überprüfung an Moderatoren melden oder automatisch löschen.

Reddit beginnt mit dem Einsatz dieser Werkzeuge zunächst bei neu erstellten Subreddits, bevor sie auf die gesamte Website ausgeweitet werden. Das Unternehmen gewährt Moderatoren ab sofort erweiterten Zugang zu den Werkzeugen; die vollständige Einführung ist noch für dieses Jahr geplant.

Wie Dexerto ergänzend berichtet, soll das KI-System ausgeweitet werden, um Moderatoren bei der Verwaltung sowohl regelverletzender Beiträge als auch ganzer Communities zu unterstützen. Dies spiegelt den Kurs wider, dass Reddit bei der Inhaltsmoderation zunehmend auf KI setzt.

Die Nachricht kommt vor dem Hintergrund der Herausforderung, die Reddit bei der Betreuung einer enormen Zahl von Communities hat – größtenteils getragen von ehrenamtlichen Moderatoren, die unbezahlt hart arbeiten. KI-Unterstützung könnte diese Arbeit erleichtern, wirft aber zugleich die Frage auf, wie präzise die Werkzeuge Kontext tatsächlich interpretieren können.