ทันเอไอ

Reddit、LLM活用のAIでモデレーターを支援 「Rules Hub」発表、ルール違反投稿を自動チェック

RedditがLLMを活用したAIシステム「Rules Hub」を発表。投稿の文脈や意図を理解し、コミュニティのモデレーターによるルール違反コンテンツの検出・削除を支援する

Redditは、大規模言語モデル（LLM）を搭載した新機能「Rules Hub」により、コミュニティのモデレーター（Moderator）の業務を本格的にAIで支援すると発表した。各グループ（subreddit）のルールに違反するコンテンツの選別を支援する。

このシステムの特長は、従来のような禁止ワードのチェックに頼るのではなく、投稿やコメントの文脈、自然言語、そして「意図」を理解できる点にある。システムがルール違反と判断したコンテンツについては、モデレーターへ報告して確認を促したり、自動的に削除したりといった対応が可能だ。

Redditはまず新規に開設されたsubredditでこのツール群の運用を開始し、その後サイト全体へと拡大する。同社は本日からモデレーターがツールへアクセスできる範囲を拡大し、年内に本格展開する予定だ。

またDexertoの報道によると、このAIシステムはルールに違反する投稿とコミュニティの両方の管理をモデレーターが行えるよう、適用範囲が拡大される見込みで、コンテンツモデレーション業務においてRedditがAIへの依存度を高めている方向性を示している。

このニュースは、膨大な数のコミュニティの管理という課題に直面するRedditにとっての動きだ。その多くは無報酬で激務に就くボランティアのモデレーターに頼っている。AIによる負担軽減で業務が楽になる可能性がある一方で、ツールが文脈をどれだけ正確に解釈できるのかという疑問も投げかけられている。