ทันเอไอ

Reddit, LLM 기반 AI로 모더레이터 지원...규칙 위반 게시물 자동 감지 'Rules Hub' 공개

Reddit이 게시물의 맥락과 의도를 이해하는 LLM 기반 AI 시스템 'Rules Hub'를 공개했다. 커뮤니티 운영자가 규칙 위반 콘텐츠를 감지하고 삭제하는 것을 돕는 기능이다.

Reddit이 대규모 언어 모델(LLM)로 구동되는 새로운 기능 'Rules Hub'를 통해 커뮤니티 운영자(Moderator) 업무에 AI를 본격 도입한다고 발표했다. 각 커뮤니티(subreddit)의 규칙을 위반하는 콘텐츠를 걸러내는 데 활용된다.

이 시스템의 강점은 기존의 금지어 필터링 방식이 아닌, 게시물과 댓글의 맥락과 자연어, 그리고 '의도'까지 이해하는 능력이다. 시스템이 규칙 위반으로 판단되는 콘텐츠를 발견하면 운영자에게 검토를 요청하거나 자동으로 삭제하는 등의 조치를 취할 수 있다.

Reddit은 이 도구를 새로 개설된 subreddit부터 적용한 뒤 전체 사이트로 확대할 계획이다. 회사는 오늘부터 운영자들의 도구 접근 범위를 넓혔으며, 올해 안에 정식 출시할 예정이다.

한편 Dexerto는 AI 시스템의 적용 범위가 확대되어 규칙을 위반하는 게시물과 커뮤니티 관리 전반을 지원하게 될 것이라고 보도했다. 이는 콘텐츠 관리 업무에서 Reddit이 AI에 점점 더 의존하는 방향성을 보여준다.

이번 소식은 Reddit이 방대한 수의 커뮤니티를 관리하는 데 어려움을 겪는 가운데 나왔다. 대부분의 관리는 보수 없이 고강도로 일하는 자원봉사 운영자들에 의존해 왔다. AI가 업무 부담을 덜어줄 수 있지만, 도구가 맥락을 얼마나 정확하게 해석할 수 있을지에 대한 의문도 제기된다.