ทันเอไอ

Reddit использует ИИ на базе LLM для помощи модераторам: запуск Rules Hub с автоматической проверкой постов на нарушение правил

Reddit представил Rules Hub — систему ИИ на основе LLM, которая понимает контекст и намерение постов и помогает модераторам сообществ выявлять и удалять контент, нарушающий правила

Reddit объявил о серьёзном внедрении ИИ в работу модераторов сообществ: новая функция под названием «Rules Hub» работает на базе больших языковых моделей (LLM) и помогает отфильтровывать контент, нарушающий правила отдельных сабреддитов.

Ключевая особенность системы — способность понимать контекст, естественный язык и «намерение» поста или комментария, вместо простой проверки по списку запрещённых слов, как раньше. Обнаружив контент, потенциально нарушающий правила, система может предпринять действия: например, отправить его модератору на проверку или удалить автоматически.

Reddit начнёт использовать этот набор инструментов сначала в новых сабреддитах, а затем распространит на весь сайт. Компания уже открыла модераторам расширенный доступ к инструментам, а полноценный запуск запланирован в течение этого года.

По данным Dexerto, система ИИ будет расширена, чтобы помогать модераторам управлять как постами, так и целыми сообществами, нарушающими правила. Это отражает тенденцию всё большей опоры Reddit на ИИ в модерации контента.

Новость появилась на фоне сложностей Reddit с управлением огромным числом сообществ, которые в основном обслуживаются волонтёрами-модераторами, работающими бесплатно и на износ. Помощь ИИ может облегчить их нагрузку, но при этом поднимает вопрос о том, насколько точно инструмент сможет интерпретировать контекст.