Reddit тестує штучний інтелект для модерації та змінює правила для користувачів

Сучасні цифрові платформи постійно шукають баланс між відкритістю для нових учасників та надійним захистом від зловживань. У межах масштабного оновлення компанія Reddit оголосила про кардинальну модернізацію інструментів модерації та системи захисту від спаму. Головною метою нововведень є поступове зменшення залежності спільнот від показників карми та віку облікового запису, які тривалий час служили основними фільтрами при створенні публікацій.

Еволюція та обмеження системи карми

Карма є внутрішньою репутаційною системою платформи, яка накопичується завдяки позитивним оцінкам інших учасників. Спочатку цей механізм розроблявся як засіб протидії ботам і масовому спаму. Проте з часом чимало спільнот запровадили жорсткі мінімальні пороги карми та вимоги до віку акаунта як обов’язковий критерій для допуску до публікацій. Через це нові користувачі часто стикалися з бар’єрами, які ускладнювали повноцінну участь у житті платформи.

Статистика демонструє гостроту цієї проблеми для цифрових екосистем. За результатами досліджень онлайн-безпеки, близько 65 відсотків нових користувачів припиняють спроби взаємодії або залишають платформу, зіткнувшись із жорсткими обмеженнями на старті. Водночас на автоматизовані бот-мережі припадає до 42 відсотків усього вебтрафіку на відкритих ресурсах, що змушувало модераторів покладатися на прості кількісні критерії. Оновлена інфраструктура Reddit покликана вирішити цю проблему шляхом інтелектуального аналізу поведінкових патернів.

Розгортання Rules Hub та інтеграція великих мовних моделей

Керівництво компанії наголошує, що сучасні системи виявлення порушень здатні самостійно виконувати значну частину рутинної роботи. Це дозволить модераторам відкривати спільноти для новачків без загрози зростання рівня спаму чи деструктивної активності. Представники компанії зазначають, що такий підхід спрощує залучення нових учасників і полегшує роботу модераторів.

Одночасно з цим Reddit розширює масштаби тестування Rules Hub — набору інструментів модерації на основі великих мовних моделей. Система аналізує контекст публікацій і коментарів, перевіряє їх на відповідність внутрішнім правилам спільноти та здатна автоматично застосовувати санкції за порушення. На етапі попереднього тестування Rules Hub використовували понад 700 спільнот. Тепер інструмент доступний для тестування всім новим спільнотам, а до кінця року компанія планує надати доступ до нього всім модераторам платформи.

Технічне оновлення інфраструктури та фінансові успіхи

Окрім інтелектуальної модерації, компанія оновила допоміжні функції для авторів контенту. Інтерфейсні покращення допомагають краще розуміти правила під час створення дописів та полегшують налаштування спеціальних позначок. Паралельно інженерні команди переводять робочі процеси модераторів зі старої версії сайту на нову сучасну інфраструктуру, оновлюючи стек критично важливих ботів.

Ці ініціативи є частиною загальної стратегії компанії, спрямованої на збільшення щоденної активності користувачів. Під час публікації фінансового звіту за другий квартал Reddit повідомив про дохід у розмірі $805 млн та прибуток $1,25 на акцію, що перевищило прогнози ринкових аналітиків. Водночас керівництво звернуло увагу на те, що нестабільність пошукового трафіку залишається фактором, який впливає на подальше зростання платформи.