Meta доверит модерацию контента нейросетям ради экономии

Сейчас алгоритмы справляются с половиной запросов, но к концу года этот показатель по ряду категорий нарушений превысит 90%. Внутренние тесты Meta показывают, что языковые модели справляются с задачей лучше людей: они допускают на 13% меньше ошибок и выявляют на 10% больше запрещенного контента. Для этих целей компания переводит поддержку и модерацию на собственную модель Muse Spark, отказываясь от сторонних решений вроде Google Gemini.

Помимо экономии на штате, руководство делает ставку на адаптивность ИИ к новым угрозам и многоязычным трендам. Однако внутри компании сохраняются споры: специалисты опасаются, что машины, обучающиеся на прошлых решениях людей, могут быть недостаточно надежны при рассмотрении сложных апелляций. Отдельная проблема — борьба с мошеннической рекламой. В 2024 году сомнительные объявления принесли Meta около 16 миллиардов долларов, что составляет десятую часть всей выручки. Компания готова пожертвовать этой прибылью ради снижения юридических рисков и роста доверия аудитории.