Мета уже отдала Искусственному интеллекту половину всех проверок контента и до конца года хочет поднять эту долю до 90% для отдельных типов нарушений. Об этих планах написала Financial Times со ссылкой на четырёх осведомлённых людей. Компания стоит 1,4 триллиона долларов, владеет Facebook, Instagram, Threads и WhatsApp.
Считать тут приходится миллиардами — и аудиторию пользователей и финансовые затраты на контроль контента, который эти люди создают. Платформами Меты ежедневно пользуются 3,2 миллиарда человек, каждый день туда заливают сотни миллионов картинок и видео, и вручную такой поток не разгрести при любом штате. Сегодня его разбирает распределённый конвейер: большинство проверяющих не являются сотрудниками Мета, а работают в подрядных фирмах (Accenture, Cognizant, Sama), расположенных в основном в Восточной Европе, Индии, на Филиппинах и в Кении. Причина банальна — меньше зарплаты специалистов. Таких контрактников 15–20 тысяч. Жалобы и срабатывания фильтра падают к ним в очередь, человек открывает контент, сверяет с правилами и решает: удалить, ограничить, пропустить. Что потяжелее — угрозы жизни, возможные преступления, передача дел в полицию — уходит выше, на людей поопытнее.
Работа довольно сложная, а порой и опасная. В Найроби больше 140 бывших модераторов Facebook судятся с Метой, и у 81% прошедших обследование врачи нашли тяжёлое посттравматическое расстройство (ПТСР). Первым роликом одного из них было видео обезглавливание живого человека. При этом кенийские проверяющие одни из самых низкооплачиваемых сотрудников платформы. В 2020-м Мета уже выплатила 52 миллиона долларов на лечение американских модераторов по такому же иску. Так что замена живых команд машиной разом снимает с компании и расходы, и репутационный риск.
А расходы немалые. На модерацию в 2025-м ушло около 5 миллиардов долларов, львиная доля — подрядчикам. Переведя 80–90% потока на алгоритм, Мета оставляет людям только сложные случаи, а высвободившиеся ресурсы сможет вкладывать в обучение нейросетей и строительство дата-центров. FT оценивает экономию в несколько миллиардов долларов в год.
Машина и правда во многих случаях оказывается лучше живого модератора. По внутренним тестам Меты, она вылавливает вдвое больше сексуальных домогательств и ошибается на 60% реже, а фишинговых краж паролей отсекает около 5000 в день. Случаев выдачи себя за чужую персону там, где модель уже включена, стало на 80% меньше. И козырь, которого у людей не было: алгоритм покрывает языки 98% пользователей сети против прежних 80.
Дальше начинается самое тонкое место — прозрачность. В Facebook и Instagram уже встроен ИИ-ассистент поддержки, который поможет оформить апелляцию и сбросить пароль. Разблокировать аккаунт он при этом не умеет: может назвать причину, но вернуть доступ не способен. Так что живым модераторам ещё осталось место в компании, хотя всё больше решений будет принимать машина.
