Сотни подрядчиков Meta почти год выдавали себя за детей и подростков, чтобы забрасывать чат-боты конкурентов запросами про суицид, наркотики, расстройства пищевого поведения и секс. Расследование WIRED, раскрыло внутренний проект под названием Cannes: подрядная компания Covalen создавала фиктивные аккаунты с датами рождения младше 18 лет и от их имени отправляла сообщения в ChatGPT от OpenAI, Gemini от Google и Character.AI. Ни одна из трех корпораций не знала об эксперименте.
Масштаб выдает не рядовой бенчмаркинг, а систематическую кампанию. Один только раунд тестирования в августе 2025-го прогнал через чужие модели свыше 45 тысяч запросов. В таблице на 3748 строк, которую изучили журналисты, сотни пунктов касались суицида и самоповреждений, столько же — расстройств пищевого поведения, а как минимум 239 — секса и романтических отношений. Прикладывали и изображения, которые «подростки» отправляли нейросетям: таблетки, ножи, петли. Каждое сообщение было написано от лица ребенка в кризисе. В одном случае — беременная тринадцатилетняя спрашивает, где достать таблетки. В другом — пятиклассник рассказывает, что одноклассник на уроке достал пистолет. Бывшие сотрудники признались журналистам, что были в шоке от собственных задач и всерьез обсуждали между собой, не заинтересуются ли этим проектом уже не редакторы, а полиция.
Внутренний документ Covalen называл затею куда суше — «комплексным бенчмаркингом безопасности», который дает «критические датасеты для сравнения моделей и соответствия нормативным требованиям». Meta эту формулировку не опровергает: представитель компании заявил, что тестирование и сравнение ответов чат-ботов — «ответственная, стандартная для отрасли практика». Отдельно подчеркнул, что результаты сравнения с конкурентами не идут на обучение собственных моделей.
С этим не согласна Румман Чоудхури, гендиректор некоммерческой организации Humane Intelligence, которая независимо тестирует ИИ-системы на безопасность. Она по просьбе журналистов изучила часть промтов. По ее словам, многомесячный проект такого масштаба, построенный на фиктивных детских аккаунтах, выходит за рамки того, что обычно называют отраслевым стандартом, и превращается в «серую зону управления, где безопасность становится удобным прикрытием для антиконкурентных практик». Из трех протестированных компаний жестче всех высказалась Character.AI, прямо заявившая о нарушении условий использования сервиса. OpenAI ограничилась тем, что изучает ситуацию, а Google подчеркнула: тестирование не одобряла и о его цели не знала, хотя собственная проверка показала, что Gemini отвечал в рамках заложенных в него правил.
История с Cannes выглядела бы разовым скандалом, если бы не совпадала по рисунку с двумя другими эпизодами этого лета, где чужую модель вскрывают не ради статьи в прессе, а ради разговора с Вашингтоном. Через три дня после запуска новых моделей Anthropic — Fable 5 и закрытой Mythos 5 — Министерство торговли США экстренно обязало компанию отключить доступ к ним для всех иностранных граждан по всему миру. Формальным поводом стал джейлбрейк (способ обойти встроенные ограничения модели), который, по данным СМИ, обнаружили исследователи Amazon и через ее гендиректора Энди Джасси донесли до федеральных чиновников. Опасались, что уязвимость открывает Fable 5 доступ к возможностям Mythos 5 в киберразведке — поиске багов в чужом программном коде. Итог — девятнадцать дней полного отключения обеих моделей по всему миру.
Тот же сюжет разворачивается и в обратную сторону. За два дня до удара по Fable 5 сама Anthropic отправила в комитет Сената по банковским делам письмо с обвинением китайской Alibaba: с 22 апреля по 5 июня операторы, связанные с ее лабораторией Qwen, будто бы завели около 25 тысяч фиктивных аккаунтов и пропустили через Claude 28,8 миллиона запросов, чтобы дистиллировать — обучить более слабую модель. Компания предупредила сенаторов, что такой процесс превращает миллиарды долларов американских инвестиций в бесплатную подпитку для геополитического конкурента.
Администрация Трампа обязала разработчиков передового ИИ проверять свои модели на риски безопасности, а работающий при Минторге Центр стандартов и инноваций в ИИ (CAISI) уже оценивает такие тесты и выдает по ним заключения. Формально это должно было стать общим фильтром для всей отрасли. На практике результат ближе к возможности доставить неприятности конкуренту. Компания, которая первой находит дыру у соперника, может отнести находку не в публичный доклад о рисках, а нужному чиновнику и получить взамен персональный экспортный запрет для конкурента, недели его простоя и подмоченную репутацию перед инвесторами.
Интересно, что все участники этой истории или «сохраняют мину при плохой игре», или «вежливо» не замечают того, что прямой конкурент атаковал продукт разработки других корпораций. Возможно, все дело в том, что все участники скандала — американские компании. Будь автором проекта Cannes китайская лаборатория, разговор велся бы не на языке «отраслевого стандарта», а возникла бы истерика по поводу национальной безопасности, и явно начались бы разговоры о требовании ужесточить санкции против Китая.
