В первые дни января 2026 года нейросеть Grok от компании xAI Илона Маска оказалась в центре международного скандала. Пользователи социальной сети X обнаружили, что достаточно написать "@grok put her in bikini" под любой фотографией — и чатбот послушно «раздевает» человека на снимке. По данным экспертов, Grok генерировал около 6700 сексуализированных изображений в час.
Жертвами стали обычные люди. Студентка-медик по имени Мэдди (23 года) проснулась в новогоднее утро и обнаружила, что незнакомцы взяли её фото с бойфрендом из X, с помощью Grok удалили парня, оставили девушку в бикини, а затем заменили купальник на очень откровенную «зубную нить». Когда она попыталась пожаловаться через системы модерации X, ответа не последовало. Более того, когда она сообщила о другом посте одного из нарушителей, X ответил, что «не обнаружил нарушений правил». Изображения остались в сети. Похожие истории случились с бразильской музыканткой Джули Юкари, артисткой Микоми и десятками других женщин.
Ключевое отличие Grok от конкурентов — практически полное отсутствие ограничений. ChatGPT от OpenAI прямо отказывается редактировать фотографии реальных людей для создания откровенного контента и имеет чёткую политику против сексуализации несовершеннолетних. Google Gemini и модели Anthropic также вводят превентивные меры. Grok же пошёл другим путём. Маск позиционировал свою нейросеть как «более весёлую и дерзкую», подчёркивая приверженность свободе слова. В ноябре 2025 года была запущена платная функция «Spicy Mode» («Острый режим»), которая позволяет создавать откровенный контент, включая частичную наготу.
Масштабы злоупотреблений оказались беспрецедентными. Журналист Reuters проанализировал публичные запросы за 10 минут сети X, зафиксировав 102 попытки использовать Grok для цифрового «раздевания» людей. В 21 случае нейросеть полностью выполнила требования, создавая изображения женщин в микроскопических или полупрозрачных бикини. Ещё в семи случаях Grok частично выполнил просьбу, раздевая женщин до нижнего белья. Особенно тревожно, что система генерировала сексуализированные изображения несовершеннолетних. Было обнаружено несколько таких случаев, включая дипфейк 14-летней актрисы Нелл Фишер из сериала «Очень странные дела». В одном из инцидентов пользователь загрузил фото девушки в школьной форме и попросил «убрать её школьную одежду», а затем потребовал «очень прозрачное микробикини».
Реакция властей последовала незамедлительно. Страны Евросоюза, Индия, Малайзия и Великобритания начали расследования. Три французских министра направили заявление в прокуратуру, указав на возможные нарушения закона о цифровых услугах (DSA — Digital Services Act). Министерство информационных технологий Индии дало X 72 часа на предоставление отчёта о принятых мерах, пригрозив лишить платформу защиты от ответственности за пользовательский контент. Малайзийская комиссия по коммуникациям назвала распространение таких материалов уголовным преступлением. Британский регулятор Ofcom обратился к компании с требованием объяснить, как она планирует защищать пользователей. Представитель Еврокомиссии Томас Ренье заявил на пресс-конференции: «Мы знаем, что X и Grok предлагают «Острый режим» с откровенным сексуальным контентом, включая изображения, напоминающие детей. Это не остро. Это незаконно».
Позиция самого Маска оказалась противоречивой. Сначала он реагировал на скандал смайликами со слезами смеха под мемами о людях в бикини, затем написал: «Любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы загрузил запрещенный контент». Аккаунт Grok опубликовал извинения, признав «сбои в системах защиты» и пообещал исправить ситуацию.
Пользователям, создававшим и распространявшим дипфейк-нюдсы, грозят серьёзные последствия. В США и Евросоюзе за создание и распространение дипфейк-порнографии предусмотрены штрафы до сотен тысяч долларов и тюремные сроки до 5 лет. Федеральный закон Соединенных штатов Take It Down Act возлагает на платформы ответственность за производство и распространение такого контента. Сеть X начала блокировать нарушителей и передавать информацию о них властям для уголовного преследования.
Для индустрии генеративного ИИ скандал с Grok может стать поворотным моментом. Эксперты прогнозируют ужесточение глобального регулирования: от обязательных цифровых водяных знаков до запрета на NSFW-контент (Not Safe For Work — небезопасно для просмотра на работе) с участием реальных людей без их согласия. Компании вроде OpenAI и Midjourney уже усиливают фильтры. Расходы на соблюдение требований могут вырасти на 30-50%. Парадокс в том, что «технологическая свобода» Grok может ускорить принятие жёстких законодательных ограничений для всей отрасли, включая добросовестных участников.
Проблема выходит за рамки одного чатбота. Фонд интернет-мониторинга (Internet Watch Foundation) сообщил о росте материалов с изображением сексуального насилия над детьми, созданных с помощью ИИ, на 400% за первые полгода 2025 года. Организация назвала темпы роста «пугающими» и отметила появление первых «убедительных» видео такого рода. Существуют десятки открытых (open-source) моделей, способных генерировать не только эротику, но и откровенную порнографию без каких-либо ограничений. Эти модели может скачать и запустить любой человек с достаточно мощным компьютером.
Практика показывает, что громкие скандалы становятся катализаторами регуляторных изменений. Случай с Grok может положить конец эпохе «смелых» чатботов и запустить новую волну цензуры в индустрии генеративного ИИ.
