Компания xAI Илона Маска случайно сделала общедоступными сотни тысяч приватных переписок пользователей с чат-ботом Grok. Google проиндексировал более 370 000 диалогов, включая личные данные, пароли и даже планы убийства самого Маска. Пикантность ситуации в том, что ранее Маск активно критиковал конкурентов за проблемы с безопасностью.
Проблема возникла из-за функции «Поделиться» в Grok. Каждый раз при нажатии этой кнопки создается уникальная ссылка, которая автоматически становится доступной поисковикам. Пользователи думали, что делятся диалогом с друзьями, а на деле публиковали его для всего интернета.
Среди утекших данных оказались медицинские консультации, пароли, личная информация и откровенно опасный контент. В некоторых диалогах Grok давал инструкции по производству фентанила (синтетический наркотик), изготовлению бомб и даже составил детальный план убийства своего создателя. Это при том, что xAI заявляет о запрете на получении информации от ИИ-ассистента для создания «критического вреда человеческой жизни».
Особенно пикантно выглядит эта утечка на фоне недавней критики Маском OpenAI за аналогичные проблемы. Когда у ChatGPT обнаружили возможность индексации диалогов, Маск торжествующе писал в Twitter: «Grok ftw» (Grok за победу), утверждая, что у его бота нет такой уязвимости. Теперь выяснилось, что проблема у Grok была еще серьезнее.
Британский журналист Эндрю Клиффорд, чьи диалоги попали в выдачу Google, признался, что понятия не имел о публичности своих запросов. Исследователь из Института Искусственного интеллекта Аллена Натан Ламберт был шокирован, узнав, что его рабочие переписки стали достоянием общественности.
Предприимчивые маркетологи уже начали использовать уязвимость в рекламных целях, создавая диалоги с Grok для продвижения своих сервисов в поисковой выдаче Google. Получился своеобразный бесплатный SEO-инструмент за счет приватности других пользователей.
Пока что xAI не исправила проблему, сославшись на то, что занимается разработкой Grok 5. Функция «Поделиться» по-прежнему работает без предупреждений о возможной индексации.
