Киберпреступники нашли способ заставить искусственный интеллект Grok из соцсети X (бывший Twitter) невольно распространять вредоносные ссылки среди пользователей. Новая схема обмана получила название «Grokking».

Злоумышленники прячут опасные ссылки там, где их никто не ищет. Они размещают платную рекламу на платформе с провокационными видео, но хитрую ссылку вставляют не в текст поста, а в техническое поле «From:» под видеоплеером, которое не видно пользователям. Системы безопасности X не сканируют это поле, поэтому реклама спокойно проходит модерацию. Дальше начинается театр одного актёра: мошенники создают фейковые аккаунты и задают Grok невинные вопросы типа «Откуда это видео?».

ИИ-ассистент находит информацию в метаданных и дает ответ на вопрос, публикуя вредоносную ссылку в кликабельном виде. Поскольку Grok — доверенный системный агент, его ответы получают больше охватов и лучше индексируются поисковиками.

Исследователи из Guardio Labs обнаружили сотни аккаунтов, работающих по этой схеме. Каждый публикует тысячи похожих постов, пока его не заблокируют.

Вредоносные ссылки ведут на поддельные проверки CAPTCHA (функция защиты от ботов), страницы для кражи паролей или сайты с вирусами.

Эксперты советуют слепо не доверять даже ответам ИИ, особенно если речь идёт о ссылках из сомнительных видео. Используйте антивирусы с защитой от фишинга и расширения браузера для блокировки опасных сайтов.

Разработчики X уже работают над исправлением уязвимости — планируют сканировать все поля метаданных и научить Grok фильтровать подозрительные ссылки.