Киберпреступники все чаще используют инструменты генеративного ИИ, такие как ChatGPT или WormGPT, специальную модель вредоносного ПО, для афер с использованием поддельных электронных писем для крупных компаний и организаций.

По сообщениям британского компьютерного хакера Дэниели Келли, с помощью этих инструментов ИИ, киберпреступники, отправляя письма от лица партнеров компании или их сотрудников, получают доступ к конфиденциальной корпоративной информации и одобрения по денежным переводам.

WormGPT — это инструмент ИИ, оптимизированный для киберпреступлений, таких как Компрометация корпоративной почты (BEC), умеет создавать убедительные и стратегически сложные электронные письма. Это делает его мощным инструментом для сложных фишинговых и BEC-атак. Келли описывает его как ChatGPT "без этических границ и ограничений".

WormGPT основан на открытой модели GPT-J, которая приближается по производительности к GPT-3 и может выполнять текстовые задачи, аналогичные ChatGPT, а также писать или форматировать простой код.

Кроме того, для манипулирования такими моделями, как ChatGPT, используются специальные подсказки, известные как "джейлбрейки", которые позволяют получить результат, включающий раскрытие конфиденциальной информации или выполнение вредоносного кода.

Генерируемые ИИ электронные письма грамматически правильны, что повышает вероятность того, что они останутся незамеченными и не попадут в спам, а простые в использовании модели ИИ снизили барьер входа для атак.

Келли протестировал WormGPT на фишинговом письме, призванном обманом заставить представителя службы поддержки оплатить срочный фиктивный счет. В качестве отправителя письма выступал генеральный директор компании, на которую направлено письмо.

Келли называет результаты эксперимента "тревожными", а сгенерированные мошеннические письма — "удивительно убедительными, но в то же время стратегически хитрыми". Используя возможности WormGPT, даже неопытные киберпреступники могут представлять значительную угрозу.

По словам Келли, по мере распространения средств ИИ будут появляться новые векторы атак, что делает необходимым принятие эффективных мер по их предотвращению. Для защиты от BEC-атак на основе ИИ организациям следует разработать специальные тренинги по BEC и внедрить усиленные меры проверки электронной почты.

В качестве примера Келли приводит предупреждения о сообщениях электронной почты, поступающих извне организации и выдающих себя за менеджеров или поставщиков. Другие системы могут отмечать сообщения с такими ключевыми словами, как "срочно", "конфиденциально" или "электронный перевод", которые ассоциируются с BEC-атаками.