Чат-бот Apate от экспертов по кибербезопасности из австралийского Университета Маккуори предназначен для того, чтобы выдавать себя за человека и принимать телефонные звонки от мошенников, тем самым тратя их время.

Группа экспертов по кибербезопасности в Австралии разрабатывает чат-бота, который может выдавать себя за человека при телефонном звонке, чтобы тратить время мошенника.

Исследователи из Университета Маккуори в Сиднее создают систему чат-ботов, которая будет действовать как «приманка», заманивая мошенников на 40-минутные разговоры, которые ничего не значат.

«Наша модель связывает их, тратит впустую их время и снижает количество успешных атак», — сообщает Профессор Университета Маккуори Дали Каафар. «Мы можем разрушить их бизнес-модель и значительно усложнить им процесс кражи денег».

Проект начался после того, как Каафар получил спам-звонок и держал мошенника на линии в течение 40 минут, развлекая своих детей за обедом. Но даже несмотря на то, что обман мошенника может быть забавным, это требует времени.

«Затем я начал думать о том, как мы могли бы автоматизировать весь процесс и использовать обработку естественного языка для разработки компьютеризированного чат-бота, который мог бы вести правдоподобный разговор с мошенником», — говорит Каафар.

Результат - Апате чат-бот, названный в честь греческой богини обмана. По сути, он использует технологию в стиле ChatGPT и сочетает ее с клонированием голоса, чтобы создать манекен человека, предназначенный для ведения долгих и убедительных разговоров с мошенником. Команда Каафара обучала Apate стенограммам реальных мошеннических разговоров, включая телефонные звонки, электронные письма и сообщения в социальных сетях, поэтому бот может генерировать человеческие ответы, когда отвечает на звонок от злоумышленника.

По данным университета, команда тестировала Apate на реальных звонках с помощью прототипа, который может принимать широкий спектр личностей. Чтобы стимулировать звонки, «мы размещаем эти «грязные» номера по всему Интернету, загружая их в некоторые спам-приложения или публикуя их на веб-страницах и т. д., чтобы повысить вероятность получения ими звонков от злоумышленников», — говорит Каафар.

Цель состоит в том, чтобы сделать бота достаточно умным, чтобы заставить мошенника вести 40-минутный разговор. В настоящее время Apate в среднем составляет всего 5 минут. Но Каафар отмечает: «Мы обнаружили, что боты довольно хорошо реагируют на некоторые сложные ситуации, с которыми мы не ожидали выйти сухими из воды, когда мошенники запрашивают информацию, для которой мы не обучали ботов, но боты адаптируются и очень правдоподобно отвечают».

Развитие Apate также происходит, поскольку мошенники уже используют технологии искусственного интеллекта, такие как клонирование голоса и дипфейки, для продвижения своих собственных схем. Так что в каком-то смысле Каафар изучает, можно ли использовать те же технологии, чтобы дать отпор.

«Я предполагаю, что окончательный метасценарий мог бы состоять в том, что мошенники сами внедряют ИИ, обучая своих собственных мошеннических чат-ботов, которые затем переключаются на общение с чат-ботами, принадлежащими поставщикам телекоммуникационных услуг», — говорит он, отмечая, что его команда уже ведет переговоры с рядом телекоммуникационных провайдеров об Apate.