Крупная консалтинговая компания Deloitte конкретно «подмочила» свою репутацию. Ей придется вернуть деньги правительству Австралии за отчет, написанный, как оказалось, Искусственным интеллектом. В документе были выдуманные цитаты из решений суда, ссылки на несуществующих ученых и фальшивые академические исследования. А тем временем в мире все больше и больше ответственных функций в госуправлении и бизнесе возлагают на ИИ. Не рано ли?
Австралийский департамент занятости заказал у Deloitte проверку системы социальных выплат за 440 тысяч долларов. Спустя семь месяцев работы был опубликован финальный отчет аудита, в котором исследователь из Сиднейского университета Крис Радж насчитал минимум 20 серьезных ошибок.
Нейросеть Azure OpenAI GPT-4o сгенерировала цитаты из реальных судебных решений, которых там никогда не было. Придумала академические работы и их авторов. Расставила ссылки на научные статьи, которые существуют только в воображении алгоритма.
В исправленной версии удалили больше десятка фейковых ссылок, переписали список литературы, поправили опечатки. Deloitte пришлось признать ошибку и вернуть часть гонорара.
Хорошо, что ошибки заметили. Отчет касался системы социальных пособий — от этого зависят выплаты тысячам безработных австралийцев. Представители департамента успокаивают: мол, основные выводы остались верными, изменения не повлияли на суть рекомендаций. Но доверие подорвано серьезно.
Случай с Deloitte не единичен. В 2023 году адвокат из Нью-Йорка чуть не лишился лицензии, когда в суде обнаружили выдуманные ChatGPT прецеденты в его документах. Девушка загуглила в шутку, сколько камней в день нужно есть человеку — нейросеть Google серьезно ответила, что хотя бы один.
По данным исследований, в 2024 году мировые потери от ошибок ИИ достигли 67,4 миллиарда долларов. Половина компаний признались, что принимали важные решения на основе частично или полностью вымышленных данных от нейросетей.
Проблема в том, что ИИ не обладает критическим мышлением, зачастую он просто «угадывает» статистически вероятный ответ.
И вот на этом фоне правительства государств и крупные бизнесы начинают доверять ИИ, возлагают на них функции принятия серьезных решений. Албания назначила нейросеть министром, Казахстан ввел алгоритм в совет директоров крупной госкомпании. Логика понятна: автоматизация, эффективность, никакой коррупции. Но когда инструмент придумывает критически важную информацию, как в случае с отчетом Deloitte за 290 тысяч долларов, возникают вопросы.
Эксперты в области информационной безопасности предупреждают: компании переоценивают возможности ИИ и недооценивают риски. Нейросети пока не умеют отличать правду от лжи — они просто генерируют правдоподобный текст. Без человеческого контроля, аудита и проверки данных это рулетка.
Может, стоит пока подождать с ИИ-министрами?
