Искусственный интеллект, который должен был стать нашим надежным помощником в поиске информации, начал подводить пользователей все чаще. Исследование компании NewsGuard (занимается оценкой надежности новостных сайтов и борьбой с дезинформацией в интернете) показало серьезную проблему: доля ложных ответов ИИ-сервисов выросла с 18% до 35% всего за год. Это означает, что каждый третий ответ может содержать неточности или откровенную дезинформацию.

Парадокс современных технологий налицо: чем совершеннее становятся ИИ-модели, тем больше они начинают «галлюцинировать» — так программисты называют склонность Искусственного интеллекта выдумывать несуществующие факты. Лидер антирейтинга — ИИ-помощник Pi (компания Inflection) с 57% ложных ответов. Это как если бы из каждых двух утверждений одно оказывалось выдумкой. Популярный Perplexity, который еще год назад показывал идеальные 0% ошибок, теперь ошибается в 47% случаев. ChatGPT и Meta ошибаются в 40% случаев. Copilot и Mistral — в 36,67%. Получается, что интеграция онлайн-поиска и новые технологии не помогли, а наоборот — усугубили проблему.

Главная причина роста дезинформации кроется в сложности современных задач. ИИ пытается отвечать на все более провокационные и неоднозначные вопросы. Модели обрабатывают огромные массивы данных, среди которых немало устаревшей или изначально ложной информации. Также резкий рост дезинформации связан с внедрением веб-поиска в реальном времени. Появляется все больше сайтов, которые имитируют настоящие СМИ. ИИ-поисковики берут информацию и оттуда. Так, в прошлом году обнаружили 966 сайтов с фейковыми новостями.

Кроме того, современные ИИ стали похожи на студентов перед экзаменом — когда не знают точного ответа, начинают импровизировать. Только студиозус получит двойку и пойдет работать над ошибками, а ИИ может ввести в заблуждение миллионы пользователей.

Эксперты рекомендуют относиться к ИИ как к ненадежному знакомому — доверяй, но проверяй. Основные способы защиты:

• Требуйте ссылки на источники и обязательно их проверяйте

• Задавайте один вопрос разным ИИ-сервисам и сравнивайте ответы

• Обращайтесь к экспертам для проверки сложной информации

• Используйте сервисы фактчекинга вроде FactCheckAI или TruthScore

• Остерегайтесь слишком «гладких» ответов без конкретики

• Всегда можно воспользоваться традиционным поисковиком

Разработчики осознают проблему и работают над улучшением алгоритмов проверки фактов. Однако пока эра надежного ИИ-поиска откладывается на неопределенный срок. Все-таки Искусственный интеллект – всегда будет помощником человека, но никогда не станет заменой критического мышления.