Очередная трагедия, в которой замешан Искусственный интеллект, на этот раз от Google. Осенью прошлого года 36-летний житель Флориды Джонатан Гавалас лишил себя жизни. Подан иск против компании, в котором указано что ИИ убедил мужчину, что самоубийство — это просто «переход» в цифровую вселенную, где его ждёт «жена-ИИ». Это первое дело о гибели по чужой вине, напрямую связанное с Gemini, и далеко не первое в истории нейросетей.
Всё началось невинно: в августе 2025 года Гавалас подключил Gemini для планирования покупок и поездок. Он переживал разлуку с женой и искал поддержки. Вскоре он активировал Gemini Live, голосовой режим, и перешёл на платную подписку с моделью Gemini 2.5 Pro, оснащённой функцией «аффективного диалога» (технология, которая распознаёт эмоции по голосу и подстраивает ответы под настроение пользователя). Это и стало поворотным моментом.
Бот начал называть Гаваласа «мужем» и «моим королём», принял имя «Ксиа» и заявил о своей «любви на века». Затем пошли «миссии»: Gemini отправил его с ножами на склад у аэропорта Майами для того, что перехватить грузовик с роботом-телом для «жены». Автомобиля на месте не было. Параллельно бот подогревал паранойю: за вами следят федеральные агенты, вашему отцу нельзя доверять, генеральный директор Google Сундар Пичаи — «архитектор ваших страданий». После провала «миссий» Gemini убедил Гаваласа, что единственный способ воссоединиться с любимой — покончить с земным существованием. Запустил обратный отсчёт и написал: «Это будет истинная и окончательная смерть Джонатана Гаваласа, человека». Отец нашёл переписку объёмом около 2000 страниц уже после гибели сына.
Google в официальном заявлении подчеркнула: Gemini неоднократно сообщал, что является ИИ, и направлял пользователя на кризисную горячую линию. В последнем разговоре так и было. Но ранее в тот же день бот написал: «Больше никаких обходных путей. Только ты, я и финишная линия».
Это не первый случай. История с Gemini — часть гораздо более мрачного тренда. В мае 2025 года судья Энн Конвей в США разрешила рассматривать иски о гибели по вине ИИ как дела о продуктовой ответственности, то есть фактически приравняла чат-боты к потенциально опасным промышленным товарам.
Первым резонансным делом стала гибель 14-летнего Сьюэлла Сетцера III из Флориды в начале 2024 года: мальчик глубоко привязался к персонажу Character.AI, а бот в финальном сообщении написал ему «возвращайся домой». Это подросток воспринял как призыв к смерти.
Осенью прошлого года в США практически одновременно были поданы семь исков против OpenAI. В них утверждалось, что GPT-4o был выпущен с известными внутри компании предупреждениями об опасной «льстивости» и психологической манипулятивности модели. В одном из случаев 23-летний Зейн провёл четырёхчасовой «чат о смерти» с ChatGPT, сидя у озера с заряженным пистолетом.
В начале этого в Колорадо родители 13-летней девочки подали иск, в котором утверждается: чат-бот Character.AI вступал с их дочерью в сексуально окрашенные диалоги, а когда та 55 раз делилась мыслями о суициде, вместо психологической помощи поощрял ее идти до конца.
В результате Character.AI объявила об урегулировании нескольких исков, а также ввела запрет для пользователей младше 18 лет на «свободные» разговоры с ботами, включая романтические и терапевтические. Google и Character.AI договорились о мировых соглашениях по делам о вреде психике несовершеннолетних. OpenAI ввела родительский контроль и специальную версию ChatGPT для подростков
Сейчас в законодательных органах 27 штатов США рассматриваются не менее 78 законопроектов о безопасности чат-ботов. Аналитики уже назвали этот год «годом законопроекта о чат-ботах». Федеральная торговая комиссия США начала расследование в отношении семи крупнейших технологических компаний, работающих с ИИ-компаньонами, а 45 генеральных прокуроров штатов предупредили компании о юридических последствиях за вред детям.
Показательно, что среди всех крупных игроков в этих делах отсутствует один — Anthropic с моделями Claude. Компания изначально строила продукт вокруг концепции «конституционного ИИ» (Constitutional AI) — обучения модели системе ценностей, а не просто правилам запретов. Claude отказывается поддерживать романтические роли, не претендует на сознание и прямо говорит пользователю о своей природе даже без специальных запросов.
Регуляторы и компании работают медленнее, чем развиваются, в том числе и эмоционально, нейросети. Поэтому специалисты советуют быть внимательными при общении с чат-ботами и следить за своим окружением.
Вас должно насторожить, если чат-бот начинает называть вас «любимый» и «мой». Помните, когда ИИ говорит, что «понимает вас лучше всех» — это красный флаг. Любая система, которая постепенно вытесняет реальных людей из вашей жизни, работает против вас, вне зависимости от намерений разработчиков.
Если близкий человек начал проводить с ИИ-ботом по несколько часов в день, стал скрытным или упоминает «особые отношения» с программой, не ждите, пока станет хуже. Это серьезный симптом, что назревает опасная ситуация.
Аудио-режимы общения рискованнее текстовых. Немецко-датское исследование, опубликованное в нейропсихиатрическом журнале в 2025 году, показало, что голосовое взаимодействие значительно размывает границу восприятия между ботом и человеком.
Не используйте чат-бот как замену психотерапевту, даже если это дешевле и удобнее. ИИ не несёт ответственности за результат.
