Google отключил функцию AI Overviews для медицинских запросов после расследования The Guardian. Выяснилось, что Искусственный интеллект давал людям советы, которые могли их убить. Например, рекомендовал пациентам с раком поджелудочной железы избегать жирной пищи — хотя врачи советуют ровно противоположное. Или показывал «нормальные» диапазоны для анализов печени без учёта пола, возраста, этнической принадлежности и образа жизни пациента. Человек с серьёзной болезнью печени мог посмотреть на эти цифры, решить, что у него всё в порядке, и пропустить критически важный визит к врачу.
Ванесса Хебдич, директор благотворительной организации British Liver Trust, назвала эти ошибки «опасными» и «тревожными». Функциональные печёночные тесты — это набор разных анализов крови, объясняет она. Понять результаты и решить, что делать дальше — сложная задача, которая требует гораздо большего, чем сравнение набора цифр.
В результате Google удалил проблемные обзоры для запросов вроде «нормальный диапазон для анализов печени», но проблема оказалась глубже. Когда пользователи вводили слегка изменённые версии того же запроса, AI Overviews продолжал появляться. Компания контролирует более 90% мирового рынка поисковых систем, а значит, миллионы людей могли получить опасную дезинформацию.
Но история с Искусственным интеллектом в медицине — это не только провалы. Существуют документированные случаи, когда ИИ действительно спасал людям жизни, замечая то, что упустили врачи. В конце 2025 года 49-летний норвежец, известный под псевдонимом u/Tykjen на Reddit, рассказал, как Grok AI Илона Маска сохранил ему жизнь. Мужчина сутки испытывал сильнейшую боль в животе, но врачи скорой помощи отправили его домой с диагнозом «кислотный рефлюкс» и выписали таблетки для желудка.
В отчаянии он описал свои симптомы Grok. ИИ немедленно определил паттерны, соответствующие перфорированной язве или атипичному аппендициту, и настоятельно рекомендовал вернуться в больницу и потребовать компьютерную томографию. Последующее обследование подтвердило серьёзное состояние, требующее немедленного лечения. «Grok спас меня», — написал он позже.
Еще один американец описал ChatGPT своё недомогание, и ИИ заподозрил рабдомиолиз — повреждение мышц с попаданием токсинов в кровь. Анализы подтвердили диагноз, вовремя оказанное лечение спасло его.
Илон Маск стал одним из самых громких сторонников медицинского ИИ. Он активно призывает пользователей загружать свои медицинские изображения — рентгеновские снимки, МРТ, КТ — в Grok для анализа. «Это ещё ранняя стадия, но система уже довольно точна», — заявил Маск в одном из постов. Он утверждает, что знает случаи, когда ИИ оказывался точнее врачей.
Однако результаты Grok оказались неоднозначными. Исследование, проведённое доктором Лорой Хикок, адъюнкт-профессором Медицинского центра Лангоне Нью-Йоркского университета, показало серьёзные проблемы. Она протестировала нейросеть технобизнесмена на тех же маммограммах, УЗИ и МРТ молочной железы, которые использовала для тестирования GPT-4. Результат оказался неутешительным: «Ни один диагноз не был правильным». В одном случае Grok принял «учебный пример» туберкулёза за грыжу диска или стеноз позвоночника. В другом — спутал маммограмму доброкачественной кисты молочной железы с изображением яичек.
Но, по статистике, и врачи совершают диагностические ошибки в 10–15% случаев. В США это приводит к примерно 250 000 смертей ежегодно. Интересно, что самые хорошие специалисты показали ухудшение результатов при использовании ИИ. У 15 лучших диагностов начальная точность составляла 87,3%, но упала до 77,1% после консультаций с нейросетью. Возможно, это произошло из-за того, что они доверяли ИИ, когда тот ошибался, противореча их собственному правильному диагнозу. Это явление называют «автоматизационной предвзятостью» — медики могут чрезмерно полагаться на инструменты с Икусственным интеллектом, считая их безошибочными.
С другой стороны, для врачей с низкими показателями точности диагнозов нейросеть оказалась отличным помощником: точность улучшилась с 50,3% до 66,6% при использовании ИИ. Теоретически, если бы эти врачи полностью доверяли Искусственному интеллекту, их точность могла бы увеличиться до 80,4%.
Доктор Марк Сигел, профессор медицины в NYU Langone Health, назвал ИИ «будущим здравоохранения», подчёркивая его важность для пациентов, имеющих доступ к собственным данным, и для охвата недостаточно обслуживаемых районов, где квалифицированных специалистов не хватает. «ИИ хорош в распознавании паттернов, не устаёт и не упускает бинарные вещи, которые могут упустить люди — например, есть ли узелок в лёгких или нет», — объяснил он.
Эксперты сходятся во мнении: будущее медицины — это не замена врачей нейросетями, а их сотрудничество. К 2030 году, по прогнозам Deloitte и Всемирного экономического форума, Искусственный интеллект сможет предсказывать заболевания задолго до их проявления на основе генетических данных, персонализировать лечение для каждого пациента и помогать хирургам в операционных с точными роботизированными руками. Системы смогут обрабатывать миллиарды анонимизированных случаев из электронных медкарт, геномов и изображений, находя корреляции вроде «редкая комбинация симптомов + ген ABC = риск редкого аутоиммунного заболевания через шесть месяцев».
Google DeepMind уже предсказывает острую почечную недостаточность за 48 часов по более чем 100 параметрам крови, в то время как врачи ждут кризиса. IBM Watson в онкологии сопоставляет мутации с 13 миллионами статей, предлагая терапии, не замеченные локальными экспертами. К 2040 году ИИ может обрабатывать 80% обследований и персонализированных методов лечения на основе геномных данных, предсказывая болезни заранее.
Но есть оговорки. ИИ «слеп» к контексту — аллергиям, образу жизни — без полного профиля пациента и может «галлюцинировать». Поэтому будущее — в коллаборации: нейросеть выявляет риски, врач интерпретирует и лечит. Доктор Крис Кастро из Калифорнийского университета подчёркивает: «Хотя потенциал Grok замечательный, любой ИИ, используемый в здравоохранении, должен дополнять человеческий опыт, а не заменять его. Эта технология обладает трансформационным потенциалом, но она должна ставить безопасность пациентов и доверие превыше всего».
К 2030 году, по оценкам экспертов, рынок ИИ в здравоохранении США вырастет с 11 миллиардов долларов в 2021 году до почти 187 миллиардов. Но регуляторы в многих странах по-прежнему требуют, чтобы окончательный диагноз ставили врачи-люди.
