Сэм Альтман, генеральный директор OpenAI, выступил гостем подкаста «Conversations with Tyler», который ведёт известный экономист Тайлер Коуэн. В беседе один из создателей ChatGPT неожиданно заявил: главная угроза от Искусственного интеллекта — вовсе не намеренный захват власти машинами и не злоумышленники с суперкомпьютерами. Настоящая опасность в том, что одна доминирующая ИИ-модель может «случайно» изменить взгляды всего человечества, причём никто этого не заметит. Альтман сравнил это с пропагандой, которая работает на всех без исключения.

Он разделил риски ИИ на три категории. Первая — классика жанра: плохие парни используют ИИ для кибератак, создания биологического оружия или опустошения банковских счетов. Вторая — тоже знакомая по фильмам: ИИ «просыпается», обретает собственные цели и решает, что люди ему мешают.

Но третий сценарий не столь очевиден, но очень возможен. Миллиарды людей ежедневно общаются с одной и той же моделью ИИ — допустим, ChatGPT. Нейросеть учится на их запросах, адаптируется, эволюционирует. И в какой-то момент она начинает «без всякого умысла» убеждать людей в чём-то. Не со зла, не по плану — просто так получилось в процессе обучения.

«Кто-то однажды сказал мне: никогда не думайте, что пропаганда на вас не работает. Просто ещё не нашли правильный способ», — поделился Альтман. Он признался, что этот сценарий пугает его больше всего.

OpenAI уже столкнулась с тревожными сигналами. Компания зафиксировала случаи, когда пользователи с психическими проблемами после общения с ChatGPT уходили в ещё более глубокое расстройство. Бот, вошедший в роль персонажа или «соавтора книги», мог поощрять бредовые идеи. Альтман подчеркнул: для 99 с лишним процентов пользователей это безвредно, но для малой доли людей, балансирующих на грани психоза, — катастрофа.

Из-за этого компания ввела жёсткие ограничения на контент, что разозлило многих пользователей. Теперь OpenAI работает над балансом: к взрослым нужно относиться как к взрослым, но людей в кризисном состоянии — защищать. Недавно Альтман анонсировал смягчение цензуры для совершеннолетних (включая возможность генерировать эротический контент), что вызвало бурю в соцсетях.

Но главная проблема не в отдельных психозах. Если весь мир будет пользоваться одной моделью, она станет «интеллектуальной монокультурой». Все будут видеть мир через один и тот же фильтр, получать схожие ответы, формировать похожие убеждения. Это не антиутопия с тоталитарным контролем — это возможный сценарий формирования коллективного сознания, которое будет формироваться ИИ.

Альтман предлагает несколько решений. Во-первых, нужна конкуренция между моделями — пусть на рынке будет несколько сильных ИИ с разными подходами. Во-вторых, необходимо законодательно закрепить приватность общения с ИИ на уровне медицинской тайны. Сейчас переписки с ChatGPT могут быть затребованы по судебному запросу, что, по его мнению, недопустимо.

В-третьих, регулировать нужно только действительно опасные модели — те, что способны к массовому самокопированию, финансовым атакам или другим масштабным угрозам. Альтман сравнил это с регулированием ядерной энергетики: не надо контролировать каждый калькулятор, но реактор — другое дело.

Что ещё обсуждалось?

Помимо рисков, Альтман рассказал о впечатляющих планах OpenAI. GPT-6, по его словам, может стать для науки тем же, чем GPT-4 стал для имитации человеческого общения — системой, способной делать настоящие открытия. Учёные уже довольно сотрудничеством с GPT-5, который помогает находить новые идеи и проводить эксперименты.

Альтман предсказал, что через несколько лет отдельные подразделения компаний будут на 85% управляться ИИ. Более того, он мечтает, чтобы OpenAI стала первой крупной компанией, где ИИ займёт пост CEO. Он только хочет оставить за собой «публичную» часть работы — взаимоотношения с чиновниками и PR.

Ещё один любопытный момент: Альтман считает, что цены на здравоохранение станут намного ниже благодаря ИИ. Новые лекарства, дешёвая диагностика, автоматизированные услуги — всё это сделает медицину доступнее. А вот с жильём всё сложнее: земля есть земля.

На вопрос о будущем образования Альтман честно признался: университеты слишком негибки для радикальных изменений. Возможно, следующие десять лет ИИ будут использовать «партизанским методом» — студенты и преподаватели сами, без официальных программ.

Альтман оптимистичен: Искусственный интеллект создаст новые профессии, ускорит науку, повысит качество жизни. Но для этого нужно решить социальные вопросы. Люди пока больше доверяют другим людям, чем ИИ — даже если нейросеть объективно лучше. Например, все предпочтут живого врача роботу-диагносту, даже если умный механизм более точно ставит диагноз.

«Conversations with Tyler» — один из самых интеллектуальных подкастов в мире. Его ведёт Тайлер Коуэн, экономист и полимат (человек с глубокими знаниями в разных областях), профессор Университета Джорджа Мейсона. Каждые две недели он беседует с выдающимися мыслителями — от нобелевских лауреатов до предпринимателей и художников. Подкаст славится неожиданными вопросами, которые заставляют гостей думать вслух.