Один из членов совета директоров OpenAI назвал Сэма Альтмана социопатом. The New Yorker опубликовал расследование журналистов Ронана Фэрроу и Эндрю Маранца — полтора года работы, более 100 интервью, 200+ страниц внутренних документов компании. Материал вышел с заголовком: «Сэм Альтман может контролировать наше будущее — можно ли ему доверять?». Статья была про руководителя самой известной ИИ-компании, но мы бы обобщили риторический вопрос — можно ли доверять людям, которые стоят за Искусственным интеллектом и понимают ли они, что создают?
Один из членов совета директоров описал Альтмана так: «Он не ограничен правдой. У него два качества, которые почти никогда не встречаются у одного человека. Первое — сильное желание нравиться людям, быть любимым всеми и всегда. Второе — почти социопатическое безразличие к последствиям, которые могут наступить из-за обмана».
Вот некоторые факты из биографии одного из самых известных технобизнесменов современности. В конце 2023 года главный учёный OpenAI Илья Суцкевер собрал внутренние материалы компании, из которых следовало, что Альтман систематически лгал руководителям и членам совета директоров, особенно в вопросах безопасности ИИ. Альтман был уволен, но уже через пять дней вернулся на прежнюю должность — инвесторы, Microsoft и большинство сотрудников пригрозили уйти вслед за ним. В итоге члены совета, которые стояли за решением об увольнении руководителя компании, сами лишились своих мест.
Публично Альтман выступает за регулирование ИИ и даже давал показания в Конгрессе, призывая к строгому надзору. Но, по данным расследования, параллельно OpenAI тайно лоббировала прямо противоположный подход, когда в Европе обсуждали новые правила безопасности. В самих США, когда в Калифорнии появился законопроект о безопасности ИИ, который по сути копировал публичные аргументы Альтмана, компания стала угрожать и давить на законодателей. «Мы наблюдали всё более хитрое и обманчивое поведение OpenAI», — рассказал изданию сотрудник законодательного аппарата штата.
OpenAI была основана как некоммерческая организация с юридически закреплённой обязанностью ставить благополучие человечества выше успеха компании. С тех пор она стала коммерческой структурой, готовящейся к IPO с оценкой в триллион долларов. Внутренние команды по безопасности были распущены или лишены ресурсов, а Альтман заключил масштабные инфраструктурные сделки с авторитарными режимами — ОАЭ и Саудовской Аравии.
Получается такая ситуация: OpenAI собирается потратить к 2028 году 121 миллиард долларов только на вычислительные мощности, при этом ожидает убытки на уровне 85 миллиардов долларов в тот же год. То есть компания вкладывает гигантские деньги в инфраструктуру, но по-прежнему не приносит прибыль. Финансовый директор OpenAI Сара Фриар в частных разговорах сомневалась, что компания вообще готова к выходу на биржу (IPO). Вскоре после этого её якобы убрали из прямого подчинения Альтману. За свое частное мнение специалист подвергся санкциям и потерял прямой доступ к главному руководителю. Всё это происходит в компании, которая управляет«самой важной в истории человечества» технологией.
Альтмана часто называют величайшим питчером (мастером убеждения инвесторов) своего поколения. Стив Джобс, один из его идолов, создавал так называемое «поле искажения реальности» — непоколебимую уверенность, что мир подстроится под его видение. Но даже Джобс никогда не говорил покупателям, что если они не купят его МР3-плеер, то окажутся за бортом настоящей жизни.
В чем опасность личности человека, стоящего за Искусственным интеллектом? Тот, кто контролирует эту, безусловно, полезную технологию, будет контролировать саму интерпретацию реальности: что считается фактом, что — ложью, каков правильный ответ на исторический вопрос, какое лечение назначить, какой закон принять. Ни один император, ни одна религиозная организация в истории не имела такого инструмента концентрации власти над нашим сознанием.
Особенно уязвимы те, чья картина мира ещё не сложилась — дети. Если ИИ станет основным источником знаний, объяснений и ориентиров для нового поколения, то архитекторы этих систем получат влияние, о котором не мечтали ни церковь, ни государство. Не через принуждение, а через комфорт: «Зачем думать самому, если можно спросить у алгоритма?».
И здесь важно не обманываться относительно масштаба проблемы. Дело не только в Альтмане. Маск, купив Twitter и основав xAI, встраивает собственную идеологию в информационную инфраструктуру планеты. Цукерберг после 2024 года демонстративно отказался от независимого контроля фактов. Гейтс финансирует глобальные медицинские программы через структуры с минимальной подотчётностью. Это живые люди — с личными интересами, обидами, нелицеприятными фактами биографии и амбициями. Эти и многие другие люди строят системы, которые переживут их самих и будут принимать решения вместо нас.
История не знает примеров, когда инструмент такой разрушительной мощи оказывался в руках отдельных людей или частных компаний. Разработчики атомной бомбы не могут по своему желанию решать, когда и как её использовать. За этим оружием стоят государства, армии, сложные системы контроля и многоуровневое международное право, которые хотя бы частично ограничивают ее применение. Но Искусственный интеллект, который по своему воздействию на нашу цивилизацию во много раз мощнее, может стать личной собственностью конкретного человека. В ИИ можно встроить его паттерны мышления, ценности, амбиции и даже психологические установки.
Мы доверяем будущее человечества людям, которых сами же описываем как «социопатов», «не ограниченных правдой» и «безрассудных». При этом всё развивается по законам бизнеса: кто придумал и разработал технологию, тот получает право владеть ею и использовать в своих интересах. Это не просто наблюдение — это диагноз ситуации. И пока человечество не придумало и не закрепило реальные механизмы защиты от тех, в чьих руках может сосредоточиться колоссальная власть.
