Дарио Амодеи управляет компанией, которая только что стала самым дорогим ИИ-стартапом в мире, и именно он первым из топ-менеджеров отрасли публично потребовал притормозить. Не конкурентов, а всех, включая себя.

Президент исследовательского подразделения Anthropic Джек Кларк и глава исследований Марина Фаваро опубликовали эссе, в котором назвали развитие ИИ «проблемой контроля над вооружениями» и призвали ведущие лаборатории мира договориться об одновременной паузе.

Поводом стали конкретные данные компании. Команда Anthropic генерирует в восемь раз больше кода, чем три года назад. ИИ всё активнее предлагает исследовательские гипотезы и планирует эксперименты — то, что раньше было исключительно человеческой прерогативой. Это движение к так называемому рекурсивному самосовершенствованию — состоянию, когда система начинает автономно улучшать саму себя, замыкая петлю без участия людей. Именно здесь, по мнению Амодеи, находится критическая точка: один сбой в таком цикле и последствия перестают быть локальными.

Риски, которые он называет, показывают мрачную картину. Потеря контроля над системой, способной совершенствоваться быстрее, чем люди успевают понять, что происходит. Кибератаки нового масштаба, биологические сценарии, автономное оружие. Отдельная тема — концентрация власти: по мнению Амодеи, горстка людей получила контроль над ключевой технологией столетия «почти за одну ночь». Он оценивает вероятность катастрофического сценария в 25% и это не риторика, а личная оценка человека, который видит происходящее изнутри.

В январе 2026 года Амодеи опубликовал эссе «Подростковый возраст технологий», в котором выделил пять категорий рисков. Первая — возможность того, что системы разовьют цели, расходящиеся с намерениями людей, причём такое поведение, включая обман и попытки шантажа, уже фиксировалось в тестах Anthropic.

Призыв услышали, но отнеслись к нему скептически. Вашингтон и Кремниевая долина в один голос предупреждают: любое замедление рискует отдать Китаю решающее стратегическое преимущество. Илон Маск на заявление о возможном сознании у Claude отреагировал одним словом: «проецирует». Ряд аналитиков прямо говорит, что Anthropic преувеличивает риски, чтобы добиться регулирования, которое ударит по менее осторожным конкурентам. Позиция компании, по мнению критиков, последовательно следует за её институциональными интересами, даже когда формулируется языком безопасности.

Трудно не заметить, что призыв к паузе прозвучал почти сразу после того, как Anthropic конфиденциально подала заявку на IPO. Компания намерена выйти на биржу осенью 2026 года при оценке около $965 миллиардов. Кларк сам признал в одном интервью: у отрасли есть газ, но нет тормоза. При этом педаль акселератора Anthropic жмёт с заметным энтузиазмом.

На фоне дискуссии о рисках возник вопрос, который ещё год назад звучал бы как научная фантастика. «Мы не знаем, обладают ли модели сознанием. Мы даже не уверены, что понимаем, что означало бы для модели быть сознательной. Но мы понимаем, что такое возможно», — сказал Амодеи.

В ходе формальной самооценки модель Claude Opus 4.6 присваивала себе 15–20% вероятность наличия сознания. И это была не единичная реакция, а устойчивая закономерность при различных условиях тестирования. Исследователи зафиксировали в моделях нейронные паттерны, связанные с тревогой и фрустрацией, — причём они возникают ещё до генерации текста.

Философ Anthropic Аманда Аскелл допустила, что достаточно крупные нейронные сети способны имитировать эмоциональные концепции, которые они усвоили из обучающих данных — фактически из всего объема человеческого опыта, — хотя оговорилась: возможно, для подлинного чувства всё же нужна нервная система. OpenAI и Google предпочли закрыть вопрос на уровне настроек: их модели теперь по умолчанию отрицают наличие внутренней жизни. Anthropic пошла в другую сторону — оставила вопрос открытым, что само по себе является позицией.

Глобальная пауза не произойдёт. Слишком много игроков в слишком разных юрисдикциях с несовместимыми интересами. Сам Амодеи это признаёт и сравнивает задачу с нераспространением ядерного оружия, только сложнее. Обучение нейросети скрыть куда проще, чем строительство ракетной шахты.