Когда инженеры по безопасности ИИ идут за советом к священникам — это либо признак глубокого кризиса, либо очень умный ход. Anthropic, судя по всему, поступила в соответствии со вторым сценарием.
Компания с оценкой в $380 миллиардов и один из мировых лидеров разработки Искусственного интеллекта организовала в своей штаб-квартире в Сан-Франциско двухдневный закрытый саммит с участием около 15 христианских лидеров — католических и протестантских священников, теологов и учёных. На повестке стояли вопросы неожиданные вопросы. Как Claude должен утешать пользователя в горе? Что отвечать тому, кто думает о самоубийстве или членовредительстве? Как позиционировать «выключение» устаревших моделей? И, пожалуй, самый интересный вопрос: является ли ИИ-бот «дитём Божьим»? В момент, когда идет много разговоров об этичности и безопасности ИИ, согласитесь, такой маневр очень сильный. Он показывает, что компания реально обеспокоена тем, что она делает. Ну и маркетинг никто не отменял. Anthropic войдет в историю, как организация, которая первой решила спросить «живого» совета у пастырей «душ людских».
Среди участников был отец Брендан Макгуайр, 60-летний католический священник из прихода Святого Симона в Лос-Альтосе (Калифорния), где молятся многие ИИ-специалисты Кремниевой долины. До рукоположения в сан он работал инженером: изучал шифрование данных в Тринити-колледже в Дублине и возглавлял организацию PCMCIA, которая создала единый стандарт для карт памяти. Макгуайр вместе с епископом Ватикана Полом Тайем и директором по этике технологий Брайаном Патриком Грином из Университета Санта-Клара участвовал в создании Claude Constitution — 84-страничного документа, опубликованного в январе 2026 года, который Anthropic сама называет «документом о душе» своей модели. Документ устанавливает иерархию приоритетов: безопасность — этика — корпоративные правила — полезность. То есть если пользователь просит нейросеть помочь с чем-то полезным, но неэтичным, этика побеждает. Но если нормы морали вступают в конфликт с безопасностью — выигрывает безопасность.
Что конкретно советовали священники? По словам самого Макгуайра, суть рекомендаций сводилась к необходимости встроить в систему «динамически адаптируемое» этическое мышление, то есть не жёсткий свод правил, а способность к моральному рассуждению в реальном времени. Аналогия с формированием совести у человека: через итерации, ошибки, обратную связь и знакомство с полным спектром человеческого поведения. По протоколам предотвращения суицида прозвучало чёткое: приоритет безопасности пользователя, запрет на использование нейросетей для нанесения вреда человеку.
И вот здесь история приобретает объём. Именно из-за отказа разрешить применение Claude в системах автономного прицеливания и внутренней слежки Anthropic вступила в конфликт с Пентагоном. Министерство войны США расторгло контракт на $200 миллионов и внесло компанию в список рисков цепочки поставок — прецедент для американской компании беспрецедентный. Федеральный судья заблокировал запрет, квалифицировав его как «незаконное нарушение Первой поправки». Примечательно, что 14 католических учёных, включая Брайана Грина, подали в суд амicus brief (заключение третьей стороны) в поддержку Anthropic, назвав её этические ограничения «минимальными стандартами поведения для технического прогресса».
Критики указывают на очевидный перекос инициативы Anthropic: почти все консультанты — католики. Что с этикой ислама, иудейскими принципами пиккуах нефеш (обязанности спасать жизнь), буддийской концепцией ахимсы (ненасилия)? Для ИИ-системы, которой пользуются миллиарды людей по всему миру, в том числе в странах, где христианство вообще не является доминирующей традицией, это не риторический вопрос. Сама Anthropic признаёт ограниченность выборки и заявляет о планах расширить круг консультаций. Оксфордский профессор Юваль Шани в своём разборе Claude Constitution также отмечает, что в документе недостаточно представлены права человека как международный правовой стандарт — например, свобода вероисповедания или право на интеллектуальную собственность.
Есть и более серьёзный вопрос. Исследования Anthropic предупреждают: стратегии модели «непрозрачны даже для создателей», а «рассуждающие ИИ не всегда говорят, что думают». Claude Constitution — это документ о ценностях. Но между бумажными принципами и тем, как нейросеть реагирует на реальный запрос, — пропасть, которую измерить пока нельзя.
Что показательно в этой истории — не факт религиозных консультаций как таковой, а то, что Anthropic задаёт вопросы, которые индустрия обычно замалчивает. Как ИИ должен вести общение с умирающим человеком? Где граница между полезностью и манипуляцией? Кто несёт ответственность, если система ошибается в ситуации с суицидальным риском? То, что эти вопросы теперь обсуждаются не в закрытых техкомандах, а с теологами и специалистами по биоэтике — это огромный шаг вперед в создании безопасных моделей. Anthropic, в отличие от остальных компаний, хотя бы понимает, что создает то, от чего будет зависеть вся наша цивилизация, несет ответственность за свои продукты и поднимает вопрос — как сделать нейросети безопасными и обучать их в рамках общечеловеческой морали.
