Сэм Альтман снова пришел вторым. Вместе с главным научным сотрудником OpenAI Якубом Пахоцки он опубликовал манифест «Built to benefit everyone» («Создано на благо всех») с призывом создать международный орган, который при необходимости сможет замедлять разработку передовых моделей ИИ. Мысль здравая, только четырьмя днями ранее то же самое предложил Дарио Амодеи в докладе о скоординированной глобальной паузе в развитии фронтирного Искусственного интеллекта. Единодушие двух главных конкурентов выглядит исторически, но со стороны это смотрится как то, что глава OpenAI опять отвечает на ход руководителя Anthropic, вместо того чтобы сделать свой.
Еще совсем недавно безоговорочный лидер «Гонки ИИ» последние полгода находится в непривычной для себя роли догоняющего. Список накопился внушительный. Anthropic подала конфиденциальную заявку на IPO (первичное размещение акций на бирже) в начале июня, OpenAI повторила маневр неделю спустя. Раунд финансирования на 65 миллиардов долларов поднял стоимость компании, создавшей Claude, до 965 миллиардов, тогда как детище Альтмана рынок оценивает в 852 миллиарда. Модели Claude регулярно обходят GPT в независимых тестах, а нашумевшая закрытая система Mythos вышла раньше сопоставимого ответа конкурента. Теперь и повестку безопасности Амодеи озвучил первым. Справедливости ради, Альтман предлагал «МАГАТЭ для Суперинтеллекта» еще в 2023 году, так что приоритет идеи за ним. Но в моменте все выглядит как гонка за новым лидером.
В своем манифесте Альтман озвучивает опасение, что в ближайшие годы ИИ начнет сам вести разработку ИИ, и темп прогресса будут определять уже машины. По внутренней оценке OpenAI, к марту 2028 года заметную долю исследований компании будут выполнять автоматические системы в связке с людьми. Anthropic называет это «рекурсивным самосовершенствованием» — циклом, в котором модели проектируют и обучают собственных преемников почти без участия человека. Обе компании сходятся: такой цикл может запуститься раньше, чем общество и наука о согласовании целей машин с человеческими будут к нему готовы. Отсюда и рецепт — внешний арбитр с правом нажать на тормоз, причем с обязательным участием США и Китая, а также протоколами взаимной проверки. Сооснователь Anthropic Джек Кларк сформулировал эту идею образно: у индустрии есть педаль газа, но нет педали тормоза.
Момент для декларации манифеста выбран неслучайно. Обе компании идут на биржу, и риторика ответственности работает как страховка перед регуляторами и инвесторами: безопасный ИИ проще продать и Уолл-стрит, и Вашингтону. Дональд Трамп только что подписал указ о 30-дневной государственной проверке самых мощных американских моделей перед релизом и обсуждал с Пекином сотрудничество по безопасности ИИ. Государство уже тянется к стоп-крану, поэтому лидерам выгоднее предложить правила самим, чем получить их сверху в худшей редакции.
Скептики видят в инициативе старый прием — забраться наверх и затащить лестницу за собой. OpenAI выросла в регуляторном вакууме: ни лицензий, ни аудитов, ни внешних проверок. Теперь, закрепившись на вершине, лидеры предлагают надзор, который ударит прежде всего по молодым командам. Лицензирование и обязательные проверки — фиксированные издержки: гигант размажет их по выручке, стартап на них надорвется. Вдобавок порог «опасной мощности» со временем сползает вниз, и завтрашний фронтир для новичков окажется за лицензионным забором. Белый дом уже упрекал Anthropic в том, что упор на худшие сценарии похож на стратегию торможения конкурентов под флагом безопасности. Оба мотива, впрочем, друг друга не исключают: можно искренне бояться неуправляемого Суперинтеллекта и одновременно строить ров вокруг собственного замка.
Проверка слов делом наступит быстро. Anthropic обещает в ближайшие месяцы собрать за одним столом чиновников, ученых, правозащитников и конкурирующие лаборатории, чтобы спроектировать механизм паузы. Если на эту встречу придет и OpenAI, у «тормоза ИИ» появится первый реальный чертеж. Если нет, то оба манифеста останутся красивым приложением к проспектам IPO.
