Google подписала секретный контракт с Пентагоном об использовании своих нейросетей в интересах ведомства. Новое соглашение является дополнением к уже существующему контракту на $200 млн, по которому модель Gemini работала в несекретных правительственных системах, включая платформу Пентагона GenAI.mil (поиск и анализ данных, резюме больших документов, разбор изображений и видео). Теперь доступ расширен до засекреченных сетей, используемых для чувствительных задач, включая планирование миссий и наведение вооружений. Формулировка контракта довольно широка: «Министерство войны может использовать ИИ Google «для любых законных правительственных целей».

Чтобы понять, чем новый контракт принципиально отличается от позиции конкурентов, нужно посмотреть на то, что произошло с Anthropic. Создатель Claude отказался согласиться на условия «любого законного использования» и настаивал на явных ограничениях против использования в системах автономного оружия и массовой слежки внутри страны. Пентагон в ответ внёс компанию в список угроз для цепочки поставок. Федеральный судья позже назвал это решение «оруэлловским», но статус Anthropic де-факто означал запрет для госагентств использовать её продукты. Google, OpenAI и xAI выбрали другой путь — согласились на сотрудничество.

Google при этом включила в договор оговорки. Контракт содержит формулировку о том, что ИИ-система «не предназначена и не должна использоваться для внутренней массовой слежки или автономного оружия (включая выбор целей) без надлежащего контроля и надзора со стороны человека». Но этот же документ прямо указывает, что Google не имеет права «контролировать или блокировать законные правительственные оперативные решения». А это значит, что проверить как используется Gemini никто не сможет.

Эксперт по безопасности ИИ Брайан Макгрейл из Центра безопасности Искусственного интеллекта отметил, что спецслужбы и ведомства национальной безопасности традиционно трактуют контрактные положения о слежке весьма либерально. То есть даже если в договоре написано «не для слежки», это ещё не означает, что применение именно так и ограничится.

Интересная деталь появилась параллельно: Bloomberg сообщил, что в феврале Google вышла из конкурса Пентагона на $100 млн по разработке управляемых голосом автономных роёв дронов. Произошло это после внутренней этической проверки. С одной стороны, компания отказалась делать автономные беспилотники, с другой — согласилась предоставить свои нейросети для секретных операций без права вето.

Формально позиция Google находится ближе к OpenAI, чем к Anthropic: обе компании заключили контракты на «любое законное использование» и не стали рисковать попаданием в чёрный список.