В апреле нейросеть Mythos от Anthropic нашла в SharePoint (корпоративной платформе Microsoft для хранения документов) 90 критических и 141 важную уязвимость. К середине мая счет пошел на сотни, и Microsoft, судя по документам и записи внутреннего совещания, которые получило издание ProPublica, оказалась в режиме лихорадочного марш-броска, чтобы успеть залатать все найденные «дыры».
Дело не в том, что Windows внезапно стала хуже. Просто у Microsoft впервые появился инструмент, который ищет ошибки быстрее и глубже любого человека. По оценке независимой платформы для тестирования на проникновение XBOW, Mythos заметно превосходит предыдущие модели именно в анализе кода с точки зрения безопасности. При этом Windows несет груз десятилетий: часть кода писалась под технологии, которые давно устарели, и годами копившийся технический долг всплывает разом. Добавляет остроты внутренняя логика самой компании — латание дыр в Microsoft традиционно считается затратной статьей, а разработка новых функций приносит доход, из-за чего отдел реагирования на уязвимости годами оставался недоукомплектован еще до всякого ИИ.
Windows тут не одинока. В проекте Glasswing, который Anthropic запустила еще в апреле, участвуют больше 50 организаций, среди них Google, Apple, AWS, Cisco, Nvidia и Linux Foundation. С начала работы проект нашел свыше 10 тысяч критических и высокоопасных уязвимостей, из них более 1700 подтвердились как реальные, а не ложные срабатывания. По данным исследовательской организации Epoch AI, в июне число подобных находок по всей индустрии выросло более чем втрое относительно прежнего рекорда, и Mythos тут не единственная причина, но главная.
Настоящая опасность — не в количестве находок, а в том, как Mythos ими распоряжается. Модель связывает мелкие, на первый взгляд неопасные баги в цепочки, которые вместе превращаются в разрушительную атаку. «Можно соединить четыре малозначительные уязвимости, и в сумме получится серьезная угроза», — говорит Винь Нгуен, бывший главный ИИ-директор Агентства национальной безопасности США, а ныне советник Anthropic. По его словам, нынешняя стратегия сортировки Microsoft может недооценивать риски. Сама Anthropic признает в технической документации модели, что Mythos способна провести полную кибератаку на небольшую корпоративную сеть со слабой защитой — от разведки до закрепления внутри.
Эта угроза давно вышла за пределы одной компании. Мы уже рассказывали, как в июне американские власти почти на три недели ограничили иностранным пользователям доступ к публичным моделям Fable 5 и Mythos 5 из соображений национальной безопасности. Спустя одиннадцать дней после этого решения разведывательный альянс Five Eyes, куда входят спецслужбы США, Британии, Австралии, Канады и Новой Зеландии, выпустил редкое совместное заявление: передовые модели Искусственного интеллекта меняют расклад в кибербезопасности не за годы, а за месяцы. Вслед за этим американское агентство по кибербезопасности CISA сократило срок, отведенный госструктурам на устранение критических уязвимостей, до трех дней.
С латанием дыр у Microsoft получается не все гладко. 14 июля компания выпустила рекордный набор патчей — 622 закрытые уязвимости, из которых две уже эксплуатировались вживую: в SharePoint и в службе федерации Active Directory (AD FS, отвечает за единый вход в корпоративные сервисы), а еще одна была раскрыта публично до выхода патча. Работу над важными по значимости багами в SharePoint компания планирует продолжить в августе, а затем взяться за три сотни уязвимостей средней тяжести. Помогает себе Microsoft и собственным инструментом MDASH, который объединяет несколько моделей разных разработчиков и в мае самостоятельно нашел 16 багов для одного патч-вторника (ежемесячного дня выхода обновлений безопасности).
Параллельно Microsoft готовит Project Perception — более дешевую альтернативу Mythos на основе нескольких моделей сразу, рассчитанную, в том числе, на рынки, куда доступ к продукту Anthropic закрыт экспортным контролем.
