Тридцать с лишним компаний во главе с Nvidia объявили о создании Open Secure AI Alliance (Альянса открытого безопасного ИИ) — коалиции, которая будет бесплатно делиться инструментами защиты от атак, проведенных самим Искусственным интеллектом. Повод для срочности нашелся быстро: за одиннадцать дней до объявления Hugging Face, крупнейшая площадка для обмена нейросетями и датасетами, призналась во взломе, который от начала до конца провел автономный агент.
Именно этот инцидент и лег в основу альянса. Идея, которую продвигает Nvidia вместе с Microsoft, IBM, Red Hat, Cisco, CrowdStrike, Palo Alto Networks, Hugging Face, Siemens и Linux Foundation, звучит просто: защитникам нужны передовые модели, которые можно вскрыть, изменить и запустить на собственной инфраструктуре, а не только закрытые системы больших лабораторий. Альянс намерен опираться на инициативу Akrites от Linux Foundation по раскрытию уязвимостей и наработки сообщества OpenSSF, чтобы находить и закрывать дыры открытыми инструментами, доступными любому специалисту по кибербезопасности, а не только тем, кто может позволить себе контракт с закрытой лабораторией.
Список участников красноречив тем, кого в нем нет. OpenAI, Google и Anthropic — три крупнейшие компании с закрытыми моделями — в объединение не вошли. Логика простая: закрытая модель по определению нельзя разобрать до основания и проверить на собственной инфраструктуре, а именно это Nvidia и партнеры называют главным условием обороны от атак вроде взлома Hugging Face. Получилось характерное разделение рынка: открытые модели собираются в оборонительный клуб, закрытые остаются каждая при своем.
Впрочем, открытые модели, которые альянс предлагает раздавать защитникам бесплатно, доступны точно так же и нападающим — тот же инструмент, которым чинят дыры, годится и для их поиска с другой стороны. Регуляторам предстоит решить вопрос, который Nvidia формулирует прямо: считать такие модели угрозой распространения опасных технологий или, наоборот, защитным активом, который нужно поощрять раздавать бесплатно.
Проверять эффективность альянса будет сама индустрия — и довольно быстро. Hugging Face уже объявила, что переработала систему обнаружения аномальной активности и привлекла независимых специалистов, а первые открытые инструменты Akrites обещают выпустить в течение нескольких месяцев.
