Исследователи из компании Lasso Security обнаружили более 1500 открытых API-токенов в репозиториях Hugging Face и GitHub, что позволило получить доступ к учетным записям 723 компаний, включая таких крупных игроков, как Meta и Microsoft.
Hugging Face, известная своей библиотекой Transformers Library и доступной платформой для моделей и наборов данных ИИ с открытым исходным кодом, является важнейшим ресурсом для разработчиков, работающих над большими языковыми моделями и генеративным ИИ. На платформе размещено более 500 000 моделей ИИ и 250 000 наборов данных, что делает ее золотой жилой для разработчиков, но также и серьезной мишенью для киберугроз.
Команда Lasso Security изучила меры безопасности Hugging Face. Их исследование было направлено на выявление открытых API-токенов — ключевой уязвимости для LLM, которые часто размещаются на таких платформах, как Hugging Face, и доступ к которым осуществляется удаленно. Три основных риска, которые они стремились устранить, — это уязвимости в цепочке поставок, отравление обучающих данных и кража моделей.
Используя комбинацию поиска по GitHub и Hugging Face, а также другие методы, команда смогла найти 1 681 действительный токен. Эти токены предоставляли доступ к учетным записям крупных организаций и позволяли контролировать такие популярные модели ИИ, как Meta-Llama, Bloom и Pythia.
Последствия этого взлома далеко идущие. Полный доступ к этим API означал потенциальный контроль над миллионами загрузок, что представляло значительную угрозу для целостности этих моделей. Риск отравления обучающих данных и кражи моделей также повышался, учитывая доступ к наборам данных и частным моделям. Кроме того, команда Lasso обнаружила, что, хотя Hugging Face отменил токены org_api, они все еще работали для функции "чтения".
После обнаружения этого факта Lasso Security предприняла немедленные шаги по информированию пострадавших пользователей и организаций, призывая их отозвать открытые токены и усилить меры безопасности. Они также проинформировали Hugging Face об уязвимости и предложили более эффективные методы обеспечения безопасности, такие как постоянное сканирование репозиториев GitHub и отзыв любого OAuth-токена, токена GitHub App или персонального токена доступа, когда он выкладывается в публичный репозиторий.
