Компания Google представила обновления семейства языковых моделей Gemma 2 с открытым исходным кодом, направленные на повышение производительности, безопасности и прозрачности.
Главным событием стала Gemma 2 2B, новая компактная модель с 2 млрд параметров, которая превосходит более крупные модели, такие как Mixtral, GPT-3.5 и Llama 2 70B, в разговорных задачах в таблице лидеров LMSYS Chatbot Arena.
Эффективность Gemma 2 2B — ее визитная карточка. Модель плавно работает на всем спектре оборудования, от периферийных устройств и ноутбуков до облачных систем. Google оптимизировала ее для библиотеки NVIDIA TensorRT-LLM, что позволяет использовать ее на всех уровнях — от мощных дата-центров до скромных ПК.
Для разработчиков Gemma 2 2B легко интегрируется с такими популярными фреймворками, как Keras, JAX и Hugging Face.
Для повышения безопасности Google представила ShieldGemma, набор классификаторов для фильтрации контента на основе Gemma 2. Доступные в версиях с 2, 9 и 27 млрд параметров, эти классификаторы нацелены на обнаружение и смягчение вредоносного контента во входных и выходных данных модели.
Google также запустила Gemma Scope — инструмент, призванный повысить прозрачность ИИ. Он дает представление о процессах принятия решений моделями Gemma-2, помогая исследователям лучше понять, как модели распознают закономерности, обрабатывают информацию и делают прогнозы.
Gemma-2-2B уже доступна на таких платформах, как Kaggle, Hugging Face и Vertex AI Model Garden, и может быть опробована в Google AI Studio или бесплатно в Google Colab. ShieldGemma и Gemma Scope также находятся в свободном доступе.
