Компания Google DeepMind выпустила Gemma 3 — новую коллекцию современных открытых моделей, призванную расширить возможности искусственного интеллекта (ИИ) для широкого круга устройств. Созданная на основе тех же исследований и технологий, что и модели Gemini 2.0, Gemma 3 отличается высокой скоростью и эффективностью, позволяя разработчикам запускать мощные приложения ИИ непосредственно на отдельных GPU и TPU.
Gemma 3: расширенные возможности для различных приложений
Gemma 3 доступна в различных типоразмерах (1B, 4B, 12B и 27B), что позволяет разработчикам выбрать оптимальную модель для своих конкретных аппаратных потребностей и производительности. Ключевые особенности включают:
— Превосходная производительность: Gemma 3 27B продемонстрировала хорошую производительность, превзойдя такие модели, как Llama-405B и DeepSeek-V3.
— Многоязыковая поддержка: Благодаря встроенной поддержке более 35 языков, включая русский, и предварительному обучению на более 140 языках, Gemma 3 позволяет разрабатывать глобальные приложения.
— Расширенное рассуждение: Модели предлагают расширенные возможности текстовых и визуальных рассуждений, позволяя анализировать изображения, тексты и короткие видеоролики.
— Расширенное контекстное окно: Контекстное окно размером 128 000 токенов позволяет обрабатывать огромные объемы информации.
— Вызов функций: Поддержка вызова функций и структурированного вывода облегчает автоматизацию задач и создание агентского опыта.
— Квантованные модели: Официальные квантованные версии повышают производительность за счет уменьшения размера модели и снижения вычислительных требований.
Бесшовная интеграция и развертывание
Gemma 3 разработана для бесшовной интеграции с популярными инструментами и платформами, включая Hugging Face Transformers, Ollama, JAX, Keras, PyTorch, Google AI Edge, UnSloth, vLLM и Gemma.cpp. Разработчики могут экспериментировать с Gemma 3 в Google AI Studio или загружать модели с Kaggle и Hugging Face.
Варианты развертывания включают Vertex AI, Cloud Run, Google GenAI API, локальные среды и другие платформы. NVIDIA оптимизировала Gemma 3 для своих GPU, модели также совместимы с Google Cloud TPU и AMD GPU.
