Эта модель с 24 миллиардами параметров — не просто очередной релиз от Mistral AI с открытым исходным кодом: она превосходит малые модели от Google и OpenAI и при этом эффективно работает на потребительском оборудовании. Высокие результаты бенчмарков, расширенное контекстное окно на 128 000 токенов и мультимодальные возможности делают Mistral Small 3.1 одной из самых конкурентоспособных малых моделей ИИ на сегодняшний день. Она предназначена для решения большинства задач генеративного ИИ, включая следование инструкциям и помощь в общении, с акцентом на быстрое время отклика.

Mistral Small 3.1 позиционируется как мощная, но легкая альтернатива ведущим отраслевым моделям. Согласно результатам бенчмарков, она превосходит Gemma 3 от Google и GPT-4o Mini от OpenAI в ключевых областях, включая генерацию текста, задачи на зрение и многоязычное восприятие. По производительности в MMLU (общие знания), MATH (рассуждения) и GPQA (ответы на вопросы) модель опережает конкурирующие модели с большим количеством параметров.

В отличие от многих современных моделей ИИ, требующих дорогостоящей облачной инфраструктуры, Mistral Small 3.1 может эффективно работать на одном графическом процессоре RTX 4090 или MacBook с 32 ГБ оперативной памяти при квантовании. Такая возможность локального развертывания снижает затраты для стартапов и предприятий, которые хотят интегрировать ИИ, не полагаясь на облачные сервисы.

Расширенное контекстное окно модели на 128 000 токенов позволяет ей более эффективно обрабатывать длинные рассуждения и анализировать документы. Кроме того, модель обладает улучшенным пониманием зрения, что делает ее полезной для таких приложений, как проверка документов, медицинская диагностика и распознавание объектов.

Mistral AI придерживается принципа открытости, выпуская модель под лицензией Apache 2.0, которая позволяет свободно использовать и модифицировать ее. Компания также предоставляет базовые и обучающие контрольные точки, позволяющие разработчикам точно настроить модель для конкретных областей, включая юриспруденцию, здравоохранение и обслуживание клиентов.

Основные области применения Mistral Small 3.1 включают:

— Виртуальные помощники с быстрым откликом;

— Выполнение функций с низкой задержкой в автоматизированных рабочих процессах;

— Тонкая настройка под конкретный домен для таких отраслей, как здравоохранение и юридические услуги;

— Частные локальные выводы для организаций, работающих с конфиденциальными данными.

— Среди отраслей, уже изучающих потенциал модели, — финансовые услуги (например, обнаружение мошенничества), здравоохранение (например, сортировка клиентов) и робототехника (например, командование и управление).

Mistral Small 3.1 доступна на различных платформах, включая Hugging Face, Ollama, Kaggle, Together AI, Fireworks AI и IBM Watson X. В будущем планируется интеграция с NVIDIA NIM, Amazon SageMaker, Groq, Databricks и Snowflake.