Французская компания Mistral AI выпустила Large 2, новую языковую модель, которая по производительности схожа с только что вышедшей Llama 3 от Meta, но при этом более эффективна.

Mistral Large 2, второе поколение флагманской модели Mistral AI, может похвастаться значительными улучшениями в генерации кода, математике, логике, поддержке нескольких языков и вызове функций по сравнению со своей предшественницей.

Large 2 поддерживает десятки языков, включая французский, немецкий, испанский, итальянский, португальский, арабский, хинди, русский, китайский, японский и корейский, и имеет контекстное окно на 128 000 слов. Кроме того, она поддерживает более 80 языков программирования, таких как Python, Java, C, C++, JavaScript и Bash.

В задачах кодирования Large 2 значительно превосходит своего предшественника и конкурирует с такими ведущими моделями, как GPT-4o, Claude 3.5 Sonnet и Llama 3 405B.

Примечательно, что по сравнению с Llama 3 она достигает этого с помощью всего лишь четверти параметров (123B против 405B).

Одним из направлений разработки было улучшение аргументации и минимизация склонности модели "галлюцинировать" правдоподобно звучащую, но фактически неверную или неактуальную информацию. Large 2 была оптимизирована таким образом, чтобы быть более осторожной и критичной в своих ответах, признавая, что не может найти решение или не имеет достаточной информации для уверенного ответа.

Модель также отличается улучшенными возможностями вызова функций и поиска информации. По словам Mistral, это позволит Large 2 стать основой для сложных бизнес-приложений.

Mistral Large 2 уже доступна на платформе Mistral, в Azure AI Studio, Amazon Bedrock, IBM watsonx.ai и Google Vertex AI.

Веса для обучающей модели доступны для загрузки (228 ГБ) и размещены на HuggingFace по лицензии Mistral Research License, которая разрешает использование и модификацию в исследовательских и некоммерческих целях.