Компания Meta официально представила Llama 4, свою последнюю серию моделей искусственного интеллекта (ИИ). В релиз вошли четыре модели: Scout, Maverick, Behemoth и L4emoth. Эти модели разработаны с акцентом на мультимодальные возможности и вычислительную эффективность, включая обработку текста и изображений, а также кодирование и понимание длинных контекстов. В основе моделей лежит архитектура «смесь экспертов» (MoE), которая позволяет разделять задачи на подзадачи, выполняемые специализированными «экспертными» компонентами, что повышает производительность и снижает вычислительные затраты.

ИИ-модели Scout и Maverick уже интегрированы в ИИ-системы Meta, включая платформы WhatsApp, Messenger и Instagram в 40 странах.

Llama 4 Maverick, более мощная из двух моделей, предназначена для использования в качестве ассистента общего назначения. Она разработана для задач, сочетающих понимание изображений и текстов, и нацелена на поддержку всего — от приложений разговорного ИИ до взаимодействия с клиентами. Maverick построена с 17 миллиардами активных параметров и 128 экспертами. Такая конфигурация, по словам Meta, обеспечивает баланс производительности и масштабируемости. Внутренние бенчмарки показывают, что она конкурирует с другими крупными системами ИИ или превосходит их в задачах, связанных с многоязычной обработкой, генерацией кода, рассуждениями и вводом длинных контекстов.

С другой стороны, Llama 4 Scout — более легкая модель, но со значительными возможностями. Также основанная на 17 миллиардах активных параметров, но использующая всего 16 экспертов, Scout предназначена для более целевых приложений. К ним относятся обобщение нескольких документов, сложный синтаксический анализ данных и обработка персонализированных задач на основе обширных пользовательских данных. Она имеет расширенное контекстное окно до 10 миллионов лексем, что позволяет ей обрабатывать масштабную информацию с меньшим количеством прерываний или усечений. Кроме того, она рассчитана на эффективную работу на одном GPU, что делает её доступной для большего числа разработчиков и исследователей.

Scout и Maverick находятся в свободном доступе на Hugging Face.

Llama 4 Behemoth — крупномасштабная модель, находящаяся в стадии обучения. Она имеет 288 миллиардов активных параметров и позиционируется как высокопроизводительная базовая модель для сложных задач рассуждения и вычислений. Еще одна модель, L4emoth, возможно, будет представлена в мае в связи с предстоящим мероприятием LlamaCon для разработчиков Meta. Behemoth после выхода станет самой мощной моделью Meta, ориентированной на приложения, связанные с STEM.