Пока ведущие ИИ-лаборатории мира «хвастаются» огромными затратами на обучение следующей модели, китайская Baidu выпустила ERNIE 5.1 и заявила: «Мы уложились примерно в 6% от того, что тратят на обучение сопоставимых по классу нейросетей». Обучение большой языковой модели (Large Language Model, LLM) — это чудовищно дорогое занятие. По различным оценкам, обучение GPT-4 обошлось OpenAI в $50–100 млн только на вычисления. Более новые модели стоят ещё дороже. Для тренировки новой ChatGPT необходимы тысячи специализированных чипов, месяцами обрабатывающих огромные объемы информации.
Baidu пошла другим путём. Ещё в ERNIE 5.0 компания разработала технологию, которую называет «многомерным эластичным предобучением» (multi-dimensional elastic pretraining). Вместо того чтобы каждый раз обучать модель с нуля, система в ходе одного тренировочного цикла формирует целую матрицу подмоделей — разного размера, с разным числом активных параметров, разной глубиной слоёв. Это похоже на то, как в автоиндустрии на одном шасси выпускаются разные машины: седан, кроссовер или и пикап.
ERNIE 5.1 — это та самая «оптимальная конфигурация», извлечённая из уже обученной эластичной матрицы ERNIE 5.0. Общее число параметров (условных «ячеек памяти» модели) сократилось примерно до трети от предшественника, активных параметров — до половины. При этом модель наследует все накопленные ERNIE 5.0 знания, просто становится компактнее и дешевле в работе.
Это принципиально отличается от дистилляции — популярного метода, при котором большая модель-«учитель» генерирует ответы, а меньшая модель-«ученик» учится им подражать. Там два отдельных объекта, два отдельных процесса. Здесь же — одна система, которая сразу учится быть разной. Скорее самосжатие, чем передача знаний по наследству.
После извлечения подмодели Baidu применила ещё один нетривиальный приём: «несвязанное полностью асинхронное обучение с подкреплением» (reinforcement learning, RL — метод, при котором модель учится получать «награду» за правильные решения). Обычно в таком обучении процессы генерации ответов и обновления весов сети идут последовательно и мешают друг другу. Baidu разделила их полностью. Каждая подсистема работает независимо, что ускоряет обучение и снижает его стоимость.
Результат оказался вполне боевым. На международном лидерборде LMArena Search (независимый рейтинг языковых моделей, где пользователи вслепую сравнивают ответы) ERNIE 5.1 заняла 4-е место в мире с результатом 1223 балла и первое среди всех китайских моделей. На текстовом лидерборде — 13-е место в мире (1476 баллов), с попаданием в топ-10 по юриспруденции, государственному управлению, математике и бизнесу. В математическом бенчмарке AIME26 (задачи уровня олимпиад) с использованием инструментов модель набрала 99,6 балла, второй результат после Gemini 3.1 Pro от Google. По заявлению Baidu, в агентных задачах (где модель самостоятельно планирует и выполняет многошаговые действия) ERNIE 5.1 превосходит DeepSeek-V4-Pro.
Для использования в реальных сценариях это означает следующее: модель умеет работать как автономный агент — искать информацию, обрабатывать таблицы, синтезировать данные из разных источников, писать код и выполнять цепочки задач без постоянного вмешательства человека.
Доступна модель через платформу Qianfan и сайт ernie.baidu.com — как API (программный интерфейс) для разработчиков и корпоративных пользователей. Открытого кода нет, это не open-source решение. Для сравнения: более ранняя линейка ERNIE 4.5 публиковалась на Hugging Face с лицензией Apache 2.0, тогда как флагманские версии Baidu традиционно оставляет закрытыми.
