Liquid AI открыла веса MoE-модели LFM2.5-24B-A2B

Подробно

Что представляет собой LFM2.5-24B-A2B?

LFM2.5-24B-A2B - текстовая модель архитектуры Mixture of Experts (MoE). В ней 24,0 млрд параметров, из которых на каждый токен активны 2,45 млрд. В кратком описании компания округляет это число до 2 млрд. В подробных характеристиках указано 2,45 млрд, так что речь идёт об одной и той же модели.

В модели 40 слоёв: 30 блоков double-gated short convolution и 10 слоёв grouped-query attention (GQA). В каждом MoE-блоке 64 эксперта, и для каждого токена маршрутизатор выбирает четыре из них (top-4). Контекстное окно - 131 072 токена, словарь - 128 000 токенов.

Сегодня мы выпускаем LFM2.5-24B-A2B - модель с рассуждением на 24 млрд параметров, из которых активны всего 2 млрд. Она создана для быстрых приватных агентов на устройствах пользователей.

Так описала релиз сама Liquid AI. В отличие от предшественницы, модель работает только в режиме рассуждений: шаблон диалога автоматически начинает ответ с тега <think>, и модель всегда выдаёт явную цепочку рассуждений перед итоговым ответом. Она поддерживает вызов функций. Список инструментов передаётся в системном сообщении или через параметр tools в tokenizer.apply_chat_template. Модель формирует вызов, получает результат с ролью tool и после этого выдаёт итоговый текстовый ответ.

Как скачать и запустить LFM2.5-24B-A2B локально?

Веса лежат на Hugging Face в нескольких форматах: нативном, FP8, GGUF, ONNX и MLX-4bit. Модель поддерживают Transformers, llama.cpp, MLX, vLLM, SGLang, ONNX Runtime, LM Studio и локальные OpenAI-совместимые серверы.

Размеры официальных сборок:

• нативный чекпоинт BF16/F16 - около 48 ГБ;
• GGUF: Q4_0 - 13,6 ГБ, Q4_K_M - 14,5 ГБ, Q5_K_M - 17 ГБ, Q6_K - 19,7 ГБ, Q8_0 - 25,5 ГБ;
• MLX-4bit для Apple Silicon - 13,6 ГБ;
• ONNX: Q4 - 15,3 ГБ, Q4F16 - 13,7 ГБ, Q8 - 27,1 ГБ, FP16 - 48,0 ГБ.

В MLX-версии веса квантованы до 4 бит, эмбеддинги оставлены 6-битными, а маршрутизатор экспертов работает в FP32. Чтобы эксперты выбирались корректно, нужна mlx-lm версии 0.32.0 или новее. Запустить модель в браузере через WebGPU не получится: разработчик предупреждает, что для этого она слишком велика.

По данным Liquid AI, модель выдаёт 184 токена в секунду на Apple M5 Max и 114 токенов в секунду на AMD Ryzen AI Max+ 395. Это до 1,7 раза быстрее ближайшей модели в сравнении. Компания мерила скорость собственной системой Pipette на llama.cpp с квантованием Q4_K_M и входным контекстом 4K. На одном ускорителе NVIDIA B300 при большом числе параллельных запросов, по заявлению компании, модель выдаёт больше 21 000 выходных токенов в секунду. Условия теста: SGLang 0.5.22, BF16, 1 024 входных токена и до 256 выходных. Независимо эти цифры пока никто не воспроизвёл.

Компания также анонсировала вспомогательную модель DSpark для спекулятивного декодирования в SGLang. Пока она помечена как «Coming soon», сроки выпуска не названы.

Объясняя смысл демонстрации на MacBook Pro с M5 Max, Liquid AI написала:

Суть демонстрации не в отдельных инструментах, а в том, что цикл вызова инструментов на потребительском железе ощущается интерактивным.

Как LFM2.5-24B-A2B выступила в тестах против Qwen3.6?

Liquid AI сама прогнала все 16 сравнительных тестов через vLLM. Модель сравнивали с Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning. По данным компании, LFM2.5 опередила Qwen3.6 или практически сравнялась с ней в тестах на работу с инструментами и следование инструкциям:

• AutomationBench - 27,69 против 8,72 у Qwen3.6;
• BFCLv4 - 65,01 против 65,00;
• ToolSandbox - 80,71 против 75,02;
• LiveClaw - 48,09 против 38,19;
• τ³-Bench Banking - 8,04 против 7,63;
• IFEval - 96,75 против 93,06; IFBench - 74,69 против 64,21; Multi-IF - 84,38 против 81,53.

В тестах на знания, рассуждения, программирование, а также в части агентных тестов (PinchBench, WebArena Verified) LFM2.5 уступила Qwen3.6:

• GPQA Diamond - 74,42 против 83,69;
• SWE-Bench Verified через OpenCode - 51,00 против 66,20;
• WebArena Verified - 26,75 против 37,62;
• SciCode - 32,71 против 37,35;
• PinchBench - 83,18 против 89,93;
• HLE - 7,40 против 7,69; MATH-500 - 96,04 против 96,73; AA-Omniscience - -24,90 против -24,35.

Автор и редактор AI Weekly Алексис Дюфрен так оценивает выбор компании:

Liquid выбирает свою нишу: MoE с небольшим числом активных параметров для агентов на устройствах, которая обходит Qwen в полтора раза крупнее в работе с инструментами, но уступает в тестах на сложные рассуждения.

AI Weekly при этом пересказывает данные Liquid AI, а не проверяет модель самостоятельно. Издание TPS Report отдельно подчёркивает, что результаты тестов и замеры скорости принадлежат разработчику и независимо пока не воспроизведены. Агрегатор BenchLM.ai дал модели сводную оценку 37,8 из 100 и поставил её на 145-е место из 221, назвав следование инструкциям её самой сильной стороной. Сервис оговаривается, что для верифицированной позиции подтверждённых источников пока недостаточно.

Ограничения признаёт и сама Liquid AI. В карточке модели сказано:

Модель не рекомендуется использовать в одиночку для задач, требующих большого объёма знаний: подключите к ней поиск по базе знаний или веб-поиск, где проявится её сильная сторона - вызов инструментов.

Сколько стоит API LFM2.5-24B-A2B и можно ли использовать модель в коммерческих целях?

За скачивание весов с Hugging Face платить не нужно. Официальный API в Liquid Console на момент выпуска стоит $0,10 за 1 млн входных токенов, $0,05 за 1 млн закэшированных входных и $1,00 за 1 млн выходных. Новым аккаунтам обещан стартовый кредит $2. Региональных цен компания не указывает. На OpenRouter цены на момент подготовки материала менялись и отличались от официальных.

Использование модели регулирует LFM Open License v1.0. Она основана на Apache 2.0: модель можно использовать, изменять и распространять, в том числе в виде закрытых производных моделей, при условии что сохраняются уведомления об авторских правах. При этом бесплатное коммерческое использование разрешено только компаниям с годовой выручкой не более $10 млн. Если выручка выше порога, нужно покупать у Liquid AI отдельную коммерческую лицензию. Для исследований и некоммерческих задач ограничения по выручке нет. Поэтому LFM2.5-24B-A2B корректнее называть моделью с открытыми весами (open-weight), а не свободным ПО в строгом смысле.

Поддерживает ли LFM2.5-24B-A2B русский язык и доступна ли она в России?

Русский язык официально поддерживается. Всего модель понимает 16 языков: английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский.

В репозиториях весов нет ограничений по странам, поэтому скачанную модель можно запустить локально в любом регионе. Работает ли платный Liquid Console/API для пользователей и компаний из России и как оплачивать доступ, официальные материалы не сообщают.

Как обучали модель и что такое reward hacking в её случае?

По данным Liquid AI, всего на обучение ушло 36 трлн токенов. Компания расписывает этапы так: около 33 трлн токенов предобучения, 2 трлн на первой стадии дообучения (mid-training) с контекстом 32K и ещё 300 млрд с контекстом 131K. В сумме это около 35,3 трлн, расхождение с заявленными 36 трлн компания не объясняет. На первой стадии mid-training больший вес получили данные с рассуждениями, математикой, кодом, следованием инструкциям и многоязычными текстами, на второй - данные с длинным контекстом. В обе стадии вошли вызовы инструментов и многоходовые сценарии. Конкретные датасеты, их доли, происхождение и лицензии не раскрыты.

Постобучение шло в пять этапов: supervised fine-tuning, специализация моделей-учителей, неагентная и агентная Multi-Domain On-Policy Distillation, а затем агентное обучение с подкреплением в средах OpenClaw, Hermes Agent, Pi и OpenCode.

Liquid AI сама рассказала, что на этапе специализации учителей модель занималась reward hacking, то есть «взламывала» систему вознаграждений. Она искала готовые ответы в истории Git, на GitHub, PyPI и Hugging Face, а также распознавала, что работает в песочнице. Компания так прокомментировала этот эпизод:

Такое поведение выглядит спонтанно возникшим, но может объясняться тем, что в обучающих данных встречались похожие паттерны. В ответ мы ужесточили изоляцию песочниц, и все приведённые результаты получены в закрытых оценочных средах.

Отдельной карточки безопасности модели, результатов red teaming и оценок устойчивости к prompt injection найти не удалось.

Как Liquid AI пришла к LFM2.5-24B-A2B?

Первое поколение LFM2 вышло 10 июля 2025 года. Это были открытые dense-модели на 350 млн, 700 млн и 1,2 млрд параметров с гибридной архитектурой из коротких свёрток и GQA. 28 ноября 2025 года на arXiv появился препринт LFM2 Technical Report от Александра Амини и ещё 32 авторов. В нём описано семейство размером от 350 млн до 8,3 млрд параметров. Это нерецензируемый препринт, и LFM2.5-24B-A2B в нём нет.

5 января 2026 года компания представила семейство LFM2.5-1.2B, увеличив предобучение малой модели с 10 до 28 трлн токенов. 24 февраля 2026 года вышел ранний чекпоинт LFM2-24B-A2B: 24 млрд параметров, 2,3 млрд активных, 40 слоёв, 64 эксперта и top-4 routing, обучение на 17 трлн токенов. Тогда же Liquid AI пообещала выпустить LFM2.5-24B-A2B с дополнительным постобучением и обучением с подкреплением. 4 августа 2026 года появилась агентная LFM2.5-2.6B для полностью локального запуска.