02
Архитектура MoE: Как работают 1,6 триллиона параметров
Основой успеха модели послужила инновационная архитектура MoE (Mixture of Experts) — смесь экспертов. Важно понимать, что это не просто «очень большая нейросеть» в классическом понимании, а сложнейшая иерархическая система, состоящая из 256 специализированных «экспертных» подсетей.
Общие параметры Meituan LongCat-2.0 составляют впечатляющие 1,6 триллиона весов. Однако ключевое отличие и технологическое преимущество заключается в механизме динамической маршрутизации. В отличие от традиционных моделей, где при каждом запросе работают абсолютно все веса, в архитектуре LongCat-2.0 при генерации каждого отдельного токена задействуется только ограниченное подмножество — в среднем около 48 миллиардов параметров.
Такой подход позволяет достичь следующих результатов:
* Мгновенный отклик: Скорость генерации текста (tokens per second) увеличилась в 3,5 раза по сравнению с плотными моделями аналогичного объема.
* Энергоэффективность: Снижение потребления электроэнергии серверными стойками позволяет крупным компаниям существенно сократить расходы на эксплуатацию.
* Сверхспециализация: Благодаря тому, что «маршрутизатор» запросов (Gating Network) учится передавать задачу именно тем экспертам, которые лучше всего владеют темой (например, специфическим языком программирования Rust или квантовой физикой), точность ответов в узких доменах возрастает на 15-20%.
Эта MoE архитектура макро-моделей задает вектор развития всей индустрии на вторую половину 2026 года, фактически закрепляя за Meituan статус лидера в области оптимизации весов.
Сравнительная таблица производительности и характеристик
| Технический параметр |
LongCat-2.0 (Meituan) |
GPT-5.5 (OpenAI) |
Claude 4 Opus |
| Общее количество параметров |
1,6 триллиона (MoE) |
~1,8 триллиона (Dense) |
Секретно |
| Активных параметров на токен |
~48 миллиардов |
~1,8 триллиона |
Секретно |
| Максимальное контекстное окно |
1 000 000 токенов |
512 000 токенов |
1 000 000 токенов |
| Аппаратная платформа |
Китайские чипы (50k GPU) |
NVIDIA B200 / H100 |
NVIDIA H100 |
| Тест программирования (SWE-bench) |
59,5 балла |
58,6 балла |
60,2 балла |
| Тип доступа |
Open Source / API |
Платный API |
Платный API |