厂商发布复现系列 · 厂商发布
MoE Activation Rails
把 MoE 的总参数和每 token 激活参数分开编码，并在同一行保留质量得分。
moeActivationRailsInformation grammar
它如何组织信息
总参数外胶囊 + 激活参数内胶囊 + 右侧 benchmark 点轴
- Visual system
- VS-52 Qwen MoE nested rails
- Component ID
qwen-moe-activation-rails
Use when
适用判断
适合 MoE 家族说明规模与实际推理负载的差别。
Source lineage
Alibaba Qwen
紫色系统、thinking budget 与 MoE 效率
Open formal source ↗Structured data
可替换的数据模型
示意数据，仅复现信息结构，不代表最新榜单结果。
{
"items": [
{
"label": "Qwen 30B-A3B",
"total": 30,
"active": 3,
"score": 74
},
{
"label": "Qwen 80B-A8B",
"total": 80,
"active": 8,
"score": 82
},
{
"label": "Qwen 235B-A22B",
"total": 235,
"active": 22,
"score": 89
},
{
"label": "Dense 70B",
"total": 70,
"active": 70,
"score": 84
}
]
}Related components