亚洲模型实验室 · arXiv 论文
Orthogonal Training Efficiency
复现 InternLM2 Figure 1:把横向 GPU 扩展效率与固定 128 GPU 下的长序列执行效率并排检查。
orthogonalEfficiencyPanelsInformation grammar
它如何组织信息
GPU 数量扩展面板 + 固定 GPU 长序列面板 + 同一 MFU 纵轴的正交压力测试
- Visual system
- VS-72 InternLM orthogonal MFU panels
- Component ID
internlm-orthogonal-efficiency
Use when
适用判断
适合分布式训练栈验收;两个面板必须共享模型、批量定义与 MFU 口径。
Figure-level evidence
Figure 1 · PDF p.5
左侧随 GPU 数量扩展,右侧在 128 GPU 下随序列长度变化的 MFU。
- Verified
- 2026-07-13
- Paper source
- InternLM2 Technical Report
Structured data
可替换的数据模型
示意数据,仅复现信息结构,不代表最新榜单结果。
{
"panels": [
{
"label": "COMMUNICATION STRESS",
"axis": "GPU count →",
"values": [
{
"label": "8",
"value": 0.64
},
{
"label": "32",
"value": 0.62
},
{
"label": "128",
"value": 0.61
},
{
"label": "512",
"value": 0.57
},
{
"label": "1024",
"value": 0.53
}
]
},
{
"label": "SEQUENCE STRESS",
"axis": "sequence length →",
"values": [
{
"label": "16K",
"value": 0.71
},
{
"label": "32K",
"value": 0.78
},
{
"label": "64K",
"value": 0.86
},
{
"label": "128K",
"value": 0.87
},
{
"label": "256K",
"value": 0.92
}
]
}
]
}Related components