Benchmark Atlas

亚洲模型实验室 · arXiv 论文

Orthogonal Training Efficiency

复现 InternLM2 Figure 1:把横向 GPU 扩展效率与固定 128 GPU 下的长序列执行效率并排检查。

internlmmfudistributed-trainingscaling
MFU under GPU-scale and sequence-length stress复现 InternLM2 Figure 1:把横向 GPU 扩展效率与固定 128 GPU 下的长序列执行效率并排检查。 示意数据,仅复现信息结构,不代表最新榜单结果。 MFU under GPU-scale and sequence-length stressInternLM2 Technical Report · Figure 1 / PDF p.5DEMO DATACOMMUNICATION STRESS50%60%70%80%90%64%862%3261%12857%51253%1024GPU count →SEQUENCE STRESS50%60%70%80%90%71%16K78%32K86%64K87%128K92%256Ksequence length →same training stack · one axis stresses communication, the other long-sequence execution
Illustrative demo data · renderer: orthogonalEfficiencyPanels

Information grammar

它如何组织信息

GPU 数量扩展面板 + 固定 GPU 长序列面板 + 同一 MFU 纵轴的正交压力测试

Visual system
VS-72 InternLM orthogonal MFU panels
Component ID
internlm-orthogonal-efficiency

Use when

适用判断

适合分布式训练栈验收;两个面板必须共享模型、批量定义与 MFU 口径。

Figure-level evidence

Figure 1 · PDF p.5

左侧随 GPU 数量扩展,右侧在 128 GPU 下随序列长度变化的 MFU。

Verified
2026-07-13
Paper source
InternLM2 Technical Report

Structured data

可替换的数据模型

示意数据,仅复现信息结构,不代表最新榜单结果。

{
  "panels": [
    {
      "label": "COMMUNICATION STRESS",
      "axis": "GPU count →",
      "values": [
        {
          "label": "8",
          "value": 0.64
        },
        {
          "label": "32",
          "value": 0.62
        },
        {
          "label": "128",
          "value": 0.61
        },
        {
          "label": "512",
          "value": 0.57
        },
        {
          "label": "1024",
          "value": 0.53
        }
      ]
    },
    {
      "label": "SEQUENCE STRESS",
      "axis": "sequence length →",
      "values": [
        {
          "label": "16K",
          "value": 0.71
        },
        {
          "label": "32K",
          "value": 0.78
        },
        {
          "label": "64K",
          "value": 0.86
        },
        {
          "label": "128K",
          "value": 0.87
        },
        {
          "label": "256K",
          "value": 0.92
        }
      ]
    }
  ]
}

Related components

同一图表家族的其他语法