Benchmark Atlas

分布与不确定性 · 厂商发布

Pass@k ECDF

显示随着样本预算 k 增加,累计有多少任务至少被解出一次。

ecdfpass-at-ksampling
Tasks solved by sample budget 显示随着样本预算 k 增加,累计有多少任务至少被解出一次。 示意数据,仅复现信息结构,不代表最新榜单结果。 Tasks solved by sample budget OpenAI / ChatGPT DEMO DATA k=1k=2k=4k=8k=16k=3240%50%60%70%80%90%ReasoningBase
Illustrative demo data · renderer: ecdf

Information grammar

它如何组织信息

经验累计分布阶梯 + k 预算线 + 面积差

Visual system
VS-23 Magenta probability steps
Component ID
openai-passk-ecdf

Use when

适用判断

适合代码生成和采样式推理;不能把 pass@k 当作单次成功率。

Source lineage

OpenAI / ChatGPT

高留白、单一强调色、compute 与 reliability 叙事

Open formal source ↗

Structured data

可替换的数据模型

示意数据,仅复现信息结构,不代表最新榜单结果。

{
  "series": [
    {
      "label": "Reasoning",
      "points": [
        [
          1,
          42
        ],
        [
          2,
          57
        ],
        [
          4,
          69
        ],
        [
          8,
          78
        ],
        [
          16,
          84
        ],
        [
          32,
          88
        ]
      ]
    },
    {
      "label": "Base",
      "points": [
        [
          1,
          34
        ],
        [
          2,
          45
        ],
        [
          4,
          55
        ],
        [
          8,
          62
        ],
        [
          16,
          67
        ],
        [
          32,
          70
        ]
      ]
    }
  ]
}

Related components

同一图表家族的其他语法