规模、成本与效率 · arXiv 论文
Log-log Scaling Law
用对数尺度检验模型规模与 loss 的幂律关系，保留偏离拟合线的点。
logScalingInformation grammar
它如何组织信息
log-log 散点 + 拟合线 + 模型规模标注
- Visual system
- VS-10 Field-note scaling
- Component ID
llama-scaling-law
Use when
适用判断
适合跨数量级的参数量、数据量或 compute；不应用在线性范围很窄的数据。
Source lineage
Meta / Llama
缩放曲线、模型族比较与安全诊断
Open formal source ↗Structured data
可替换的数据模型
示意数据，仅复现信息结构，不代表最新榜单结果。
{
"points": [
{
"label": "1B",
"x": 1,
"y": 2.8
},
{
"label": "3B",
"x": 3,
"y": 2.46
},
{
"label": "8B",
"x": 8,
"y": 2.2
},
{
"label": "27B",
"x": 27,
"y": 1.98
},
{
"label": "70B",
"x": 70,
"y": 1.83
},
{
"label": "405B",
"x": 405,
"y": 1.61
}
]
}Related components