Claude Fable 5.1 · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 成绩与配置

Claude Fable 5.1 的 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 记录。本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录),附 1 条来源定位。

成绩与评测条件

Claude Fable 5.1 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate87.6%原文 87.6% · 单位 %
公布 未确认
Adaptive Max
设置
Claude Fable 5.1;CursorBench 主文引述明确为 max effort;后续 System Card 对 OSWorld/BenchCAD/OfficeQA 对照结果亦标 max effort。
未知项
不同 benchmark 的具体执行细节分别见来源章节;部分测试的采样参数或运行数未单独公布。
工具
工具条件未记录
推理预算
max
框架
mini-SWE-agent harness
协议
ProgramBench; 166 golden tasks after excluding 34 tasks with flaky reference binaries; same mini-swe-agent harness without its six-hour time limit.
条件
Single-agent result; multi-agent curves are nonstandard harness experiments and are not ranked.
在排名中查看此成绩

出处与披露

测试版本与指标

别名 ProgramBench、Multi-Agent ProgramBench

  • Hidden test pass rate · % · 越高越好
  • Score · 单位未标注 · 越高越好