Claude Haiku 5.5 · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 成绩与配置

Claude Haiku 5.5 的 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 记录。本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录),附 1 条来源定位。

成绩与评测条件

Claude Haiku 5.5 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate82%原文 82.0% · 单位 %
公布 未确认
System Card 标准 max effort
设置
Unless otherwise noted: adaptive thinking at max effort, default temperature/top_p, five-trial average; context window is evaluation-dependent and no more than 1M tokens.
未知项
每个 benchmark 的具体 context window 未逐项列明。
工具
工具条件未记录
推理预算
max
框架
mini-swe-agent
协议
ProgramBench; hidden-test pass rate on 166 retained tasks using mini-swe-agent harness.
条件
34 flaky tasks were excluded from the original 200; internet and decompilation tools were not used; upstream six-hour limit was omitted; task contexts reached up to 1M tokens.
在排名中查看此成绩

出处与披露

测试版本与指标

别名 ProgramBench、Multi-Agent ProgramBench

  • Hidden test pass rate · % · 越高越好
  • Score · 单位未标注 · 越高越好