Claude Opus · SWE-bench Verified · Verified subset (500 problems) · 历代记录

按发布时间查看 Claude Opus 的 5 次发布在 SWE-bench Verified · Verified subset (500 problems) 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Opus 4.5

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Opus 4.5 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate80.9%原文 80.9% · 单位 %
公布 未确认
SWE-bench 无 thinking budget
设置
发布材料明确说明 SWE-bench Verified 不使用 thinking budget。
未知项
除发布表和脚注外未提取完整测试脚手架细节。
工具
工具条件未记录
推理预算
未记录
框架
未记录
协议
Full SWE-bench Verified set; no thinking budget.
条件
SWE-bench Verified, 500 problems; no extended thinking; 200K context; average over 5 trials.
在排名中查看此成绩
Pass rate80.6%原文 80.60% · 单位 %
公布 未确认
默认 High
设置
64K thinking budget、200K context、默认 high、默认 sampling、5 次独立试验。
未知项
未另记
工具
工具条件未记录
推理预算
high · 思考预算 64K
框架
未记录
协议
SWE-bench Verified, 500 problems; average over 5 trials.
条件
64K thinking budget; 200K context is stated for the no-thinking multilingual evaluation but not separately specified for this row.
在排名中查看此成绩

Claude Opus 4.6

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.6 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate80.84%原文 80.84% · 单位 %
公布 未确认
Max effort
设置
仅在来源明确写明 max effort 时使用;token budget 与 effort 分别记录,不由 token 数推断。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified;500 个经人工确认可解的问题。
条件
25 trials average;adaptive thinking、max effort、default temperature/top_p;sampling results include thinking blocks。
在排名中查看此成绩
Pass rate81.42%原文 81.42% · 单位 %
公布 未确认
SWE-bench Verified · prompt modified
设置
SWE-bench Verified with a prompt modification; the main article reports 81.42%.
未知项
The footnote does not explicitly confirm that the 25-trial average or the main result's effort/sampling conditions also apply to this prompt variant.
工具
工具条件未记录
推理预算
未记录
框架
未记录
协议
SWE-bench Verified; prompt-modified variant.
条件
The article reports 81.42% after a prompt modification. Its adjacent statement says the primary score averaged 25 trials, but does not explicitly tie that trial count or the primary result's effort/sampling settings to this variant.
在排名中查看此成绩

Claude Opus 4.7

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.7 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate87.6%原文 87.6% · 单位 %
公布 未确认
发布表报告值
设置
System Card §8.1 standard configuration: adaptive thinking at max effort; default temperature/top_p; averaged over 5 trials. Context sizes are evaluation-dependent and do not exceed 1M tokens; retain all section-specific exceptions on their results.
未知项
Per-benchmark tools, context/token cap, resolution, trial count, harness and other exceptions are recorded on each result when stated.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified。
条件
500-problem Verified subset; §8.1 standard adaptive-thinking/max-effort configuration; average over five trials. The announcement also describes memorization screening and exclusions.
在排名中查看此成绩

Claude Opus 4.8

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.8 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate88.6%原文 88.6% · 单位 %
公布 未确认
System Card 默认配置
设置
除章节另有说明外,adaptive thinking at max effort,默认 temperature/top_p,平均 5 trials;评测上下文依任务而定且不超过 1M tokens。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified, 500 problems; average over 5 trials.
条件
Thinking blocks are included in sampled results.
在排名中查看此成绩

Claude Opus 5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate96%原文 96.0% · 单位 %
公布 未确认
Adaptive thinking · max effort (card-wide default)
设置
System Card §8.1 default: adaptive thinking at max effort, default sampling settings (temperature/top_p), averaged over five trials unless otherwise noted; context varies by evaluation and does not exceed 1M tokens.
未知项
Per-benchmark exceptions and harness details are recorded on the relevant configurations/results.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified; 500-problem subset.
条件
Five-trial average; card-wide default adaptive max effort and default sampling.
在排名中查看此成绩