Claude Opus · SWE-bench Multilingual · 300 problems, 9 programming languages · 历代记录

按发布时间查看 Claude Opus 的 6 次发布在 SWE-bench Multilingual · 300 problems, 9 programming languages 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Opus 4.5

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Opus 4.5 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate76.2%原文 76.20% · 单位 %
公布 未确认
默认 High
设置
64K thinking budget、200K context、默认 high、默认 sampling、5 次独立试验。
未知项
未另记
工具
工具条件未记录
推理预算
high · 思考预算 64K
框架
未记录
协议
SWE-bench Multilingual, 300 problems in 9 programming languages; average over 5 trials.
条件
64K thinking budget; 200K context and extended thinking turned off apply to the no-thinking evaluation description, not this row.
在排名中查看此成绩
Pass rate76.2%原文 76.20% · 单位 %
公布 未确认
SWE-bench 无 thinking budget
设置
发布材料明确说明 SWE-bench Verified 不使用 thinking budget。
未知项
除发布表和脚注外未提取完整测试脚手架细节。
工具
工具条件未记录
推理预算
未记录
框架
未记录
协议
SWE-bench Multilingual, 300 problems in 9 programming languages; average over 5 trials.
条件
Extended thinking turned off; 200K context.
在排名中查看此成绩

Claude Opus 4.6

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.6 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate77.83%原文 77.83% · 单位 %
公布 未确认
Max effort
设置
仅在来源明确写明 max effort 时使用;token budget 与 effort 分别记录,不由 token 数推断。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Multilingual;300 problems;9 programming languages。
条件
25 trials average;adaptive thinking、max effort、default temperature/top_p;sampling results include thinking blocks。
在排名中查看此成绩

Claude Opus 4.7

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.7 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate80.5%原文 80.5% · 单位 %
公布 未确认
发布表报告值
设置
System Card §8.1 standard configuration: adaptive thinking at max effort; default temperature/top_p; averaged over 5 trials. Context sizes are evaluation-dependent and do not exceed 1M tokens; retain all section-specific exceptions on their results.
未知项
Per-benchmark tools, context/token cap, resolution, trial count, harness and other exceptions are recorded on each result when stated.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Multilingual; 300 problems across 9 programming languages.
条件
All SWE-bench variants use the standard configuration with thinking blocks included; average over 5 trials.
在排名中查看此成绩

Claude Opus 4.8

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.8 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate84.4%原文 84.4% · 单位 %
公布 未确认
System Card 默认配置
设置
除章节另有说明外,adaptive thinking at max effort,默认 temperature/top_p,平均 5 trials;评测上下文依任务而定且不超过 1M tokens。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Multilingual, 300 problems across 9 programming languages; average over 5 trials.
条件
Thinking blocks are included in sampled results.
在排名中查看此成绩

Claude Opus 5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate89.5%原文 89.5% · 单位 %
公布 未确认
Adaptive thinking · max effort (card-wide default)
设置
System Card §8.1 default: adaptive thinking at max effort, default sampling settings (temperature/top_p), averaged over five trials unless otherwise noted; context varies by evaluation and does not exceed 1M tokens.
未知项
Per-benchmark exceptions and harness details are recorded on the relevant configurations/results.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Multilingual; 300 problems across 9 languages.
条件
Five-trial average; card-wide default adaptive max effort and default sampling.
在排名中查看此成绩

Claude Opus 5.5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5.5 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate93.9%原文 93.9% · 单位 %
公布 未确认
System Card max effort (per-result benchmark harnesses)
设置
System Card §8.1 default: adaptive thinking/max effort and default sampling settings unless a section says otherwise. Benchmark tools, evaluator, safeguards, fallback, and repetitions remain per-result conditions; this config represents the stated model effort, not harness equivalence.
未知项
Exact run time is not disclosed.、Per-benchmark tools, safeguards, and repetition counts are specified only where the source states them.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
300 problems across nine programming languages; five trials averaged.
条件
Exact harness and run date are not stated. Source-wide conditions: Each score is averaged over five trials; Multilingual has 300 problems across nine languages.
在排名中查看此成绩