Claude Sonnet · SWE-bench Multilingual · 300 problems, 9 programming languages · 历代记录

按发布时间查看 Claude Sonnet 的 3 次发布在 SWE-bench Multilingual · 300 problems, 9 programming languages 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Sonnet 4.6

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

Claude Sonnet 4.6 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate75.9%原文 75.9% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
300 problems across 9 programming languages; 10 trials.
条件
Adaptive thinking, max effort, default sampling; thinking blocks included in sampling results.
在排名中查看此成绩

Claude Sonnet 5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate78.3%原文 78.3% · 单位 %
公布 未确认
Standard configuration: adaptive thinking, max effort
设置
Adaptive thinking at max effort; default temperature and top_p; five-trial averages unless otherwise stated.
未知项
Context-window size is evaluation-dependent; standard configuration is 1M tokens.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
300 problems across 9 programming languages; five trials.
条件
Standard configuration; thinking blocks included in sampling results.
在排名中查看此成绩

Claude Sonnet 5.5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5.5 · SWE-bench Multilingual 成绩与配置
指标与成绩配置与评测条件出处
Pass rate90.3%原文 90.3% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort.
未知项
Sampling settings may vary by benchmark; see each result.conditions.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-Bench Multilingual, 300 problems across 9 programming languages; five-trial average.
条件
No further harness details stated in this section.
在排名中查看此成绩