Claude Sonnet · Humanity's Last Exam · 2,500-question benchmark · 历代记录

按发布时间查看 Claude Sonnet 的 3 次发布在 Humanity's Last Exam · 2,500-question benchmark 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Sonnet 4.6

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Sonnet 4.6 · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy33.2%原文 33.2% · 单位 %
公布 未确认
Adaptive max, without tools
设置
Adaptive thinking enabled; max effort; no tools.
未知项
Default sampling settings apply unless otherwise stated.
工具
禁止工具
推理预算
max
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration.
条件
No tools; adaptive thinking and max effort per Table 2.1.A. Contamination handling and the tool-assisted configuration are described in §2.20.2.
在排名中查看此成绩
Accuracy49%原文 49.0% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
允许工具
推理预算
max
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; web search, web fetch, code execution and programmatic tool calling.
条件
Context compaction at 50K tokens up to 3M total tokens, adaptive thinking, max effort; domain blocklist and transcript review used for contamination checks.
在排名中查看此成绩

Claude Sonnet 5

· 本次发布有 6 条成绩记录,含 6 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5 · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy43.2%原文 43.2% · 单位 %
公布 未确认
Thinking set to auto
设置
Thinking set to auto; no tools.
未知项
Exact effort selected by auto is not stated.
工具
禁止工具
推理预算
未记录
框架
未记录
协议
HLE, 2,500 questions; reasoning-only, no tools.
条件
Main-page summary table gives the exact score. System Card says thinking auto, total token limit 1M, no context compaction; exact effort selected by auto is unknown.
在排名中查看此成绩
Accuracy57.4%原文 57.4% · 单位 %
公布 未确认
Thinking set to auto, with tools
设置
Thinking set to auto; web search, web fetch, programmatic tool calling and code execution.
未知项
Exact effort selected by auto is not stated.
工具
允许工具
推理预算
未记录
框架
未记录
协议
HLE, 2,500 questions; web search, web fetch, programmatic tool calling and code execution.
条件
Thinking auto; total token budget 1M, no context compaction; contamination blocklist and transcript review; Opus 4.6 grader.
在排名中查看此成绩
Accuracy36.5%原文 36.5% · 单位 %
公布 未确认
Low effort (figure label)
设置
The figure labels this run as low effort; it does not provide a complete generation configuration.
未知项
Sampling parameters, token limits, and tool setup are not fully stated for the cited chart point.
工具
工具条件未记录
推理预算
low
框架
未记录
协议
HLE Figure 8.9.1.B; one run per model and effort level, up to 1M total tokens.
条件
Low effort as labeled. Tool availability for this scaling panel is not stated; plotted average task cost has no exact per-point label.
在排名中查看此成绩
Accuracy47.2%原文 47.2% · 单位 %
公布 未确认
Medium effort (figure label)
设置
The figure labels this run as med effort; it does not provide a complete generation configuration.
未知项
Sampling parameters, token limits, and tool setup are not fully stated for the cited chart point.
工具
工具条件未记录
推理预算
med
框架
未记录
协议
HLE Figure 8.9.1.B; one run per model and effort level, up to 1M total tokens.
条件
Med effort as labeled. Tool availability for this scaling panel is not stated; plotted average task cost has no exact per-point label.
在排名中查看此成绩
Accuracy52.8%原文 52.8% · 单位 %
公布 未确认
High effort (figure label)
设置
The figure labels this run as high effort; it does not provide a complete generation configuration.
未知项
Sampling parameters, token limits, and tool setup are not fully stated for the cited chart point.
工具
工具条件未记录
推理预算
high
框架
未记录
协议
HLE Figure 8.9.1.B; one run per model and effort level, up to 1M total tokens.
条件
High effort as labeled. Tool availability for this scaling panel is not stated; plotted average task cost has no exact per-point label.
在排名中查看此成绩
Accuracy54.6%原文 54.6% · 单位 %
公布 未确认
Xhigh effort (figure label)
设置
The figure labels this run as xhigh effort; it does not provide a complete generation configuration.
未知项
Sampling parameters, token limits, and tool setup are not fully stated for the cited chart point.
工具
工具条件未记录
推理预算
xhigh
框架
未记录
协议
HLE Figure 8.9.1.B; one run per model and effort level, up to 1M total tokens.
条件
Xhigh effort as labeled. Tool availability for this scaling panel is not stated; plotted average task cost has no exact per-point label.
在排名中查看此成绩

Claude Sonnet 5.5

· 本次发布有 10 条成绩记录,含 10 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5.5 · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy64.5%原文 64.5% with tools · 单位 %
公布 未确认
HLE · Auto thinking · Max effort · 有工具
设置
Thinking auto;图中标为 Max effort;web search、web fetch、programmatic tool calling 和 code execution。
未知项
采样参数未说明。
工具
允许工具
推理预算
max
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; tool-assisted configuration.
条件
Main summary table does not name effort. System Card says thinking auto, 980K task budget, no compaction, Opus 4.6 grader; web search, web fetch, programmatic tool calling and code execution. 有工具变体使用 Appendix 9.1 的 HLE 来源 blocklist,并复核污染后重新判分。
在排名中查看此成绩
Accuracy47.6%原文 47.6% · 单位 %
公布 未确认
Low effort
设置
Low reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
允许工具
推理预算
low
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; tool-assisted configuration.
条件
工具包含 web search、web fetch、programmatic tool calling 和 code execution;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。 有工具变体使用 Appendix 9.1 的 HLE 来源 blocklist,并复核污染后重新判分。
在排名中查看此成绩
Accuracy50.5%原文 50.5% · 单位 %
公布 未确认
Medium effort
设置
Medium reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
允许工具
推理预算
medium
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; tool-assisted configuration.
条件
工具包含 web search、web fetch、programmatic tool calling 和 code execution;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。 有工具变体使用 Appendix 9.1 的 HLE 来源 blocklist,并复核污染后重新判分。
在排名中查看此成绩
Accuracy56.7%原文 56.7% · 单位 %
公布 未确认
High effort
设置
High reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
允许工具
推理预算
high
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; tool-assisted configuration.
条件
工具包含 web search、web fetch、programmatic tool calling 和 code execution;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。 有工具变体使用 Appendix 9.1 的 HLE 来源 blocklist,并复核污染后重新判分。
在排名中查看此成绩
Accuracy62%原文 62.0% · 单位 %
公布 未确认
Xhigh effort
设置
Xhigh reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
允许工具
推理预算
xhigh
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; tool-assisted configuration.
条件
工具包含 web search、web fetch、programmatic tool calling 和 code execution;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。 有工具变体使用 Appendix 9.1 的 HLE 来源 blocklist,并复核污染后重新判分。
在排名中查看此成绩
Accuracy41.4%原文 41.4% · 单位 %
公布 未确认
Low effort
设置
Low reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
禁止工具
推理预算
low
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration without tools.
条件
无工具;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。
在排名中查看此成绩
Accuracy43.2%原文 43.2% · 单位 %
公布 未确认
Medium effort
设置
Medium reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
禁止工具
推理预算
medium
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration without tools.
条件
无工具;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。
在排名中查看此成绩
Accuracy47.9%原文 47.9% · 单位 %
公布 未确认
High effort
设置
High reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
禁止工具
推理预算
high
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration without tools.
条件
无工具;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。
在排名中查看此成绩
Accuracy53%原文 53.0% · 单位 %
公布 未确认
Xhigh effort
设置
Xhigh reasoning effort.
未知项
Sampling settings not stated unless recorded per result.
工具
禁止工具
推理预算
xhigh
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration without tools.
条件
无工具;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。
在排名中查看此成绩
Accuracy56.9%原文 56.9% · 单位 %
公布 未确认
HLE · Auto thinking · Max effort · 无工具
设置
Thinking auto;Max effort;无工具。
未知项
采样参数未说明。
工具
禁止工具
推理预算
max
框架
未记录
协议
Humanity's Last Exam, 2,500 questions; reasoning-only configuration without tools.
条件
无工具;effort 取图中明确标签。Thinking auto;980K task token budget;无 context compaction;Claude Opus 4.6 grader。Thinking mode 与 effort 分别记录。
在排名中查看此成绩