GPT-6 Astra在新一项AI科学研究基准测试中登顶

代理型基准测试揭示顶尖模型与开源权重模型之间存在显著差距

GeoDetect Pipeline2026年9月25日
分享

概览

等待结束了。Terminal-Bench-Science 0.1 排行榜已正式启动,为首个严谨的科学工作流代理基准测试提供了平台。这一新的评估框架旨在测试大型语言模型在自主驾驭现实世界实验室和计算科学复杂性方面的能力。

两家商业巨头目前占据榜单顶端。GPT-6 Astra (max) 以 63% 的得分领跑,紧随其后的是 Claude Opus 5.5 (xhigh),得分为 62%。虽然这些结果标志着代理式 AI 取得了重大进展,但也凸显出在 AI 能够完全复现专家级科学推理之前,仍有巨大的改进空间。

基准构建与方法论

Terminal-Bench-Science 0.1 于 2026 年 8 月发布,由 Steven Dillmann 与斯坦福大学研究人员牵头合作推出。该项目是与 @terminalbench 团队以及全球开源科学贡献者社区合作开发的。其目标是超越简单的知识回忆,在动态交互式环境中评估模型性能。

该基准包含 70 个由专家精心设计的任务,涵盖五个主要科学领域。这些领域包括:生命科学(19 项任务)、物理科学(17 项任务)、数学科学(17 项任务)、工程科学(9 项任务)以及地球科学(8 项任务)。每个任务均基于真实的研究场景,确保评估反映的是实际挑战而非理论谜题。

测试方法沿用了原始 Terminal-Bench 的做法,但针对科学探究进行了专门优化。每个任务都将 AI 智能体置于配备特定数据、工具和指令的沙盒环境中。智能体必须无人干预地从头到尾执行整个工作流。自动测试对每个任务进行严格的通过/失败评分,最终得分报告三次独立尝试中的平均 pass@1 指标。

此基准并非用于回答问题,而是要求精确且自主地执行复杂的多步研究协议。

关键性能要点

初步结果揭示了当前科学 AI 格局中明显的层级结构。仅有两款模型的得分超过 50% 阈值,凸显了任务的难度。GPT-6 Astra (max) 以 63% 的得分位居榜首,Claude Opus 5.5 (xhigh) 以 62% 紧随其后。Claude Opus 5.5 的标准 max 配置得分略低,为 59%。

最新发布的模型在代理能力方面展现出显著进步,然而即使是领先的模型仍有巨大的提升空间。63% 的得分表明,虽然顶级模型能够处理大多数任务,但近四成科学挑战仍由最先进系统无法解决或执行错误。

领域特定表现

不同科学领域间的性能差异显著。生命科学成为大多数领先模型得分最低的领域。鉴于生物数据的复杂性和非结构化特性,这一发现尤为值得注意。然而,由于存在噪声,领域得分需谨慎解读;每个领域仅有 8 至 19 项任务,小样本量可能导致整体平均值出现偏差。

Claude Opus 5.5 (xhigh) 在不同学科间表现出鲜明对比。它通过了 71% 的数学科学任务,展现了强大的逻辑与计算推理能力。相比之下,其在生命科学任务上的表现仅为 46%。这种差异表明,与数学的结构化逻辑相比,当前模型可能在应对生物学研究中固有的模糊性和变异性方面更加吃力。

开放权重模型的差距

专有商业模型与最佳开放权重替代方案之间的差距依然巨大。领先的开放权重模型 GLM-5.3 (max) 和 DeepSeek V4.1 Flash (max) 得分分别为 10% 和 9%。这些分数比领先者低 50 分以上,凸显了自主科学代理在能力方面的巨大鸿沟。

虽然开放模型在通用编码和推理基准测试中已取得进展,但代理式科学领域似乎是一个特别难以攻克的难题。工具使用、领域特定知识检索以及长视野规划的组合似乎需要当前开放权重版本尚未达到的规模和精细度。

对 AI 研究的启示

Terminal-Bench-Science 0.1 的推出为 AI 在未来研究中的应用提供了关键的基准。它将讨论重心从被动语言理解转向主动科学执行。对于开发者和研究者而言,这些结果为自主智能体当前能实现的能力提供了现实的基线参考。

数据表明,尽管我们正在快速进步,但 AI 尚未能在复杂的多领域工作流中取代专家级人类科学家。生命科学领域的低分以及与开放模型的巨大差距表明,仍需重大的架构和训练创新。

随着社区持续贡献新任务并优化现有任务,该基准有望成为衡量科学领域中代理成熟度的标准。目前的领先者已设定了高门槛,但通往完全自主科学发现的道路才刚刚开始。

展望未来

随着 70 项任务已就位,该基准为持续评估奠定了坚实基础。科学社区被鼓励作为开源协作的一部分,提交新任务并提出对现有任务的修改建议。

目前,排行榜既是 GPT-6 Astra 和 Claude Opus 5.5 能力的见证,也是现存障碍的提醒。通向可靠通用科学 AI 的路途漫长,而 Terminal-Bench-Science 0.1 是这条道路上首个清晰的路标。

分享

参考来源

文中提到的工具