AI安全研究呼吁开放科学：让独立审查成为常态

概述

近日，来自苏黎世联邦理工学院（ETH Zurich）、洛桑联邦理工学院（EPFL）、牛津大学等知名学术机构的数十位研究人员共同发起了一项名为“AI安全研究呼吁开放科学”的请愿活动。该倡议强烈呼吁前沿人工智能模型开发商与其全球社区共享其AI安全方法及研究成果，旨在通过独立的科学审查来推动该领域的发展。

“随着AI系统日益强大，其安全性应有详细的记录，包括让独立研究人员能够审查、挑战、复现和改进的方法与评估。”

这项于2026年9月18日正式发布的倡议由Martin Jaggi、Robert West、Philip Torr和Anna Hedström等学者发起，强调透明度将对评估和提升AI模型安全性产生深远影响。

开放科学的必要性

请愿书指出，目前许多前沿模型的训练数据、安全微调配方以及相关代码并未公开，这阻碍了科学界对模型行为的深入理解。通过分享足够详细的安全相关信息，包括评估结果、安全训练策略以及期望与非期望行为的证据，可以显著提升对现有安全措施的有效性和局限性的认知。

此外，透明度有助于全球学术界和工业界的科研经费与人力投入到最具前景的研究方向上。通过借鉴全球科学社区的专长和积极贡献，分享安全最佳实践有助于提高所有AI模型的安全性，无论其是否为开源模型或源自哪个国家。这种协作模式有望加速AI安全研究的进展，使其能够跟上AI能力飞速发展的步伐。

例外情况与签署支持

尽管倡导开放，请愿书也承认在特定情况下存在例外。如果发布某些信息本身可能构成可信的安全或滥用风险，可以做出豁免。然而，这类例外应具体且成比例，而不应成为将安全证据长期保密的普遍借口。

该倡议已获得包括麻省理工学院、哈佛大学、普林斯顿大学、帝国理工学院及新加坡国立大学等全球顶尖高校众多研究人员的联署支持。发起人强调，所有 endorsements 均以个人身份进行，所列隶属关系仅用于识别。随着越来越多的专家加入，这一呼吁开放科学精神的声量正变得愈发响亮，旨在构建一个更加透明、可信赖的AI发展环境。