AI生物安全：开源模型与合成筛查的双重困境

概述

人工智能在加速生物学发现的同时，也带来了前所未有的生物安全挑战。2026年9月在华盛顿特区举行的“全球挑战项目生物安全研讨会”上，研究人员指出，随着计算能力的提升，AI已能折叠、设计并预测前所未有蛋白质的功能。

虽然目前设计出致命生物武器的概率尚低，但 Anthropic 近期披露了恶意行为者利用 Claude 设计有害蛋白质的实例，这发出了明确 warning。此外，Dario Amodei、Sam Altman 和 Elon Musk 等科技领袖也已呼吁放缓 AI 发展节奏并加强监管。面对指数级的技术进步，传统的生物安全防御框架亟需重构。

开源模型与 AI 安全框架的困境

当前 AIxBio 生态系统由开放科学深度驱动，绝大多数前沿生物蛋白质模型（包括功能预测器和序列生成器）均以开放权重形式发布。这种模式虽然极大加速了科研进程，却从根本上瓦解了传统闭源大语言模型的安全范式。

在传统模型中，安全通常通过 API 层面的提示拒绝或模型层级的线性探针训练来实现。然而，开放权重模型允许用户直接下载并在本地运行，这使得基于 API 的控制手段失效。

“我们必须在两个方向重新定义生物学的 AI 安全：一是将防护措施嵌入模型权重本身，使其能抵御恶意的微调策略；二是加强对数字-物理接口的管控。”

这意味着未来的安全防线必须前移至模型架构内部，确保即使在未经授权的微调下，模型仍能保持对危险请求的抵抗力。

数字-物理接口：合成筛查的挑战

从计算设计到物理实体的转换，是当前生物设计的关键瓶颈，也是生物安全防御的第一道防线。目前，第三方 DNA 合成服务商主要依赖基于序列的筛查，即通过将订购的序列与已知危险数据库进行比对来过滤有害内容。

然而，在 AI 能够从头设计（de novo）全新功能序列的背景下，基于序列的筛查日益失效。新的危险序列可能与已知危害没有任何相似度，从而绕过检测。

为应对这一挑战，研究人员正在探索以下解决方案：

1. 基于结构的筛查：利用 AI 强大的蛋白质结构预测能力，将订购序列对应的结构特征与已知危险蛋白的结构进行比对。
2. 机制可解释性分析：借助当前在机制可解释性领域的进展，将生物 AI 模型分解为可解释的特征，从而检测模型输出中是否包含与已知危险基序相对应的特征。

智能体框架带来的评估难题

智能体 AI 的出现进一步模糊了数字世界与物理实验室的边界。Anthropic 近期的研究证明，Claude 在接入专用生物 AI 模型后，能够作为完全自主的“AI 科学家”，独立设计 de novo 蛋白质，其实验命中率甚至可与人类科学家媲美。

这一发现揭示了两个关键风险：首先，我们可能并未充分理解当前 AI 模型的真正能力边界，因而无法准确评估其安全性；其次，执行生物威胁不再仅仅依赖于人类科学家独有的隐性知识和直觉，智能体系统可能与物理世界产生更为紧密的互动。

面对这一趋势，生物安全领域亟需建立更严格的评估机制，以监控智能体在复杂生物实验中的潜在滥用风险，并确保在技术迭代速度远超安全建设速度的背景下，建立起动态且 robust 的防御体系。