AI助长生物武器风险：科技巨头与科学家发出警告

概述

近期，Anthropic首席执行官达里奥·阿莫迪与OpenAI首席执行官山姆·阿尔特曼公开表示，人工智能的发展可能带来严重风险，主张应审慎把控前沿技术的推进速度。与此同时，多位研究人员警告称，AI助长生物武器风险的问题已迫在眉睫，科技巨头与科学家群体内部对此达成罕见共识。

AI降低生物武器研发门槛

研究人员担忧，AI工具可能被用于协助设计、制造和释放新型生物制剂。2022年，Collaborations Pharmaceuticals的研究团队发现，利用AI分子生成器，短短六小时内即可生成4万种潜在的化学战剂分子，其中部分毒性甚至超过已知神经毒剂。这一发现曾被视为该领域的警钟，但如今形势更加严峻。

• 生物武器的形态多样，包括针对特定基因的高致死病毒、摧毁作物导致粮食危机的真菌，或难以检测的无色无味毒素。
• AI大模型融合了历史上几乎所有科学家的知识储备，且能提供实验指导及视频培训。
• 随着基因编辑和合成生物学技术日益普及，“DIY生物”运动使得家庭实验室成为可能，降低了技术门槛。

“任何有决心的人都可能最终成功。”汉堡大学生物安全研究员杜尼亚·萨布拉指出，当技术门槛降低，潜在威胁将指数级上升。

现有防护措施的有效性存疑

目前，行业已建立一定的防护机制。DNA合成公司会对可疑订单进行筛查，负责任的研究者也会通过“红队”和“蓝队”测试来评估风险并制定缓解措施。AI公司也调整了工具，试图防止其提供可能被滥用的科学信息。然而，这些防护并非万无一失。

Anthropic上周发布的报告承认，曾有人试图利用其模型探索增强基孔肯雅热病毒传播能力、制造更具危险性禽流感变异株，以及构建“ venom toxin peptides图谱”等方法。斯坦福大学的戴维·马格努斯教授表示，这是一场持续的博弈，因为AI擅长寻找规避监控的方法，未来或许需要利用AI来限制AI的使用。

尽管帝国理工学院的部分科学家认为当前AI尚不足以独立完成生物武器的全周期开发，且实验室的人为工作至关重要，但萨布拉强调应保持前瞻性。她建议各国加强医疗卫生系统建设，储备已知毒素的解毒剂和药物，以应对潜在危机。