盖茨警告人工智能可能引发导致数十亿人死亡的大流行病

概述

比尔·盖茨就人工智能的发展轨迹发出严厉警告，表示该技术已达到可能促成灾难性生物事件的阈值。这位微软联合创始人指出，当前的 AI 系统现在已能够提供制造致命病原体的必要指导，可能导致此前仅存于科幻小说中的大规模死亡。

这一声明重新引发了关于安全管理快速发展的技术所需的的安全协议和监管框架的全球辩论。盖茨强调，虽然 AI 为解决复杂的医学挑战提供了巨大的潜力，但同时也降低了恶意行为者制造大规模杀伤性武器的门槛。

这一警告正值科技巨头竞相部署更自主、更强大模型之时。各国政府和国际组织现在面临越来越大的压力，需要建立护栏，以防止这些工具被用于生物恐怖主义或意外释放 engineered 病毒。

盖茨指出，通过 AI 实现的知识民主化意味着，具有恶意意图的个人不再需要具备病毒学或生物学的广泛背景来理解如何构建危险因子。过去，基因工程的复杂性充当了天然屏障；如今，先进的语言模型能够综合不同科学来源的信息，以创造毒素或病毒的可行蓝图。

“AI 现在可以开展研究，使您能够制造病原体，且其可能致命，”盖茨在最近一次关于技术风险的讨论中表示。他注意到，这些模型已变得足够复杂，可以提供创建危险物质的逐步指导，有效地消除了曾经保护社会的专业壁垒。

这种转变代表了存在性风险性质的根本变化。与需要稀有材料和庞大工业基础设施的核武器不同，如果知晓正确的基因指令，生物因子有可能在较小的设施中制造。盖茨强调，AI 处理和结合科学数据的速度远远超过了人类监管或监控此类发展的能力。

后果令人特别担忧，因为这些模型的训练数据通常包括公开可用的科学论文。没有固有的过滤器可以阻止 AI 检索并重建处理天花或新型流感菌株等病原体协议的步骤。这种可访问性将使旨在提高效率的工具转变为全球灾难的潜在载体。

美国前总统唐纳德·特朗普此前曾表达过利用 AI 进行进攻性生物战的兴趣，这一表态为盖茨的担忧增添了紧迫感。然而，盖茨确定的主要风险不一定是国家赞助的行动，而是个人或小团体利用开源 AI 工具制造流行病的可能性。

估计表明，根据 engineered 因子的传播性和致命性，一次精心设计的疫情爆发可能导致数十亿人死亡。盖茨指出，鉴于当前的技术进步速度，这不是一个假设场景，而是一个可能发生的结果。他将这种情况描述为一种新型的大流行风险——一种自我进化且由机器智能加速的风险。

此类事件带来的经济和社会影响将是史无前例的。全球供应链将崩溃，医疗保健系统会瞬间不堪重负，民秩序可能在受影响地区瓦解。与随数十年演化的自然大流行病不同，AI 辅助的设计可能在短短几天内优化为最大传染性。

此外，访问的便捷性提高了网络安全的风险等级。如果控制关键基础设施或研究实验室的 AI 系统遭到入侵，意外或故意释放生物威胁的可能性将显著增加。数字安全失败与生物工程技术能力的融合造成了传统安全措施难以应对的复合风险。

面对这些日益增长的危险，盖茨敦促政策制定者优先考虑对高风险 AI 应用进行监管，特别是在生物科学领域的应用。他倡导强制性的安全测试、审计要求，以及可能类似于管控核扩散的国际条约。

各国政府必须投资于检测技术和监控体系，以识别由 AI 促成的生物威胁的早期迹象。这包括监控在线通讯中以尝试合成病原体数据的企图，并提高全球实验室的安全标准。

“我们需要以与核武器同等的严肃性对待危险病原体的制造，”盖茨表示，建议对 enables 此类制造行为的数字工具应施加相同水平的监督和管理。

科技行业也受到审视，需实施强大的内容过滤和使用政策。开发大型语言模型的公司预计将限制涉及合成有害生物因子的请求。然而，批评者认为，自愿措施是不足的，必须有具有约束力的法律框架才能确保跨境合规。

国际合作被认为是必不可少的，因为 AI 发展并不受国界限制。监管格局的碎片化可能导致“逐底竞争”的动态，即各国放松安全标准以获取技术优势。盖茨呼吁采取统一的全球方法，在这些风险变得不可逆转之前予以缓解。

尽管发出严厉的警告，盖茨并未主张完全停止 AI 开发。他承认，人工智能是解决人类一些最紧迫挑战的关键，包括治愈疾病、延长预期寿命和应对气候变化。目标是在严格遏制其潜在危害的同时，引导技术走向有益的结果。

该领域的专家一致认为，有效监管的时间窗口正在收窄。随着 AI 能力继续指数级增长，技术上可能之事与安全控制之间存在差距正在扩大。弥合这一差距需要政府、技术专家和科学界立即采取行动。

围绕 AI 安全的讨论已从理论探讨转向紧迫的政策建议。由 AI 支持的生物恐怖主义事件的风险不再是遥远的可能性，而是需要主动缓解的现实危险。社会现在必须决定，能否在不屈服于其引入的风险的情况下，利用这些工具的力量。

最终，这一警告作为一个严正的提醒，即技术进步伴随着深刻的责任。如果没有建立防护措施的深思熟虑和协调努力，AI 的好处可能会被其释放的灾难性潜力所掩盖。未来几年可能会看到激烈的全球辩论，关于如何在一个日益数字化的世界中定义和执行这些新的边界。