AI extinction risk and bioweapons: are we ready?

概述

人工智能技术的双刃剑效应正引发全球安全专家的深度忧虑。近期，麻省理工学院科技评论举办的一场圆桌会议集中探讨了AI是否具备“灭绝人类”的潜力，其中AI辅助生物武器的研发能力成为最引人注目的焦点。与此同时，微软与OpenAI内部员工对AI侵蚀网络内容生态的担忧，以及各国在科研自主创新上的博弈，共同勾勒出这一技术领域复杂而严峻的现状。

AI生物安全：从实验室到战场的惊险跨越

尽管AI在药物研发领域取得了突破性进展，但其潜在的灾难性后果已浮出水面。2022年的一项研究揭示，利用专为开发药物设计的AI“分子生成器”，在短短六小时内即可生成4万个可作为化学战剂的分子结构。这一发现震惊了科学界，标志着恶意使用AI设计致命病原体的门槛大幅降低。

“这是人类历史上规模最大的劳动窃取。”——微软应用科学总监布伦特·海克特（Brent Hecht）在纽约时报诉OpenAI版权案的法庭文件中直言不讳。

如今，随着基因编辑和合成生物学工具的普及，AI能够回答几乎所有科学领域的问题。尽管各国已建立了一定的安全护栏，但这些措施远非坚不可摧。科学家们在风险评估上虽有分歧，但共识在于：缺乏铁壁般防御机制的生物科技与强大的AI结合，将构成严峻的全球安全挑战。

科技巨头的内部裂痕与内容生态危机

在追求算力与模型能力的过程中，科技巨头内部也爆发了关于价值观与可持续性的激烈冲突。据《404 Media》等多家媒体报道，微软和OpenAI的员工公开表示，AI正在“摧毁互联网”。这一指控主要源于AI爬虫大量抓取网站数据以进行训练，导致传统出版商依赖的内容商业模式濒临崩溃。

在纽约时报的版权诉讼中，这些员工意见成为了关键证据，可能进一步削弱OpenAI和微软的法律防御立场。业界分析指出，如果新鲜内容的生产因缺乏经济回报而枯竭，人工智能依赖的互联网数据源头也将面临枯竭，最终反噬AI自身的发展根基。这不仅是法律问题，更是关乎信息生态存亡的系统性风险。

全球科研格局的重塑与应对

面对外部技术限制，中国科技企业展现出了强大的韧性与创新活力。最新数据显示，中美科技摩擦反而促使中国企业加大了对基础科学的投入，相关专利引用科学论文的數量同比激增72%。这种“逆向激励”效应表明，技术封锁并未阻断创新步伐，反而加速了本土科研体系的自主化进程。

与此同时，太空探索与机器人技术的融合也在开辟新的战场。从乌克兰无人艇的海战实战，到美国公司研发的人形战斗机器人，AI正迅速渗透至国防领域。专家呼吁，在享受技术红利的同时，必须建立更为严格的国际监管框架，以确保AI始终处于人类的有效控制之下，防止其从“工具”演变为“威胁”。