前AI科学家揭露：从内部目睹人工智能的生存威胁

概述

前Anthropic与OpenAI资深研究员Jacob Coxon在《每日秀》中披露，人工智能的技术轨迹正导向比商业风险更严峻的生存级威胁。

曾效力于AI行业头部企业Anthropic和OpenAI的研究员Jacob Coxon近日做客美国知名脱口秀节目《每日秀》，与主持人乔恩·斯图尔特深入探讨了人工智能行业的阴暗面。作为业内少数公开警示风险的“吹哨人”，Coxon指出，科技公司正在兜售一个由AI主导的乌托邦式未来，但这层光鲜表象之下，掩盖的是技术狂想与潜在的生物安全隐患。

内部视角：技术狂想与安全风险

Coxon透露，他在训练大型语言模型的过程中，目睹了令人不安的能力跃升。这种进步并非完全透明，许多关键风险在开发初期便被有意忽略或淡化。

• 恶意黑客攻击：AI系统日益强大的自主性，使其成为网络攻击者眼中的高价值目标。
• 生物武器隐患：更令人担忧的是，AI模型生成的知识可能被滥用于设计新型生物制剂，Coxon将此形容为“潜在的生物攻击”。

行业内部的竞争逻辑促使企业不断突破安全边界，以求在能力竞赛中占据先机。这种冒险主义不仅体现在算法层面，更渗透到了整个企业的价值观中。

批判“AI乌托邦”叙事

科技巨头长期以来向公众描绘了一幅通过人工智能实现物质极大丰富、疾病被根除的乐观图景。然而，Coxon认为这种叙事具有极大的误导性。

他指出，技术精英的傲慢（Megalomania）是驱动这一叙事的心理根源。部分决策者沉迷于掌控超级智能的幻想，却忽视了由此引发的结构性风险。

1. 公众被引导关注效率提升等短期利益。
2. 长期存在的对齐问题（Alignment Problem）——即如何确保AI目标与人类价值观一致——并未得到足够重视。
3. 潜在的灾难性后果被轻描淡写，甚至被归结为“发展的必要代价”。

结语：亟需警惕的拐点

Coxon的证词引发了外界对AI治理框架的深刻反思。当一位亲历者从内部揭露威胁时，单纯的商业监管已不足以应对挑战。

当前的紧迫任务在于重新评估技术发展速度与安全护栏之间的平衡。正如Coxon所言，如果不正视这些来自代码深处的阴影，我们可能正在走向一个失去控制的未来。这场关于生存与发展的辩论，才刚刚开始。