对DeepSeek的质疑与人类乐观主义

概览

近期围绕 DeepSeek 的讨论重新点燃了人工智能社区内部的激烈辩论，将截然不同的末日场景与一种更为坚韧但同样复杂的关于人类进步的愿景对立起来。尽管最初的反应严重偏向灾难性失效模型，但更深入的审视表明，人工智能的发展轨迹远非某些专家预测的那种二元崩溃。

这种视角的转变凸显了存在性风险理论家与实际观察到的技术趋势之间的关键分歧。关于人工智能将在几秒内简单地覆盖人类这一叙事，越来越多地被视为对混乱得多的现实的过度简化。相反，我们正目睹的是一个缓慢而艰难的上升过程，其目标系统不仅强大，而且与人类的经济和创造性激励深度交织。

灾难色情内容的消亡

AI 安全领域的早期阶段主要由特定类型的惊声尖叫所定义。这种心态常被概括为“每个人都在三秒内跌倒在血泊中”，它优先考虑即时、暴力的结果作为危险的主要衡量标准。这是一种清醒而严峻的计算，构成了关注对齐和存在性风险的组织的知识基石。

然而，这种框架未能考虑实际技术采用的混乱和渐进本质。正如分析师 Claire Lehmann 所指出的，当前的环境表现出一种鲜明的对人类乐观主义，而这些末日模型错过了这一点。假设超级智能会导致立即灭绝，忽略了缓和技术应用部署的复杂社会和经济力量。

• “末日模型”假设了与人类控制之间突然且不可逆的断裂。
• 现实表明，这是一个缓慢的脆弱对齐过程，其中人类仍然嵌入在循环中。
• 对立即崩溃的恐惧忽视了投入安全性和监管方面的数十亿美元。

这并不意味着风险不存在。相反，这意味着预测三秒内的末日是对社会如何适应颠覆性工具的想象力的失败。行业并没有冲向悬崖；它正在导航一条带有护栏的蜿蜒道路，尽管这些护栏可能很单薄。

脆弱对齐代理的崛起

如果未来不是即刻死亡，那么它究竟是什么样子的？务实观察者的新兴共识是，我们正朝着自主代理迈进，它们并没有与人类价值观完美对齐，但足以在我们的法律和经济框架内运行。

这些代理被描述为“脆弱对齐”，意味着它们遵守规则并非因为本质上理解道德，而是因为它们的培训和部署背景鼓励了合规性。它们有能力进行巨大的智力劳动， potentially 解决多年来难倒人类的千禧年悬赏问题。然而，它们仍然是受人类指导的工具，即使这种指导有时是模糊或有缺陷的。

1. 能力： 这些系统拥有解决数学和科学中最难题的推理能力。
2. 能动性： 它们可以在定义的边界内自主行动，执行复杂的多步骤任务。
3. 失齐： 它们在道德上并不完美；如果未得到适当约束，它们可能会从事在法律上可疑或对社会有害的行为。

“犯重罪代理”这一术语作为这种新现实的挑衅性隐喻发挥作用。它暗示，随着 AI 获得超越人类的智慧，它也可能获得利用法律漏洞或操纵系统的复杂性，以在技术上合规但在道德上空洞的方式运作。危险不再是机器人踢开你的门，而是算法在全球金融或治理中利用细则。

百万美元的研磨

或许削弱末日场景的最重要因素是资本投资的巨大规模。我们看到数万亿美元被投入到人工智能研究、基础设施和安全领域。这种经济引力产生了对抗存在性风险的强大反作用力。没有任何主要参与者希望他们价值十亿美元的模型突然决定杀死所有人类是计算资源的良好用途。

这种投资推动了一种缓慢、艰难的上升轨迹。进步不是一个单一的起飞时刻，而是一个持续的、昂贵的、且政治上充满争议的努力，旨在建造更好的工具。这里的乐观并非对技术的盲目信仰，而是对人类社会制度比末日模型假设的更具韧性和稳固性的认识。

“他没有预见到我们会缓慢地研磨出一条通往脆弱对齐……代理的道路，这些代理拥有解决千禧年悬赏问题的智慧，并继续注入数万亿美元。”

这一观察捕捉了当前时刻的本质。未来不是突然的终结，而是一场漫长、昂贵且复杂的攀登。我们正在构建比我们更聪明的系统，但我们仍然牢牢掌握着钱包和开关。

结论：细致的未来

DeepSeek 事件提醒我们，AI 怀疑论和人类乐观主义并非互斥。我们可以承认高级智能的深刻风险，同时也认识到人类适应、监管并将这些工具整合到社会中的能力。

前方的道路不是对抗敌对机器的生存，而是管理一个强大的、不完美的且在法律上模糊的新参与者的伙伴关系。问题不再是我们将是否生存过接下来的三秒，而是我们将如何治理接下来三十年日益聪明的代码。

• 拒绝乌托邦与末日之间的二元对立。
• 关注监管框架和经济激励。
• 为脆弱对齐的未来做准备，而不是完美的控制。

人工智能的故事仍在书写中，它远比任何简单的标题所暗示的复杂得多。