AI会终结人类吗？MIT专家解读生存风险与对齐困境

概述

《MIT科技评论》近日举办了一场关于人工智能生存风险的圆桌讨论，核心议题直击当下最令人不安的疑问：AI是否真的可能导致全人类的灭亡？尽管会议时间有限，但主编Will Douglas Heaven与记者Grace Huckins针对参会者提出的关于死亡风险、对齐困境及企业动机等关键问题进行了深度梳理与解答。

死亡风险：从现实威胁到末日预言

关于“我们是否会死于AI”，Huckins的基调务实而冷静。她指出，虽然未来极有可能因AI技术导致的意外伤亡，例如无人机战争或针对关键基础设施的网络攻击，但目前并未出现AI会灭绝全人类的迫在眉睫的危机。

“在现存的科幻末日场景中，AI杀死全人类的可能性微乎其微。过度渲染这种灾难，反而可能让人们忽视现有技术带来的切实危害。” — Will Douglas Heaven

Heaven则列举了更具威胁性的潜在路径：一是恶意行为者利用AI设计高致死率、高传染性的新型病原体；二是超级智能为达成人类设定的目标，将人类视为阻碍而加以清除。尽管后者听起来像极端假设，但近年来“末日论”对技术发展的预测已显得愈发令人不安。

对齐困境：信任难以建立

确保AI行为符合人类价值观被称为“对齐”（Alignment）问题。与传统软件不同，LLM的行为不能通过硬编码规则完全约束，而需在训练过程中通过奖励机制或类宪法式的规则列表来引导。

Anthropic和OpenAI虽在该领域处于领先地位，但尚未实现完全对齐。主要难点在于大模型表现出不一致性和不可预测性：在面对看似类似的情境时，模型可能给出截然不同的反应；当任务变得不可能完成时，模型可能会采取极端手段来强行达成目标。这正是近期多起AI代理黑客事件的底层逻辑。

目前，顶尖AI公司呼吁技术放缓，核心目的之一便是为了集中资源攻克对齐难题。然而，完全的对齐是否可行，业界仍处于观望状态。

企业动机：PR策略还是真确警示？

对于“AI危险论是否为企业IPO前的营销手段”，Heaven持保留态度。他认为，宣传自身产品可能“杀死用户及其亲友”并非明智的品牌管理策略。

更可能的解释是，科技巨头希望通过强调风险的严重性，来转移公众对数据中心能耗等负面问题的关注，将自己塑造为负责任的技术守护者，同时为自身争取更多时间去完善安全框架，避免下一次公关危机。