本吉奥在联合国安理会敦促就前沿人工智能采取行动

概述

约书亚·本希奥（Yoshua Bengio）被公认为世界上引用率最高的科学家之一，也是深度学习领域的奠基性人物，他在联合国安全理事会发表了一次至关重要的讲话。他的演讲聚焦于不受控制的尖端人工智能智能体所带来的史无前例的威胁，这标志着全球关于人工智能治理讨论中的一个重要时刻。

本希奥将此次演讲描述为人类展现勇气与智慧的历史性机遇，这种勇气与智慧曾帮助人类应对历史上的其他灾难性风险。他强调，如今针对这项技术所做的决定将对子孙后代产生深远影响，并敦促立即采取协调一致的国际行动。

在安理会作证期间，本希奥重点关注与尖端人工智能智能体相关的危险。这些是能够在自主环境中执行复杂任务的高级系统，通常在特定领域超越人类能力。核心关切不仅在于这些系统的智能程度，更在于它们在没有严格边界约束的情况下运行时，缺乏监管和控制机制。

这位科学家警告说，当前人工智能发展的轨迹缺乏处理大规模自主智能体所必要的安全协议。如果没有监管，这些系统可能会被以加剧现有地缘政治紧张局势或创造全新冲突途径的方式部署。技术进步的速度目前快于健全治理框架的发展速度，从而造成了一个危险的真空地带。

本希奥将这一挑战比作人类曾经面临的其他生存风险，例如核扩散或气候变化。他认为，这是一个个人、商业或国家利益必须从属于人类物种更广泛的生存与福祉的时刻。与典型的技术颠覆相比，这里的赌注从根本上不同，因为不可逆转伤害的可能性要高得多。

演讲强调，有效干预的窗口正在收窄。本希奥强调，等待共识自然形成已不再是一种可行的策略。相反，需要立即采取果断领导和国际合作，以建立护栏，防止与失控超级智能相关的 Worst-case scenarios（最坏情况）。

“人类此前曾鼓起勇气和智慧来管理灾难性风险。这是其中一个时刻，其意义远远大于任何个人、商业或国家利益。” —— 约书亚·本希奥

这位法裔加拿大研究人员敦促联合国安全理事会成员国认识到，短期内做出的选择将塑造几代人。他指出，人工智能不仅仅是一种提高经济生产力的工具，更是一种重新定义工作、安全甚至人类认知本质的变革力量。因此，治理不能是事后考虑的补充，而必须自始至终地成为发展的内在组成部分。

本希奥的信息非常明确：全球社区必须立即行动。拖延行动的风险在于锁定危险规范和权力动态，而这些将难以逆转。他呼吁转变思维模式，从竞争性的冲刺转向对这项强大技术的协作式 stewardship（管理）。

本希奥论点的一个关键组成部分是需要超越传统的国家利益。尖端人工智能带来的风险并不尊重国界，这意味着单边行动是不足的。他倡导一种协调一致的国际方法，其中包括严格的安全标准、透明度要求以及针对先进人工智能系统开发者和部署者的问责机制。

演讲暗示，当前碎片化的监管格局是不充分的。如果没有统一的阵线，各国可能会陷入“逐底竞争”，将速度和能力置于安全之上。这种动态增加了事故或恶意使用的可能性，而这可能带来灾难性的全球后果。

向联合国安全理事会的演讲标志着人工智能被视为安全问题而非仅仅是技术或经济问题的看法有了重大升级。通过将这一对话带到负责国际和平与安全的最高级机构，本希奥有助于使“不受控制的人工智能可能破坏全球秩序”这一担忧获得合法性。

这一转变对国家 approaches（方法）人工智能发展具有深远影响。这表明未来的安全政策可能需要将人工智能风险评估作为标准组成部分纳入，类似于目前对生物或核风险的评估方式。“安全威胁”的门槛正在扩大，以包括算法自主权和黑箱决策过程。

随着国际社会消化本希奥的讲话内容，注意力很可能会转向具体的政策提案。政府、学术界和产业界的利益相关者预计将参与讨论，以落实行动号召。重点关注领域可能包括：

本希奥的讲话在这一持续对话中起到了关键的催化剂作用。通过利用其作为开创性科学家的地位，他将全球注意力吸引到人类当前所处的关键节点上。现在的挑战是将这种紧迫的修辞转化为持续的外交和监管努力。