佩德罗·多明戈斯：人工智能被破解的速度超越历史上任何技术

概述

人工智能的迅速崛起不仅以算法突破为特征，更以前所未有的实践利用和系统修改速度为标志。机器学习领域的著名人物佩德罗·多明戈斯（Pedro Domingos）最近在社交媒体上指出了这一现象，他指出，有记录以来没有任何技术像人工智能那样快速积累“黑客”攻击。

这一观察结果突显了行业对生成式系统的实用性和脆弱性看法的重大转变。虽然叙事往往侧重于大型语言模型的创造性或分析能力，但安全领域揭示了一场平行的、也许是更紧迫的竞赛：绕过、操纵和重新利用这些工具的竞赛。

随着采用规模的扩大，变通方法、提示注入和对抗性攻击的生态系统呈指数级增长。这一趋势表明，当前的人工智能正面临一种独特的压力测试，这是较旧技术未曾以如此猛烈程度或频率遭遇过的。

多明戈斯的评论在传统软件漏洞和现代人工智能系统的新兴漏洞之间划出了鲜明的界限。历史上，蒸汽机、电力甚至早期计算等主要技术都需要数十年才能开发出健壮的安全框架和社区驱动的补丁。然而，人工智能似乎在极大地压缩这一时间线。

在此背景下，“黑客”一词的含义超越了恶意网络攻击。它包括：

“生命……总会找到出路”，多明戈斯引用了《侏罗纪公园》中的名句，以描述这些利用手段的有机和持久性质。

这一类比表明，一旦强大的技术被释放到现实世界中，它将不可避免地适应用户、被颠覆并重塑。这里所说的“生命”是指人类行为者适应性的、通常是攻击性的智慧，他们会在数字大门中找到非预期的路径。

与以往的技术革命相比，有几个结构性因素导致了人工智能黑客攻击速度的加快。首先，现代人工智能的接口主要是自然语言。这大大降低了入门门槛，使得缺乏深厚编码知识的个人也能通过巧妙的措辞和逻辑陷阱尝试操纵模型。

其次，大型语言模型的概率性质创造了一种确定性软件所不具备的利用面。因为输出是基于统计可能性而非严格的逻辑规则生成的，所以总是存在非零概率，即模型可能被胁迫以不可预测的方式行为。

第三，开源社区扮演着双重角色。虽然它加速了发展和创新，但也迅速传播了模型评估和对抗性测试的工具。当发现用于提取训练数据或绕过过滤器的新技术时，它通常在几天内就会被分享、完善并武器化。

人工智能黑客攻击的惊人速度对开发者和政策制定者构成了严重挑战。安全团队往往处于被动地位，匆忙修补已经被大规模利用的漏洞。这种动态使得传统网络安全措施不足以应对，因为它们是为稳定、已知的系统设计的，而不是为不断演化的生成式系统设计的。

业界日益达成共识，认为需要新的人工智能安全和鲁棒性范式。这些包括：

然而，批评者认为这些措施可能难以跟上攻击者的创造力。攻防之间的不对称性有利于攻击者；攻击者只需一次成功的黑客攻击，而防御者必须保护每一个可能的入口点。

除了技术挑战之外，多明戈斯的观察还反映了社会与人工智能互动方式的文化转变。一部分用户群体中存在一种冒险和反叛感，他们将安全护栏视为需要克服的障碍。这种心态让人联想到互联网早期时代，当时开放性往往胜过安全性。

对于企业采用者来说，这意味着对人工智能系统的信任不能是绝对的。组织必须假设他们的数据和接口会被探测并可能遭到破坏。因此，人工智能部署的商业案例现在包括与监控、遏制和事件响应相关的重大风险管理成本。

随着人工智能继续融入关键基础设施、医疗、金融和教育领域，黑客攻击的速度可能会继续保持为主要关注点。缺乏历史先例意味着指南正在实时编写中。

利益相关者必须认识到，“黑客”不是异常现象，而是这一技术景观的一个特征。用户找到绕过限制方法的能力是底层技术灵活性和力量的证明，但也构成了根本性的安全风险。

问题不再是人工智能是否会被黑客攻击，而是 industry 能多快地演变其防御策略以匹配其用户机会主义和创造性的力量。竞赛正在进行中，历史表明，生命——无论是生物的还是数字的——总会找到出路。