AI幻觉险些引发美军对华军事行动

概述

据报道，今年春季，美军飞机已升空执行针对一艘中国船只的武装行动任务。然而，在最后一刻，美国官员发现驱动此次行动的情报竟源自一个 AI 聊天机器人的幻觉。这一发现导致行动被紧急叫停，美国险些因此卷入与中国的军事冲突。

CNN 周五报道了这一事件，揭示了随着决策者越来越依赖人工智能，系统产生的错误可能在整个指挥链中迅速传播，甚至在受到质疑之前就已送达决策层。

虚假情报的诞生

该情报报告产生于与伊朗的战争期间，声称目标船只载有用于核武器计划的零部件。事实上，这份虚假情报源于一次人为失误与 AI 不可靠性的叠加。

一名特种作战司令部分析师利用 AI 聊天机器人，试图将开源数据与机密信号情报进行综合。然而，该聊天机器人误判了船只的货物清单，生成了不存在的核关联信息。

• 分析师随后再次使用同一工具，将这些错误发现格式化为一份看似官方的总结报告。
• 该报告随后被分发至各个指挥渠道，成为发动袭击的依据。

这一“擦枪走火”的事件凸显了在战争环境下，人机协作中监督缺失的致命风险。

速度与安全之间的博弈

此次险些发生的冲突发生在美国军方竞相整合 AI 以提升对华强度的背景下。五角大楼将 AI 视为加速杀伤链、确保指挥官能在关键时刻迅速响应的重要手段。

“了解大语言模型固有的不确定性至关重要，”GovAI 研究学者、美国陆军退伍军人 Jake Steckler 表示，“但这对于可能导致武力使用的决策——如目标瞄准、情报分析或作战规划——尤为关键。这些决策关乎生死。”

Steckler 指出，虽然此次事件应被视为增加 AI 安全措施的警钟，而非放弃使用该技术的理由，但若一味 prioritizing 采用速度而忽视所有其他因素，将导致类似事件频发，最终损害服务人员对这些系统的信任。

这种信任的丧失，反而可能从根本上拖慢 AI 在军事领域的长期部署进程。如何在保持决策速度的同时建立有效的人类监督机制，已成为美军及全球国防机构亟待解决的核心难题。