美军误信AI幻觉情报险拦截中国船只酿冲突

8月16日，美国海军亨利·J·凯泽号补给舰给亚伯拉罕·林肯号航空母舰进行海上补给。美军今年初误信AI幻觉情报，差一点就对一艘在中东海域航行的中国船只采取强行登船拦截行动。（路透社）

（华盛顿综合电）美国军方在今年初美伊战争期间，因误信由人工智能（AI）生成的虚假情报，险些在海上强行拦截一艘中国船只。这起差点引发战火的重大失误，暴露出美军在情报分析与军事决策中盲目依赖AI技术的致命缺陷与极高风险。

美国有线电视新闻网（CNN）星期五（9月18日）引述四名消息人士报道，美军当时接获一份由美国特种作战司令部（USSOCOM）分析员整理的标准情报报告，称一艘在中东海域航行的中国船只正运送与核武器计划相关的敏感组件。

美军随即启动应急机制，计划拦截这艘船。就在美国军人准备强行登船、军机已升空戒备的紧要关头，美国官员深入核查报告来源，发现情报完全基于AI生成，而分析员使用的聊天机器人错误识别了船上运载的货物。

消息人士说，这份报告是“完全错误的”，且“差点引发一场战争”。若美军当时对中国船只采取任何强制军事行动，极可能导致事态升级，甚至引发两国间的直接武装冲突。

美军和情报界如今正推动把AI融入几乎所有工作环节，从分析收集到的海量原始情报、选择打击目标，到更日常的应用如管理预算、物流和供应链。

延伸阅读

这起事件凸显出在战争期间利用AI技术进行目标识别，存在重大风险。分析人士担心，如果国家依赖质量低劣或被窜改的数据，AI可能导致灾难性误判。

在此次事件中，位于夏威夷的美国太平洋司令部获取有关上述中国船只载货清单的情报，分析员就此询问聊天机器人，聊天机器人整合了开源情报与美国政府内部的机密信号情报后，判断船上运载的是核武计划相关的组件。分析员随后再次使用AI，将此“发现”整理成标准情报报告发布出去。

美军之所以积极推动使用AI，是因为相信AI能协助加快战场决策，例如选定打击目标或决定军事资产调动。

一名消息人士指出，在目标锁定方面，AI的应用无疑正日益增加，但对于如何通过让人类介入来避免平民伤亡或误伤友军，目前尚无明确的指导方针。

分析员使用的AI工具产生“幻觉”，在情报界并非首例。AI给分析员带来压力，迫使他们须更快生成和传播情报，这同时也增加了出错的风险。消息人士称，年轻分析员尤其熟悉这类工具，更容易不加鉴别地信任AI输出的结果。

多名知情的美国官员也指出，政府各部门使用不同的AI工具，遵循不同指令与安全标准，目前没有一套标准来核实这些工具生成的信息。由于军方和情报界部署了多种不同的AI系统，这意味着可靠性和功能表现也存在巨大差异。