一份由人工智能协助生成的错误情报今年春天曾一度让美国军队“接近”对一艘中国船只采取实际军事行动。

CNN于9月18日援引了4名了解事件的消息人士报道，当时美军正与伊朗交战，美军收到情报称，一艘正在中东航行的中国船只运载着“与核武器项目有关的部件”。此报告立即触发美军的强烈反应。

其中两名消息人士称，美军的武装人员已经准备登上中国船只检查，美国军机也已经升空，准备武装拦截这艘中国船只。

直到行动即将实施前，美军有关官员才重新深入核查这份情报报告的准确性，竟发现报告由一名特种作战部门分析员借助人工智能制作，获得的核心判断是错误的。

经调查发现，这名分析员此前把涉及船舶货单的情报交给一个AI聊天机器人进行分析，相关原始情报来自设在夏威夷的美国太平洋特种作战司令部。AI程序把公开来源信息与美国政府掌握的机密信号情报结合起来，随后就错误判断出船上货物属于核武器项目的组成部分。

这名分析员随后又使用AI把这一错误判断整理成军方惯用的标准情报报告格式，再向军方内部发送。而这种报告通常被军事决策者视为经过正式情报流程处理的文件，因此，此次由AI产生的错误结论才获得了更高的可信度。

CNN报道称，无法确定该分析员使用的是商业聊天机器人还是美国政府内部部署的AI系统。但一名了解事件的消息人士称，这份报告“完全是错的”，并形容这一事件甚至“几乎引发了一场战争”，因为它针对的是一艘中国船只。

如果美国军方当时真的强行拦截并登上一艘中国船只，事件后续将向中美军事对抗风险发展，尤其是在伊朗战争的敏感时期。

其时，美国军方正在快速扩大人工智能的使用范围，但事实证明，很多AI程序并不靠谱。

美国国防部长赫格塞思早在今年1月公布了“人工智能加速战略”，要求把前沿AI能力更广泛地用于作战、情报和军队管理，并提出建设“AI优先”的作战力量。然而，已经有多名美国官员表示，目前美国军方和情报机构内部不同部门使用的AI工具、规则和安全标准并不统一，更没有一套全政府通用的AI生成情报核查标准，也有人对赫格塞斯的领导能力提出严重置疑。