CNN:AI误判中国船只涉伊朗核计划 美军一度准备拦截海外新鲜事
美国有线电视新闻网(CNN)18日独家报道称,今年春季美国与伊朗发生军事冲突期间,美军曾因一份由人工智能(AI)辅助生成的错误情报报告,误认一艘在中东地区航行的中方船只装载与伊朗核计划有关的物资,并一度准备采取拦截行动。所幸在行动实施前,美方发现情报存在错误,避免了一场可能引发严重后果的军事冲突。
CNN援引4名知情人士称,这份情报进入美军内部系统后迅速引发警戒,美军随即开始制定拦截计划。知情人士透露,部分武装人员一度准备登船检查,军机也曾升空待命。
然而,就在行动即将展开之际,美方官员重新核查报告内容,发现这份情报是由美国特种作战司令部一名分析员借助AI工具生成的。分析员所使用的聊天机器人错误解读了船上货物信息,将其误认为与伊朗核计划有关的物资。
一名知情人士称,这份情报“完全错误”,并表示这一误判“差点引发一场战争”。
CNN表示,目前无法确认这艘中方船只实际运输的货物是什么。不过,如果美军当时对中方船只采取拦截或登船检查行动,事态可能迅速升级,并引发中美之间的军事对峙。
据CNN报道,涉事分析员当时根据美国太平洋特种作战司令部提供的船舶货物信息,向聊天机器人询问分析结果。该AI系统综合公开来源信息和政府掌握的机密信号情报后,得出了错误结论。目前尚不清楚涉事AI系统是商业产品,还是美国政府自行开发的工具。
一名前美国高级官员表示,美国军事和情报系统目前使用的部分内部AI工具,与商业聊天机器人在工作方式上并没有太大区别。涉事分析员随后还利用AI将分析结果整理成标准情报报告格式并提交,由于报告形式符合军方惯用的情报文件格式,因此获得了一定程度的信任。
近年来,美国军方和情报机构持续推动AI技术应用,希望借此提高情报分析和战场决策效率,应用范围包括目标识别、兵力调度、后勤管理以及供应链规划等。今年1月,美国战争部长皮特·赫格塞斯(Pete Hegseth)公布“人工智能加速战略”,要求加快相关技术在军方的应用,以维持美国面对潜在对手的竞争优势。
不过,多名美国官员表示,目前美国政府不同部门使用的AI系统、操作规范和安全标准并不统一,也缺乏统一的验证机制,不同工具的可靠性存在较大差异。
CNN指出,这起事件凸显了AI应用于军事情报领域所存在的潜在风险。知情人士称,美军正在快速将AI引入目标判定等关键环节,但相关使用规范仍不完善。
还有知情人士表示,AI“幻觉”问题在情报分析领域并非个案。一些年轻分析人员可能更容易直接相信AI生成的结果,从而进一步增加误判风险。
一名知情人士总结称:“AI能让人更快得到答案,但也可能让人更快得出错误结论。”
图为伊朗纳坦兹核设施的卫星影像。(路透档案照)
