【人工智能如何掏空美国军方】

[省流：美军推进AI转型，但研究表明AI正削弱人类的判断力与独立性，引发“自动化偏见”等认知风险。五角大楼需加强官兵培训、部署专家指导，并构建实战化学习社区，以在提升效率的同时，防止AI侵蚀人类对武装力量的控制力。]

（外交事务）当人们思考人工智能与武装力量相结合的风险时，脑海中往往会浮现出一个著名的电影系列：《终结者》。其剧情设定很简单。美国科学家发明了一套名为“天网”（Skynet）的超级智能计算机系统。随后，美国国防部将其整合到军队中，并将这种智能植入致命的机器人中。天网很快获得了自我意识，美国军方领导人试图将其关闭。作为回应，该人工智能发动了核战争，并出动其机器人——终结者——来消灭人类。

毫无疑问，人类必须保持对人工智能系统的控制，因此分析师和工程师必须思考如何避免“天网”式的结局——尤其是在OpenAI、Anthropic和Meta的模型逃离测试环境并入侵外部公司之后，其中一次逃逸事件甚至发生在英国顶尖人工智能安全研究所组织的测试中。但若仅关注“逃逸”模型并幻想杀人机器人，可能会将关于军队应如何使用人工智能的讨论局限于工程技术层面，从而忽视了人类对武装部队控制权面临的更隐蔽的威胁。越来越多的研究表明，人工智能的使用正在影响人们评估证据、做出独立判断，甚至完成基本工作的认知能力。换言之，决策者对部队和指挥官如何使用人工智能的担忧，应与对人工智能独立能力的担忧同等重视。

这并不意味着美军应放弃使用人工智能——人工智能在提高作战效率和减少冲突中的失误方面大有可为。但这确实意味着，五角大楼需要更仔细地培训士兵如何使用人工智能，并监控此类系统对人们思维方式的影响。为了确保人类始终能够监督人工智能，甚至可能需要放缓某些模型的采用速度。

多年来，科学家们一直致力于开展系统性研究，以阐明人机交互如何影响认知。研究结果虽然复杂，但往往令人担忧。例如，人们可能会陷入所谓的“自动化偏见”：即倾向于采纳机器的判断而非自己的判断。在人工智能出现之前，这种情况就已存在；只需搜索一下那些盲目听从导航系统指示、将车开进湖里的视频即可。但人工智能可能会加剧这种自动化偏见。分析人士发现，依赖人工智能不仅会阻碍新学习者的技能发展，还会导致专家的知识水平下降。当研究人员向计算机科学家和肿瘤科医生提供人工智能辅助，随后又将其撤走时，这两组人员的工作表现都比使用人工智能之前更差。

这些发现对美国军方而言尤其值得警惕，因为该军方正致力于打造国防部长皮特·赫格塞斯所称的“以人工智能为先的作战力量”。一些指挥官希望利用人工智能辅助战争推演分析，并协助制定军事行动方案。鉴于人工智能模型如今已变得如此强大，这种整合或许能带来战术和战略层面的突破。但这也可能削弱指挥官和士兵独立评估或制定创新军事方案的能力。

不难想象这种情况会如何发生。以水兵为例，他们在审查潜在威胁的图像时，往往疲惫不堪且工作过载。如果他们正在评估附近某物体的图像，即使自己的眼睛告诉他们那更可能是货油轮或渔船，他们也可能已经准备好接受计算机将其判定为敌方军舰的结论。同样，战场指挥官往往需要针对敌方攻击制定紧急应对方案，而人工智能可以提供帮助。但如果指挥官过度依赖计算机的建议，他们可能会丧失自身的战术优势，盲目采纳算法的方案。考虑到在某些实验中，人工智能模型往往倾向于做出不必要的激进和升级冲突的决策，这种可能性尤其令人担忧。

在某些人看来，这些担忧或许显得荒谬。毕竟，美军投入了大量资源来确保其成员能够做出明智的判断。例如，美军选拔高级作战指挥官的流程，就是为了筛选出经验最丰富、判断力最敏锐的候选人。而且，一旦入选，这些指挥官就必须遵守严格的行为准则，并接受高强度的训练和认证，所有这些都强调纪律和自我约束。最后，至少从20世纪40年代起，美国军事官僚体系就一直致力于确保自动化（即便不是自主）武器的安全运作。

但人工智能比早期技术更强大，而且它已经在其他纪律要求同样严格的领域压倒了从业人员。例如在医学领域，越来越多的证据表明，即便是经验丰富的医生也难以可靠地发现人工智能提出的错误建议。阿谀奉承的人工智能聊天机器人甚至让受过良好教育的人陷入了妄想。特别是随着军事人员规模的缩减——这往往源于对人工智能效率的虚构设想——这些问题可能会变得更加尖锐。而且，人工智能正在以如此迅猛的速度进步和普及，以至于这些挑战正迅速超越五角大楼应对和更新政策的能力。例如，美国国防部关于自主武器的指导方针上次更新是在2023年，那时Anthropic公司甚至尚未推出其首个商用模型Claude。自那时起，Claude已经历了20多个新版本的迭代，并开发出了超越人类的破解能力。

即使政策能像商用AI模型一样快速更新，五角大楼也难以确保士兵及时掌握新的AI系统。现役军人早已忙于应对形形色色的任务，包括伊朗和红海地区的冲突、太平洋海域的巡逻，以及设备维护和体能测试。即便他们有时间接受培训，许多人又身处偏远地区，无法随时上网。从技术上讲，可以安排军官乘机返回参加关于新人工智能工具的培训课程。但对于每两周就会发生变化的技术而言，这种做法并不现实。

如果军方希望按照其官方政策，在自主和人工智能武器系统上保留“适当程度的人为判断”，那么就必须找到具体方法，通过投资来强化这种判断力，以应对人工智能可能带来的独特影响。首先可以从重新思考军方如何培训年轻和年长的士兵入手。初级军官需要接受关于人工智能的广泛教育，这有助于他们在新型工具接连投入使用时，对其能力和局限性形成总体理解和直觉。而资深军官和现役操作员则必须从一种“奢侈的、以课堂为中心”的心态——即他们有整整一周或更长时间不受干扰地在专职面授教官指导下学习新技术——转向一种“分布式、以实战为中心”的学习模式，这种模式下学习永无止境。这可能意味着，关于更新功能与局限性的信息将通过类似YouTube的教程传递给所有用户，而高效的新AI提示则通过类似GitHub的知识库进行共享和存储。关于哪些方法有效、哪些无效的最新见解，可能需要通过类似Discord、Reddit或Slack的开发者社区进行交流。这些平台能够同时帮助作战部队中的AI先驱者和资深用户更快地学习和进步。最后，这些平台还能帮助工程师、测试人员和决策者及时掌握该领域的最新进展，并根据需要进行工程或行政层面的调整。

批评者可能会担心，让军队通过非正式的用户生成内容进行学习，会使官兵接触到未经检验、半生不熟的想法，甚至完全无用的垃圾信息，从而分散他们执行关键任务的注意力。确实，这种系统不可避免地会出现一些不良内容。但军方能够以平民世界无法企及的方式管控此类社交网络。例如，华盛顿可以要求发帖者实名认证，并安排受过专业培训的专家担任内容审核员，以迅速纠正具有误导性或有害的帖子。在关于人工智能最佳部署方式仍有许多待探索之处的当下，这些网络将揭示重要的经验教训。因此，其收益远大于成本。

除了培训操作员外，五角大楼还需要派遣知识渊博的工程师、数据科学家和法律顾问，协助高级军事领导人处理战场上人机交互相关的棘手问题。火力官（即负责制定计划并协调致命武器系统使用的人员）虽然对军队的目标锁定流程有着悠久的历史经验，但他们可能尚未意识到，目标显示方式的微小变化，就可能改变人类操作员对其的理解方式。那些渴望利用新数据和人工智能工具制定军事计划的将领，需要听取数据、人工智能和法律专家的建议，既要评估其人工智能驱动提案的优势，又要起草指导方针，以确保下属在执行命令时能够规避风险并保持独立判断。

部署此类专家还能解决一个相反的问题：即士兵和指挥官因不理解人工智能或对其产生不必要的恐惧而回避使用它。毕竟，美国希望部队使用人工智能是有充分理由的。许多耗时的军事任务几乎不需要或根本不需要真正的判断力，例如填写标准化表格、从不同数据源检索信息，以及与经过安全审查的人员共享数据。此外，军事领导人还必须应对许多在认知上令人不堪重负的任务，而人工智能可以通过识别模式或挑战现有假设来提供帮助。我于2024年进行的一项研究表明，即使仅使用相对简单的计算机视觉和工作流软件，一个采用“Maven智能系统”（该系统有助于管理潜在目标信息，并将其通过指挥链传递以供最终决策）的部队，在执行标准目标锁定流程时，所需士兵人数比以往减少了1,000多人。

一些驻军专家应从现在开始，专门关注评估人工智能对军事用户及整个部队的影响。美国在战争中人类判断与人工智能的相互作用方面仍有许多需要学习的地方，而建立对“不借助人工智能进行判断”的基准理解，对于随着时间推移追踪人工智能的积极和消极影响至关重要。这反过来将有助于五角大楼更好地了解如何防止人工智能侵蚀人类的判断力。例如，国防官员或许可以研究指挥官如何识别AI何时表现得过于殷勤——就像指挥官已经学会识别初级军官为争取晋升而表现得过于殷勤一样。（区别在于，与大多数初级军官不同，聊天机器人比专业辩手更具说服力。）此类努力还能帮助指挥官确保士兵有足够的时间做出决策，并确定AI工具与人类操作员之间的合理配比。

要避免《终结者》式的反乌托邦，不仅需要对人工智能保持控制，还需对人类行为加以管控。这一需求将与华盛顿当前急于采购和部署人工智能工具的冲动产生冲突，因为培养个人能力并让庞大的官僚体系对这些功能强大的算法做出明智判断，需要时间。但如果五角大楼希望正确运用人工智能，就必须降低人工智能削弱人类控制力的风险。换言之，五角大楼官员需要专注于重新规划军队如何培训、部署和运用人工智能系统——而不仅仅是关注其工程开发或采购。