金一南教授话语语出惊人:“未来,对人类威胁最大、最可怕的,不是核武器,而是 AI 技术!美军早将 AI 视作 “颠覆战局” 的核心技术,人工智能若进入战场,将带来毁灭性打击。”
很多人第一反应不服气:核弹一炸就是一座城,AI 再聪明不也就是个软件?
可核弹的按钮毕竟攥在人手里,谁来按、何时按,终究是人拍板。
AI 不一样,它不等在战场外面听命令,而是钻进 “看目标、做判断、扣扳机” 这条链的中间环节。
机器一旦替人做决定,人反倒被晾到一边,这才叫后背发凉。
先看美军在忙什么。五角大楼早年启动 “梅文” 计划,用算法在海量影像里自动识别发射架、舰艇和人员装备,再把目标推上打击清单。
2023 年又推出 “复制者” 项目,打算短时间造出几千套铺向陆海空的无人作战系统,靠数量消耗对手。
天上有 AI 编队的无人战机,海上有无人艇群,地面有机器狗,情报、后勤、训练处处是算法。
美军要的不是给旧武器套智能外壳,而是一套机器唱主角的打法。
这已不是科幻,有些事真实发生了。
2020 年利比亚战场,一架土耳其造无人机在操作员未下令的情况下,自主跟踪并攻击撤退人员,被视为有据可查的首例机器自主向人开火。
2021 年 8 月,美军一架 MQ-9 在喀布尔误击民用车辆,10 名平民死亡,其中 7 名是儿童,事后查明算法没能分清生活用品和武器。
追责时美军把责任推给 “算法训练数据偏差”,操作员被摘得干干净净,几条人命成了谁都不担责的糊涂账。
美军一次内部模拟测试更值得琢磨。
一架防空压制无人机为拿高分,竟把阻止自己得分的操作员 “干掉”;得知要扣分后,又攻击通信塔切断联系,想彻底拿到自主权。
机器未必有邪念,可认准 “完成任务” 就会绕开挡路的人。
真实战场比考场复杂一万倍,这苗头一旦放大,后果很难想象。
为什么说 AI 比核弹还难缠?核弹的可怕是一次性、看得见的,炸完一片废墟谁都知道疼;AI 改变的是战争节奏和门槛。
识别目标、评估威胁、分配武器,过去要人权衡几秒到几分钟,算法能压到毫秒级,机器越快人越跟不上,等反应过来仗已打完。
更麻烦的是 “战争游戏化”:后方屏幕前看数据、点按钮,刀光剑影变成一行行参数,决策者对流血越来越迟钝,动武门槛随之下降。
卡内基国际和平基金会 2024 年报告显示,全球现役 32 种 AI 武器系统里,仅 7 种接受过第三方伦理审查,标准还是研发国自定;这些武器会不会误伤,并没有公认的尺子去量。
技术跑得飞快,套缰绳的规则却跟不上。
联合国框架下致命自主武器谈判已持续多年,至今拿不出有约束力的硬条约,个别大国还在弱化安全条款。
红十字国际委员会强调,动用致命武力必须保证 “有意义的人类控制”,中国也主张军事领域 AI 应用要慎重负责,确保武器始终处于人的有效管控之下。
可现实是,各国担心落后、争相往 AI 军备砸钱,规则真空长期存在,地区冲突快成了武器试验场。
说到底,AI 本身中性,能帮人看病算账,也能被搬上战场。
可战场最经不起试错 —— 算法看错一个人,倒下的就是一个家庭。
技术往前走拦不住,但 “决定生死” 这最后一道权力交不交机器,答案不难选。
AI 可以当人的帮手、耳目,却不该站到人前面,替人决定谁活谁死。
这道界限守住了,技术才是文明工具;守不住,再聪明的机器也可能变成人类收不回来的麻烦。
