DC娱乐网

美军AI加速令刚签发,就和科技公司撕破脸!一边要失控杀器,一边守住伦理红线 6月

美军AI加速令刚签发,就和科技公司撕破脸!一边要失控杀器,一边守住伦理红线
6月5号特朗普签了份备忘录,要求美军和情报机构加速用AI。
但紧接着爆出来的事,让我觉得这事儿没那么简单——美国政府和AI公司,已经彻底撕破脸了。
导火索是Anthropic。这家公司跟五角大楼签了2亿美元的大合同,把Claude大模型部署到美军涉密网络里。
本来是拍板合作的好事,结果军方转头要求Anthropic移除模型里的两条安全限制:不能用于全自主致命武器,不能用于大规模美国国内监控。
Anthropic说不行。国防部长直接下最后通牒,要么服,要么滚。公司CEO阿莫迪还是没松口,结果被美国政府列为“国家安全供应链风险实体”,所有联邦机构全停用。
这事儿的关键在于,战场上的AI已经不是科幻了。
美以对伊朗的军事行动中,据说Claude就在干情报融合、目标识别、辅助打击决策这些活儿。但加沙冲突里平民伤亡飙升,AI有没有“贡献”误杀,谁都说不清楚。
美军特种作战司令部司令布拉德利在年度会议上说了一句话,挺直白——“部队在如何运用AI并将其应用于杀伤方面,必须极为谨慎。”
但现在特朗普签的备忘录,方向完全不同。
命令战争部长90天内更新武器系统自主性指令,确保AI“遵从指挥链”。同时又要求不能拿AI审查言论自由、不能搞非法监控。
说白了,政府想要的是“听话的AI”: 必须用,但别伤着自己人。
而Anthropic这类公司想的是:“别让我做超出伦理底线的东西。”
OpenAI那边已经火速补位,接受了政府的合作条款。奥尔特曼甚至正跟白宫谈判——美国政府未来可能持有OpenAI部分股权。
更深层的格局在于,国会也在加码。
参议院有人推《负责任人工智能防御法案》,要求必须保留人类对自主武器的监控和手动关闭能力,禁止AI用于核决策和大规模监控。参议院军事委员会还在考虑设立“机器人与自主系统司令部”,四星上将管这事儿。
这让我想到一个问题:
一边要加速部署,一边又吵“失控怎么办”。美军所谓的“AI加速令”,究竟是自我强化,还是自挖陷阱?如果连自家AI公司都把军方当成“危险客户”,那么这套系统的不可控性,可能比谁都大。
一个杀了人机器却没有人类最终签字确认的战场,美国人真准备好面对了吗?
信息来源:美联社、美国《国会山报》、美国空军与太空军杂志网站、安全内参、中国网、北京周报、联合早报。
本文由老徐独立撰稿与分析,仅代表个人观察视角。