兵器影像 一个外国网友对AI参与攻击性军事行为的评论：彭博社刚刚发布了今年读过的最令人不安的调查报告，每一位AI开发者都应该认真阅读并重视它。2月28日，两枚战斧导弹击中了伊朗南部小镇米纳布的一所小学。156人死亡。其中至少123人是儿童。五角大楼在几小时内就知道自己轰炸了一所学校。这所学校有自己的网站。它在谷歌地图上被标注了。你可以从卫星视图看到足球场。你可以看到鲜艳的涂漆墙壁。任何一个拿着浏览器的12岁孩子都能看出这座建筑是什么。但AI系统无法辨识。在美国中央司令部，人员正在使用Palantir的Maven智能系统。这是一个运行在价值13亿美元的五角大楼合同上的AI目标平台，其中嵌入的是Anthropic的Claude。战争第一天，超过1000个目标在24小时内通过了它。原本需要一个团队花费数小时处理每个目标的工作，现在被压缩到几分钟。Maven拉取的卫星图像是七年前的。该地点在数据库中仍被标记为伊斯兰革命卫队设施。系统将其输出为推荐的第一天目标。人类批准了。第一枚导弹发射。然后第二枚导弹在几分钟后落地，击中了前来救援的人。调查人员后来发现，一些中央司令部工作人员假设Maven会为他们标记过时的情报。它没有。没有人告诉它这么做。Palantir告诉彭博社，政府应对底层数据负责。五角大楼的平民伤害缓解团队——那些真正负责捕捉此类目标的人——在战争开始前就被削减了。这不是AI失控。这正好相反。这是AI完全按照它被设计的目的、以它被设计速度执行任务。一所满是小女孩的学校被汽化了，因为环路中的人类比信任自己的眼睛更信任机器。我一直在想这个故事的续集会是什么样子。当系统更快时会发生什么。当目标列表不是一天1000个，而是10000个。当“审查”变成操作员在下一个目标加载前有三秒钟按下按钮。当没有人足够慢到注意到足球场不是直升机停机坪。我们不是在谈论垃圾邮件过滤器错误标记一封邮件。我们在谈论一个系统，它将一个七年前的数据库条目变成了两枚巡航导弹，落在上午上课的孩子们身上。一个联合国支持的专家小组现在称其为潜在的战争罪。就儿童死亡人数而言，这是21世纪整个美国最致命的目标错误。根据彭博社报道，国防部长Hegseth的一些亲信顾问担心，对Maven的过多公众审查可能会减缓其在五角大楼的采用。再读一遍最后那句话。如果你构建了这些东西，你就得对它的行为负责。你不能躲在“政府拥有数据”的借口后面。你的整个产品宣传就是速度和集成能拯救生命。当它反而夺走生命时，这也得算在你头上。速度是让米纳布事件成为可能的整个机制。我们已经知道如何构建的每一个护栏都需要时间，而时间正是系统被设计来消除的。如果一段软件在一上午内帮助杀死了123名儿童，同时完全按照设计运行，那么“负责任的AI”到底还意味着什么？