DC娱乐网

世界总览|寰宇专论|联合国裁研所警告人类或失去对战争的有效控制:别让机器替人类扣动扳机

本期焦点

联合国裁研所警告,人工智能正深入情报分析、军事决策与作战行动,人类对战争的节奏与边界逐渐失去有效控制,"机器战争"日益临近。来源:联合国新闻(11月11日)。

寰宇专论:《别让机器替人类扣动扳机》

一个残酷的问题被摆上桌面:我们是否允许机器锁定并杀害人类?联合国裁研所所长盖斯的追问,绝非危言耸听。当算法开始参与决定谁生谁死,人类文明便站到了一条从未站过的红线之上。

人工智能早已不是战争的旁观者。情报分析、目标识别、无人机作战、网络攻击,机器的触角无处不在。决策周期被压缩到机器速度,人类判断的余地越来越窄,甚至核领域的最后一道人工闸门也隐隐松动。

真正危险的,不只是技术,更是它的不透明。黑箱系统放大误判与升级的风险,一次算法的失误,可能点燃一场本可避免的冲突。而技术门槛的降低,正让非国家行为体也握有发动复杂行动的能力。

更棘手的,是治理的困境。地缘竞争与相互猜忌,是监管军事人工智能的最大障碍。各国对"自主性""安全"等概念的理解南辕北辙,共识难产,规则缺席,机器却在暗处加速奔跑,把人类远远甩在身后。

古特雷斯一再呼吁,为致命自主武器系统制定有法律约束力的条约,守住"机器不得杀戮人类"这条道德红线。这不是技术命题,而是文明命题:我们愿意把生杀大权,交给一台没有良心、没有恐惧、没有怜悯的机器吗?

值得庆幸的是,转机正在萌芽。美中两大军事强国提议建立人工智能"通报机制",让彼此在AI事件可能威胁国家安全时相互预警。即便在最冷峻的对抗中,人类仍未丢掉对话的勇气与克制。

联合国裁研所新设的"人工智能、和平与安全卓越中心",正从三处下手:为产业界立行为准则,为关键术语编一部"安全词汇表",并防范非国家武装团体滥用AI。这是把失控拉回掌控的务实努力。

产业的责任不容回避。决定一枚AI武器是否合规的,往往早在设计室里就已埋下。开发者、数据标注者、测试者,都站在"扣动扳机"的链条之上。负责任的行业行为,是底线之上最靠前的一道防线。

把镜头拉远,这实是一场关于人类主体性的保卫战。技术可以延长我们的手,却不应替代我们的心。战争的终极裁判,必须是那个会为一条生命而犹豫、会为一场误伤而颤抖、会为一次杀戮而失眠的人。

我们创造了会思考的机器,却绝不能让机器替我们思考"该不该杀人"。守护那根属于人类的手指,守护决策中那一瞬的犹豫与敬畏,便是守护文明最后的尊严。愿子弹与数据之上,永远悬着人的良心。

——寰宇文化 26.11.13