【特朗普下令快速部署军事AI，议员提限制法案，但豁免条款弱化约束】 民主党参议员提两项法案，拟限制军事AI用于核武、监视和自主武器 吉利布兰德法案要求高后果AI先获五角大楼高层批准，并通知国会 斯洛特金法案禁无充分人类监督的杀伤性自主武器，允许国防部长特批 批评者称法案例外和“适当”标准含糊，可能让监管流于形式 美国对军事AI争议升温，特朗普称应迅速部署，反对过度监管
议员试图给军事人工智能踩刹车——但力度有限从乌克兰到中东，人工智能在战场上的快速扩张，正加剧外界担忧：随着人为监督减弱，战争可能走向一个更危险的未来。在五角大楼加速引入人工智能之际，民主党参议员正试图通过立法设置一些“减速带”。他们近期提出两项法案，希望限制人工智能在军事领域的使用。军控专家和倡议人士对这些努力表示欢迎，但也有人警告说，法案中包含的例外和变通空间，可能削弱其效力，甚至使其流于形式。议员开始尝试监管上周，纽约州民主党参议员柯尔斯滕·吉利布兰德提出《安全且可追责的军事人工智能法案》。该法案将限制人工智能用于核武器发射、国内监视和自主武器系统，但不会限制半自主系统、非致命系统，或所谓用于防御目的的系统。吉利布兰德在新闻稿中说：“凡是关乎国家安全和军人生命的最关键决定，都必须始终由人来作出，而不是由无法追责的机器来决定。我们必须立即行动——不是为了扼杀技术进步，而是为了建立清晰规则，确保由人掌控，并让人工智能在战争中的使用保持审慎和安全。”军备控制协会高级访问研究员迈克尔·克莱尔称，这项法案“雄心不小，因为它为军方未来使用人工智能设定了一个广泛框架”。他说，为此，法案界定了一类“高后果”人工智能应用，包括核武器指挥与控制、致命打击目标选择以及网络行动。如果军方希望将人工智能用于这些“高后果”行动，吉利布兰德的法案要求国防部高级领导层先批准，并通知国会。尤其值得注意的是，如果国防部要使用或部署完全自主武器系统，国防部长必须请求国会通过联合批准决议，方可实施。一名核武器政策专家对这一机制表示肯定。军备控制协会高级政策分析师梁晓东对《负责任治国》表示：“考虑到所有核武器事务都具有高度后果性，由国会要求五角大楼就这些领域采用新的人工智能工具作出说明并进行论证，是合适的。”不过，圣何塞州立大学人类学教授、《虚拟战争》一书作者罗伯托·冈萨雷斯对此更为怀疑。这本书讨论了技术和自动化如何改变战争。冈萨雷斯问道：“如果像埃米尔·迈克尔这样的国防部副部长——没错，就是那位前优步高管——就有权批准‘高后果’人工智能应用，比如致命打击支持或核指挥与控制，那为什么还要通过一部监管军事人工智能的法律？”迈克尔曾是硅谷高管，与国防承包商关系密切，并一直坚定主张在军事领域使用人工智能。冈萨雷斯说：“如果说这项拟议立法将‘禁止’军方使用人工智能，那是有误导性的。”据《国会山报》上周报道，吉利布兰德打算把其法案中的部分内容，作为修正案提交到下一份《国防授权法案》中。《国防授权法案》是每年必须通过的法案，用于确定下一年度的国防重点。密歇根州民主党参议员伊丽莎·斯洛特金早在3月就提出了自己的《人工智能护栏法案》。该法案同样禁止五角大楼在“没有适当程度的人类判断和监督”的情况下，使用自主武器实施杀伤。它还禁止利用人工智能部署核武器，并禁止在没有法律依据的情况下监视“美国境内的个人或群体”。斯洛特金对媒体NOTUS表示，这项法案的文本很可能会被纳入《国防授权法案》的基础文本。她对NOTUS说：“基础文本意味着两党已经达成一致。如果这是一件有争议的事，它就不会被写进去。所以我把这看作一个真正的信号：人们知道我们需要一些左右两边都能接受的限制——合理的、不过分专断的限制。”斯洛特金的法案还允许国防部长签发豁免，允许使用本应受限的自主武器系统。为此，国防部长需要证明，美国国家安全正面临“特殊情况”。外界对斯洛特金法案的评价并不一致。冈萨雷斯对《负责任治国》说，在军事场景中提出必须具备“适当程度的人类判断和监督”，却又没有清楚界定“适当”究竟是什么意思，这本身就是问题。这是一个“很可能让拟议立法失去意义的漏洞”。克莱尔则在书面评论中对《负责任治国》表示：“这两项法案中的例外条款都非常严格。”他说，这些法案“允许在特殊情况下作出例外，但要求五角大楼高级官员就为何豁免给出可信解释”。不过，克莱尔也承认：“如果国防部铁了心要这么做，它总能找到绕开国会的办法。”冲突中平民保护中心顾问约翰·拉明·查佩尔对《负责任治国》表示，国家安全法案中经常会有豁免条款。但他写道：“当风险极高时——比如部署可能在几乎没有人为干预的情况下杀害平民的军事人工智能应用——更可取的做法是要求国会通过明确投票来批准某一系统的使用，而不是通过仅受总统认定和报告要求限制的豁免，给总统过大的自由裁量权。”执法也是另一个令人担忧的问题。冈萨雷斯说：“我们还应该追问，如果军方人员违反这些法律，将会受到什么样的制裁或处罚。如果处罚不过是申诫一下，或者象征性地轻轻拍一下手腕，那意义何在？”长期研究军工产业的昆西研究所高级研究员威廉·哈通对《负责任治国》表示，这些法案“有缺陷，也有漏洞”。不过他最后说：“至少他们把一些东西摆上了台面，可以讨论，也许还能改进。”在这一点上，我认为他们值得肯定。”美国围绕军事人工智能的争论升温这些立法努力出现之际，公众对人工智能总体上、尤其是其在军事领域使用上的怀疑正在加深。外界普遍担心，这项技术会把战时致命决策中的人类判断，交给判断力更差且常常并不准确的机器。特朗普政府似乎并不认同这些担忧。在美国和以色列对伊朗的战争中，人工智能已被广泛使用。冲突开始后的前24小时内，美国利用人工智能目标打击工具打击了1000多个目标。美国还在1月利用人工智能为绑架委内瑞拉总统尼古拉斯·马杜罗的军事行动进行规划。本周早些时候，美国总统唐纳德·特朗普签署了一项有关人工智能的行政命令，称这项技术应当“迅速部署，以应对针对美国的任何和一切威胁”。该行政命令还写道：“我们拒绝用过于沉重的监管来扼杀人工智能创新。”美国主要人工智能公司也被卷入这一争议。早在3月，国防部就切断了知名人工智能公司安思罗匹克获取政府合同的渠道，原因是该公司要求其人工智能技术不得用于完全自主的军事目标打击，也不得用于监视美国人。国防部则坚持要求，与其合作的人工智能公司必须允许其技术被用于“所有合法目的”。美国科学家联合会认为，这一表述含义模糊。五角大楼将安思罗匹克列为供应链风险并限制其使用，此举已导致双方陷入一场漫长且仍在持续的法律争端。安思罗匹克在人工智能行业的竞争对手，包括谷歌、开放人工智能公司、微软和太空探索技术公司，均已同意国防部可在涉密网络中，为所有合法目的部署其人工智能技术。
作者：斯塔夫鲁拉·帕布斯文章仅供交流学习，不代表本号观点本文出处：Lawmakers pump brakes on military AI — sort of作者声明：个人观点，仅供参考海外编译精选海外新鲜事
