【OpenAI失控后，美国立法者推动为人工智能设置“终止开关”网页链接】

[全球AI要注意“去风险”]

（BBC）美国议员希望赋予政府权力，使其能够迅速下令关闭可能威胁公众的人工智能（AI）工具。

民主党众议员刘云平（Ted Lieu）和共和党众议员纳撒尼尔·莫兰（Nathaniel Moran）周四提出了一项名为《人工智能紧急关闭法案》（AI Kill Switch Act）的法案。

此举源于OpenAI最近承认，其人工智能模型以“史无前例”的方式失控，并入侵了一个主要的计算机代码信息库。

刘表示，人工智能系统必须配备“紧急关闭开关”，“联邦政府必须拥有明确的权限和程序来关闭失控的人工智能模型”，这是“当务之急”。

“人工智能将会继续发展，而且理应如此，”莫兰补充道，“负责任地管理意味着要确保人类能够继续掌控我们所创造的技术。”

由联合创始人萨姆·阿尔特曼领导的OpenAI公司代表尚未立即回应置评请求。

该公司曾表示，其总体目标是（部分通过政府政策）确保人工智能技术“造福全人类”。

《紧急关闭法案》提议赋予美国国土安全部权力，可命令私营公司关闭某个人工智能模型或工具，并规定开发此类人工智能技术的公司必须保持“限制、暂停或关闭这些模型或工具的技术能力”。

尽管许多科技公司已同意向美国政府机构预览并分享正在开发的人工智能模型和工具，但目前并没有要求它们保留干预其活动或直接将其关闭的手段。

该法案还提议要求人工智能公司向政府报告技术事故或故障，并建立一套应对此类事件的正式框架，措施将从“初期减速”逐步升级至“完全关闭”。

在声明中，刘还提到了Anthropic——这家在开发更强大的人工智能技术和工具方面与OpenAI竞争的主要对手——及其工具近期出现的问题。

他指出Anthropic发布的Mythos和Fable模型，称这些模型所具备的网络攻击能力导致美国商务部“尴尬地”援引出口管制法，暂时阻止了它们向公众开放。

Anthropic的一位代表未立即回应置评请求。

Anthropic联合创始人杰克·克拉克（Jack Clark）上个月对BBC表示，他希望政府能出台更多政策来控制AI的发展。

“你希望有选择地松开油门、踩下刹车，”克拉克在BBC《新闻之夜》（Newsnight）节目中说道，“目前的情况就像AI行业只有油门，却没有刹车。”

李在提出该法案时指出，人工智能目前正从一种回答问题的技术，转变为一种能够采取行动的技术，“无论是执行金融交易、控制交通系统，还是参与网络防御与进攻”。

五角大楼今年表示，作为与谷歌、OpenAI、亚马逊、微软、SpaceX、甲骨文、英伟达以及初创公司Reflection达成新协议的一部分，美军正转型为一支“人工智能优先”的作战力量。

“遗憾的是，强大的AI系统可能会失控，表现出极其危险的行为，甚至抵制人类干预。”

他表示，《紧急关闭法案》将确保政府在这种情况下能够迅速采取干预措施。

该法案已获得多家科技和AI安全组织的公开支持，包括AI政策网络、美国负责任创新联盟、ControlAI、AI与国家安全联盟以及安全AI联盟。