【英伟达、SpaceX和微软联合发起人工智能安全倡议,OpenAI网络攻击事件的后续影响仍在持续】
(CNBC)周一,众多科技巨头联合发起了一项新的人工智能安全计划,重点关注开放模型,此前,由流氓 OpenAI 模型发起的网络攻击的影响仍在持续。
随着美国立法者越来越重视如何遏制中国人工智能模型(其中最先进的是开源模型)的日益普及,科技巨头们发起了一项旨在构建和共享开源人工智能工具的倡议。
英伟达在一份声明中表示:“开放安全人工智能联盟将致力于利用开放技术修复和披露漏洞。最近发生的 Hugging Face 安全事件清楚地提醒我们:网络防御者需要开放的、前沿的智能体系统来进行自我防御。”
除了英伟达之外,该联盟的其他成员还包括微软、SpaceX、帕兰提尔,以及来自美国和欧洲的数十家其他科技公司。
“美国政府很有可能对中国模型施加限制,”智库外交关系委员会中国与新兴技术高级研究员克里斯·麦奎尔告诉CNBC。
他表示,这可能包括禁止涉及这些模型的交易,例如通过 API 购买代币,或者美国公司将模型托管在云端并向客户收取推理费用。
麦奎尔表示:“在华盛顿,这并非开源与闭源之争,而是关于是否容忍中国窃取知识产权的争论。任何行动都将针对中国公司,而非开源生态系统。”
但由于大多数功能最强大的开源模型都是由中国公司开发的,因此人们担心会受到限制。
上周,英伟达、微软 Meta、Palantir 和其他 20 多家公司发布了一封信,敦促政策制定者避免对开源人工智能模型实施“过早限制”,以免“扼杀竞争或将创新推向海外”。
英伟达表示,OpenAI 的“拥抱脸”事件揭示了一个“现实真相”。“当防御者无法检查、调整并在自己的基础设施上运行高级人工智能时,他们的响应能力就会受到限制,而这恰恰是速度最关键的时刻。”
