白宫与Anthropic商讨AI模型安全漏洞评估新标准
据政治新闻网站Politico周四援引美国政府官员报道，白宫与人工智能公司Anthropic PBC正就评估先进AI模型安全漏洞的新标准进行讨论。
官员们正寻求一种通用方法来评估被称为“越狱”的漏洞——这类漏洞可让用户绕过AI模型的安全防护措施。报道称，该框架可能有助于确定未来安全事件的严重程度，以及何时需要政府介入干预。
此次谈判正值Anthropic寻求解除对其模型Fable 5和Mythos 5的限制之际。此前，该公司最新AI系统中的一个安全漏洞引发争议，导致华盛顿方面对其施加出口管制并限制外国用户访问。