最先被大多数人关注的, 是AI新模型会不会更聪慧、更会唠嗑、更能解决复杂任务,但在监管机构那边,重点通常不是更好用,而是「会不会带来新的系统性风险」。
路透社4月22号报道说,澳大利亚跟新西兰央行正在紧密关注Anthropic高级模型Mythos的发布, 还有它可能引发的网络安全风险,这表明在关键机构心里,前沿大模型并不单单是普通的产品更新,而是潜在的金融安全要素。
也就是说, 同样是一回模型升级,普通人看到的是能力增强了,而监管看到的却是风险有概率向外扩散到金融系统。

这次引起大家关注的,不只是「Anthropic又弄出了一个新模型」, 而是Mythos被看作更高层次的大模型,它潜在的能力已经碰到关键机构最在意的界限,它会不会增强网络攻击能力,或者让漏洞发现与利用变得更加迅速。
在AI安全的讨论当中,一个模型越强, 风险通常不只是讲错话或者生成错误内容,还可能表现在它能不能帮助使用者更高效地进行代码分析、漏洞研究还有自动化操作。
也因为这样,监管机构对于这类模型的关注点,一般不是它能不能写出更优秀的文章, 而是它会不会让攻击者也变得更强大。
金融体系本身是个高度数字化、紧密连接、低容错的系统,银行、支付、清算和跨境资金流动相互连接着, 一旦某个环节遭到网络攻击,影响通常不会只局限在一家机构内部,而可能马上扩散开来。
这就是澳大利亚和新西兰央行关注Mythos发布的缘由,他们担忧的不是一款模型本身, 而是它会不会提升攻击效率、降低攻击门槛,从而给金融基础设施带来新的压力。
换个说法就是, 普通人看到的是一个更厉害的AI,金融监管看到的却是「一个可能改变攻防平衡的新因素」。

监管机构真正担忧的,大概不只是AI会不会出错这么简单, 而是三类更深层次的风险,
第一类,就是它会不会帮助攻击者更快找到漏洞、编写攻击代码, 甚至把原本得专业团队去做的网络攻击流程变得更自动化。
第二类, 是关键系统存在错误使用的风险,前沿模型进入金融相关场景后,要是被错误调用、被恶意利用,或者在高压环境下给出不可靠的建议,那么影响的或许不只是单个账户,而是支付、清算和金融稳定这类基础能力。
第三类,是模型能力进步太快, 可治理、审计和边界控制却没有跟上来,国际AI安全报告老是强调,先进模型能力提高和风险提高通常是一起出现的,要是关键机构没有足够强大的评估和约束机制,风险就可能在表面看起来平静的时候一直积累。
很多人会觉得,央行在关注一个AI模型,好像和自己的生活离得挺远似的。
但要是放到现实场景里去看,你每天使用的网银、移动支付、转账系统以及信用服务,从本质上来说, 都依靠这么一个前提,金融系统得稳定、安全、可信。
要是前沿模型真的增强了网络攻击能力, 或者让攻击和防御之间的平衡改变了,最后受到影响的并不只是金融机构自身,还可能会影响普通人的账户安全、支付体验,甚至大家对整个金融系统稳定性的信心都会受到影响。
所以,这条新闻真正值得关注的地方, 不是「又有一个更厉害的AI出现」,而是前沿模型能力有了变化,已经开始和每个人日常依靠着的基础系统产生关联。
从Anthropic新模型Mythos引发澳大利亚和新西兰央行关注这件事能够知道,前沿AI的竞争不只是谁的模型更聪慧, 而是「谁的能力变化会抢先触及关键系统的界限」。
当一个模型开始被觉得有可能影响网络安全、金融稳定和关键基础设施时, 监管机构的任务就不再是仅仅在一旁观看,而是要更提前地参与风险评估、使用界限以及治理规则的规划。
所以, 这次让金融监管觉得紧张的,表面上是一个新模型,实际上却是一个更为重要的问题,在AI能力越来越强大的时候代里,我们是否足够迅速地更新自身的监管以及安全能力。