啥是Calude Fable 5?真是个好问题。那个神秘的,只给“特权阶层”用的,模型Mythos 5,和它是亲兄弟。官方PDF里说:Calude Fable 5是它的公开版。在外面“套”了几层“安检,也就是说,当你被“挡”,Fable5的"挡"这个动作,不是底层模型本身在拒绝你,而是外层安检系统。这个安检的技术原理是啥呢?又到了科普时刻了,分类器,classifier,只干一件事,就是盯着几类高风险。
官方列了几种,先是网络安全和生物化学,这两类知识,掌握好了是可以摧毁世界的,顶尖模型拥有者担心AI发展太快会出事,完全可以理解,挡有挡的道理,不过,化生拦截是历代模型都有的旧防线。这次还有新增的措施。生化新增的被分成了两类:已有的化生武器(CB-1)和新型的化生武器,对,没看错,就是化生武器,新型化生武器是专门增加新分类器,去限制生物前沿研究能力。Anthropic公司这次防护的决心,可见一斑。
