DC娱乐网

AI模型也有身份证!市面上的AI大模型成百上千,假如抹掉模型Logo,随机使用,

AI模型也有身份证!市面上的AI大模型成百上千,假如抹掉模型Logo,随机使用,你确定自己是用得哪个吗?通过中转站调用API,你调用的真是你想用的那个模型吗?

最近一个叫托马什·布鲁克纳的研究员,发表的一篇论文火爆出圈,论文名叫《One Token Is Enough》(一个Token就够了)。

他做了一个有趣的实验,问模型一个无聊透顶的问题,“从1到100随机给个数”,重复很多次,一个神奇的事发生了,统计结果显示,不同模型竟然都有自己更倾向的那个答案。

模型并不是真的随机,仿佛它们的灵魂深处都有各自的烙印,会说出他们潜意识倾向的那个数字。

顺着这个思路延伸,“随机颜色”、“随机字母”、“随机动物”、“随机单词”、“抛硬币”等等,这些随机问题,模型都会表现出自己的确定性,仿佛被什么控制了。

基于这些实验,布鲁克纳提出了一个天才想法,既然每个模型都有自己的“烙印”,那将它们组合起来,不就成了模型的“身份证”了?

他管这个叫“Behavioral Fingerprint”(行为指纹),就像每个人的指纹一样,是每个模型的识别标识。并设计了一套识别方案,先模型官方提取模型的行为指纹,在比对语言验证的模型,进行对比判定。