DC娱乐网

等会?还有个玄戒O100? 小米玄戒O100,一颗给手机做的AI加速芯片,参数很硬,我翻译成人话。 带宽1.22TB/s什么概念?现在手机上最快的LPDDR5X内存,带宽大概50-60GB/s,这颗芯片是它的20倍。一块旗舰级的固态硬盘读取速度大概7GB/s,这颗芯片的带宽是它的174倍。数据喂给AI模型的速度,快到没有瓶颈 ​

等会?还有个玄戒O100?

小米玄戒O100,一颗给手机做的AI加速芯片,参数很硬,我翻译成人话。

带宽1.22TB/s什么概念?现在手机上最快的LPDDR5X内存,带宽大概50-60GB/s,这颗芯片是它的20倍。一块旗舰级的固态硬盘读取速度大概7GB/s,这颗芯片的带宽是它的174倍。数据喂给AI模型的速度,快到没有瓶颈。

端侧推理速度330TPS,就是每秒输出330个token。你用ChatGPT云端对话,大概每秒30-60个token。这颗芯片在手机本地跑,速度是云端ChatGPT的5到10倍。意味着你问它一句话,它几乎瞬间就回答完了,不用等,不用联网。

封装技术是6nm 3D晶圆级堆叠,简单说就是把内存和计算芯片像叠积木一样垂直叠在一起,258万个键合点,间距只有1.4微米,一根头发丝的直径大概70微米,也就是说一根头发丝的宽度上能放50个键合点。

14核NPU,专门为端侧大模型设计。

这颗芯片的意义不在于跑分,在于它让手机本地跑大模型从"能用"变成了"好用"。