DC娱乐网

“代理内核优化是设备端推理的未来”使用 Fable 5 编写内核,将 Gemma

“代理内核优化是设备端推理的未来”

使用 Fable 5 编写内核,将 Gemma 4 的性能推高到 WebGPU 上 M4 的惊人 255 tok/s。他分享了演示,所以你可以在浏览器中试用!!