一个让人意外的消息:谷歌用自家TPU芯片跑月之暗面的Kimi模型,推理速度比英伟达GPU快了57%。 更关键的是,用的还是DeepSeek开源的推理框架。 这意味着什么?在AI推理这件事上,英伟达GPU已经不是唯一选择了。 谷歌的TPU本来就是为自家AI业务设计的专用芯片,这次用开源模型实测跑
一个让人意外的消息:谷歌用自家TPU芯片跑月之暗面的Kimi模型,推理速度比英伟达GPU快了57%。
更关键的是,用的还是DeepSeek开源的推理框架。
这意味着什么?在AI推理这件事上,英伟达GPU已经不是唯一选择了。
谷歌的TPU本来就是为自家AI业务设计的专用芯片,这次用开源模型实测跑