#港股大模型双雄大跌# 🔻其实也没啥,就是最近阿里新的模型开源了Qwen3.8 27B,Q4量化差不多和DeepSeek V4 flash一个级别
🔻啥概念?大部分12G显存以上的个人电脑就能跑Q2量化的模型,这水平和今年初全球最顶尖模型差不多了16G以上的可以Q3到Q4量化3090-5090这些大显存,或者mac那些大内存的相当于可以在自己电脑上免费运行一个V4 flash级别的智能体
🔻也就是说中国的模型有能力不那么依赖AI硬件堆叠了开源模型又一次赢了✌️当然那帮老外会觉得啥行业让中国突破了都不赚钱所以狂砸,这……我也无力反驳目前确实这样哪怕垄断了都给你搞成不赚钱的事儿搞来搞去都是那几个平台当赛博地主赚钱
🔻对了,去魔塔社区下载模型更快:网页链接AD版本的比UD出的体积小,16G以下的从IQ3-XXS这个模型开始试在我电脑上这个模型64K上下文,能达到75tok/s
#港股大模型双雄大跌# 🔻其实也没啥,就是最近阿里新的模型开源了 Qwen3.8 27B,Q4量化差不多和DeepSeek V4 flash一个级别 🔻啥概念? 大部分12G显存以上的个人电脑就能跑Q2量化的模型,这水平和今年初全球最顶尖模型差不多了 16G以上的可以Q3到Q4量化 3090-5090这些大显存,或者mac那些大内存的
阅读:0
点赞:0