🔻Unsloth 把阿里的Qwen3.8 27B又重新量化了一次我只能说,更牛逼了魔塔社区可以高速下载网页链接今天更新的IQ3 S,16G卡可以上下文64K,75tok/s3090-5090这种卡可以爽跑Q4级别
🔻这个27B模型可以达到今年初最顶级大模型水平外加视觉识别能力能在消费级显卡运行甚至还出了个1Q版本能塞进手机里
🔻虽然淘宝不做人,但阿里AI这方面在这个月是真的功德无量了谁还跟那说美国大模型领先半年、中国开源模型追不上啥的妥妥的脑瓜子有问题或者膝盖骨太软
🔻一张16G卡能跑一个类似DeepSeek v4 flash能力的模型虽然上下文小了点,但起码能跑起来了美国那些大模型需要无限硬件堆砌的故事其实已经破灭了当然短期内还是需要很多AI硬件但左脚踩右脚飞升的故事,在qwen3.8 27B出来后就宣告结束了美光、海力士啥的注意风险吧我能在16G上跑这种级别,以后就能跑更高更强的那国产大模型就能在有限的硬件条件下跑出更强的能力对硬件的需求也就没有那么迫切
🔻Unsloth 把阿里的Qwen3.8 27B又重新量化了一次 我只能说,更牛逼了[赞] 魔塔社区可以高速下载 今天更新的IQ3 S,16G卡可以上下文64K,75tok/s 3090-5090这种卡可以爽跑Q4级别 🔻这个27B模型可以达到今年初最顶级大模型水平 外加视觉识别能力 能在消费级显卡运行 甚至还出
阅读:0
点赞:0