拿5090本地部署一个玩，不过量化之后大概率没有sonnet水平了，但是据说可以100+token/s，试试： ​