「AI」懒得下载新版本,就用以前下载的优化了一下,代码生成速度80 token/s。这就不错了,速度是前几天的6.1 Sol的4倍了。可用的极限速度应该在120 token/s左右,暂时不想配置了,腻了,累了。就在这几天,由于新的技术出现,像12G或者16G的显卡又涨价了一波。

「AI」懒得下载新版本,就用以前下载的优化了一下,代码生成速度80 token/s。这就不错了,速度是前几天的6.1 Sol的4倍了。可用的极限速度应该在120 token/s左右,暂时不想配置了,腻了,累了。就在这几天,由于新的技术出现,像12G或者16G的显卡又涨价了一波。
