各种Qwen3.8-27B-GGUF量化版本,最后还是留下了unsloth最稳定,特别是超长上下文

Qwen3.8-27B-UD-Q6_K_M.gguf版本用了1个多月了,上下拉到512K,目前是使用最稳定的。另外现在考虑要不要换成Q提升一下速度

这两天又尝试了其他各种上榜的量化版本,吹得多快跑分多高,上下文一多就会变傻直接循环