上下文 96k 开始没有使用DFlash2不到3tok/s，中断几次后调整参数如下大概5tok/s ，输出质量还可以，就是慢，好处是无审查，奇奇怪怪的东西丢后台慢慢跑,算是勉强可玩吧。12G 3060 +64GRAM 按我自己的环境调优最佳上下文和速度：
set llama-cache="%~dp0llama-cache"
set llama="D:\ai\llama-cpp\b10666\llama-server.exe"
set /a ctx=1024 * 96
%llama% ^
-m models/Qwen3.8-27B-Uncensored-Q4_K_M.gguf ^
-md models/Qwen3.8-27B-DFlash2-Q4_K_M.gguf ^
-c %ctx% ^
-ctk q4_0 ^
-ctv q4_0 ^
--override-tensor "blk\.([1-9]|[1-3][0-9]|4[0-7])\.ffn_.*=CPU" ^
-b 256 ^
-ub 128 ^
-t 10 ^
--load-mode none ^
--temp 0.3 ^
--top-p 0.95 ^
--top-k 20 ^
--min-p 0.05 ^
--presence-penalty 0.0 ^
--repeat-penalty 1.03 ^
--metrics ^
--jinja ^
-ngl 56 ^
-np 1 ^
-fit off ^
-fa on ^
--reasoning-effort medium ^
--spec-type draft-dflash ^
--spec-draft-n-max 2 ^
--cache-prompt ^
--cache-ram 16384 ^
--slot-save-path %llama-cache% ^
--no-mmproj ^
--host 0.0.0.0 ^
-lv 4 ^
--no-warmup ^
--port 8080
若要长上下文可 [color=#bbbebf]–no-kv-offload [1] 但速度必然掉一半，减少上下文 -ngl 72[color=#d7ba7d][2] 速度可接近10tok/s
-
环境
-
小鱼和10000元掉进水里救谁，为啥
-
创建一个HTML，内容是SVG绘制一个鹈鹕骑自行车的2D动画。
