感谢 unsloth 发布了 Qwen-image-2.1 的量化版本

Q4_K_M 仅 4.2GB，终于可以让我的 5060 尝尝最新的开源生图模型了

硬件需求

RTX 5060 Laptop 8GB

≥ 16 GB 内存（所有模型权重全部卸载到 CPU）

耗时

1k 图 70 秒，2k 图 12 分钟（显然除了 1k 之外的分辨率都不具有可用性，而且更高的分辨率会出现奇怪的 bug，见下文效果展示）

效果展示

在 2k 图下，实测会出现奇怪的纹理

t2i_cat_20481920×1920 730 KB

回到 1k 图，一切恢复正常

test_cat_10241024×1024 104 KB

复杂场景测试

pe_B_enh_table1920×1288 286 KB

更多效果展示可见我的上一个帖子

配置分享

推理框架

stable-diffusion.cpp

模型权重

DiT Q4_K_M

文本编码器 Q4

VAE

视觉投影（在编辑图片时才需要）

全部模型卸载进 CPU，因为生图是串行跑，需要时装进显存，这样才能跑起来

开 EasyCache 加速（threshold=0.3）

生图命令

sd-cli.exe --diffusion-model qwen-image-2.1-Q4_K_M.gguf --vae qwen_image_2.1_vae_bf16.safetensors --llm Qwen3-VL-8B-Instruct-UD-Q4_K_XL.gguf -p "一只举着牌子写 QWEN 2.1 的猫" -W 1024 -H 1024 --steps 25 --cfg-scale 6.0 --sampling-methodeuler --diffusion-fa --cache-mode easycache --cache-option threshold=0.3 --offload-to-cpu --vae-tiling --backend te=cpu --model-args qwen_image_2_1_prefix_cache=false -o out.png

参考图编辑

再加 --llm_vision models\mmproj-BF16.gguf -r 参考图.png

局部改图

-i 原图.png --mask 蒙版.png（蒙版白色=要改的区域）

总结

总结下来，8 GB 的显卡就足够跑这样高质量生图模型了，配合 EasyCache，1K 生图 70 秒一张已经相当可用了

可以nsfw吗？如果能的话就太棒了哈哈哈

当然支持，原生的所有功能都保留。

攒攒钱买mac m5 ultra

Laptop的5060么…不过至少对于30系列的卡是个好消息…

笔记本的4060是不是也可以做到2分钟出1张1k图

应该问题不大，这个很大占比的耗时花在搬运权重上了

2060 6GB 笔记本卡，当初跑过 2.0 turbo，2.1 不敢尝试

试一试，说不定可以呢，权重没一个超过6gb的，生图时串行加载

2k为什么会12分钟？我8g显存int8生成2k用不了那么久啊

应该是我没调好吧，我生成的2K图好像降噪也有问题，因为感觉没啥必要就没仔细研究

可以使用sd-server在webui上操作，另外可以配合llama-swap 只在需要时加载模型。

generated-image-1790255342788-01024×1024 122 KB

日本地铁上，拥挤，地铁摄像头视角，俯视，一个女子被周围男士挤压，有点慌张，白衬衫，很热，V领

70 秒吗？还是太慢了佬友，我今天下午在公司测的，3070 8G + 32G 内存，用的 qwen_image_2.1_int8_convrot，配合加速 lora，1.5k 生图只需 19 秒

加速lora只跑了4步，而这是完整的跑了25步

模型和工作流在这里，B 站找的

肯定是减步数损失质量换来加速，但是我测试结果个人感觉损失质量很少可以接受

4090d-24g,千问2.1满血;

image1131×843 189 KB

image1011×831 211 KB

同提示词 ,gpt- image2.5

image1421×922 345 KB

好坏 一眼能见

如果觉得加速 lora 有损失，可以先用加速抽卡，再固定住种子用正常的跑

试了，ComfyUI，gguf，5分钟不到出一张 0.5K 的，而且只能出一张，第二张 Comfy 就报错，要重启才行

这个现在已经可以部署到什么能力的LLM了？？