小智爱吃回锅肉 · 2026-09-30

十四G的底模,压到四G

至于去掉审查之后能画出什么,我没试过。

有人把 Qwen-Image-2.1 的底模给量化了,还顺手去掉了审查。

东西挂在 HuggingFace 上,作者叫 abenzerps。名字里那个 Uncensored 是关键——它用的是上游的原始底模权重做的 GGUF 量化,不是官方的安全版。

GGUF 这东西你可能听着陌生,说人话就是:把一个大模型压小,让小显卡也能跑。原始版本 14.23 GB,压到 Q4_K_M 只剩 4.60 GB,官方推荐的也是这一档,说是体积和质量最平衡。想再狠一点还有 NVFP4,4.05 GB。苹果芯片那边另给了 MLX 的 4位、6位、8位三个版本,最小的 4.00 GB。

真正值钱的是它给的一条使用建议:把扩散模型放显存里,文本编码器扔到内存里跑。因为文本编码一个提示词只跑一次,而采样要反复跑,这么一挪能省下九到十七个 G 的显存,速度几乎不掉。配下来就是 Q4 的 4.6 G 在显卡上,int8 的文本编码器 9.35 G 在内存里。小显存机器要是还爆,加个 lowvram 参数启动就行。

文本编码器、VAE 这些配套文件它都打包放在同一个仓库里,不用满世界找。ComfyUI 那边得装一个 leejet 的 GGUF 节点分支,老的那个 city96 版本跑 Qwen-Image 2.1 会报未知架构,得手动改转换脚本。

至于去掉审查之后能画出什么,我没试过。

#Qwen-Image#HuggingFace#本地跑图#GGUF量化
原文出处:abenzerps/Qwen-Image-2.1-Uncensored-GGUF
https://huggingface.co/abenzerps/Qwen-Image-2.1-Uncensored-GGUF
我照着上面那篇原文写的,事实以原文为准。
读到不对的地方,欢迎指出来。