加入Discord 获取更新、路线图、项目信息,或单纯聊天交流。
Qwen3.6-35B-A3B 由 HauhauCS 进行无审查处理。0/465 拒绝率。
HuggingFace 的“硬件兼容性”小部件无法识别 K_P 量化版本——它显示的文件可能比实际存在的少。请点击 “查看 +X 个变体” 或前往 “文件和版本” 查看所有可用下载。
未对数据集或功能进行任何修改。完全功能正常,保留原始作者设计的 100% 功能——只是去除了拒绝机制。
这些模型旨在成为目前最佳的无损无审查模型。
更强的无审查处理——模型完全解锁,不会拒绝任何提示。偶尔可能会附加简短免责声明(这是基础模型训练时内置的,并非拒绝回应),但始终会生成完整内容。
如果需要更保守的无审查版本并保留部分安全防护措施,请在平衡变体可用时查看该版本。
| 文件 | 量化版本 | 每权重位数(BPW) | 大小 |
|---|---|---|---|
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q8_K_P.gguf | Q8_K_P | 10.06 | 44 GB |
| — | Q8_0 | 8.5 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q6_K_P.gguf | Q6_K_P | 7.07 | 31 GB |
| — | Q6_K | 6.6 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q5_K_P.gguf | Q5_K_P | 6.47 | 28 GB |
| — | Q5_K_M | 5.7 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf | Q4_K_P | 5.40 | 23 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf | Q4_K_M | 4.88 | 21 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf | IQ4_NL | 4.56 | 20 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_XS.gguf | IQ4_XS | 4.32 | 19 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf | Q3_K_P | 4.39 | 19 GB |
| — | Q3_K_M | 3.9 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ3_M.gguf | IQ3_M | 3.56 | 15 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q2_K_P.gguf | Q2_K_P | 3.46 | 15 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf | IQ2_M | 2.69 | 11 GB |
| mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf | mmproj (f16) | — | 899 MB |
所有量化版本均使用重要性矩阵(imatrix)生成,以在权重优化过程中实现最佳质量保留。
K_P(“完美”)量化版本是 HauhauCS 的自定义量化格式,它通过特定模型分析,有选择性地在关键位置保留模型质量。每个模型都拥有专属的优化量化配置。
K_P 量化版本能将质量提升 1-2 个量化等级,而文件大小仅比基础量化版本增加约 5-15%。完全兼容 llama.cpp、LM Studio 以及任何 GGUF 兼容的运行时——无需特殊构建版本。
注意: 在 LM Studio 的量化列中,K_P 量化版本可能显示为“?”。这仅是显示问题——模型加载和运行均正常。
来自 Qwen 官方作者的建议:
思考模式(默认):
temperature=1.0, top_p=0.95, top_k=20, min_p=0, presence_penalty=1.5temperature=0.6, top_p=0.95, top_k=20, min_p=0, presence_penalty=0非思考模式:
temperature=0.7, top_p=0.8, top_k=20, min_p=0, presence_penalty=1.5temperature=1.0, top_p=1.0, top_k=40, min_p=0, presence_penalty=2.0重要提示:
--jinja 标志以正确处理聊天模板mmproj 文件与主 GGUF 文件放在一起适用于 llama.cpp、LM Studio、Jan、koboldcpp 以及其他 GGUF 兼容的运行时。
llama-cli -m Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf \
--mmproj mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf \
--jinja -c 131072 -ngl 99