加入 Discord 获取更新、路线图、项目信息,或只是闲聊。
Qwen3.6-27B 由 HauhauCS 进行无审查处理。0/465 拒绝率。 *
不确定该选择哪个版本? 99.9% 以上的用户应使用 Balanced(平衡版)——同样 0/465 的拒绝率,采样更稳定,非常适合智能体编码/工具使用/推理/创意写作。仅当你特别希望模型在处理硬核提示时跳过其开场白时,才选择 Aggressive(激进版)。
HuggingFace 的“硬件兼容性”小部件无法识别 K_P 量化版本——它可能显示的文件数量比实际存在的少。点击 “查看 +X 个变体” 或前往 “文件和版本” 查看所有可用下载。
未对数据集或功能进行任何更改。功能完整,100% 保留原作者的设计意图——只是没有拒绝回答的情况。
这些旨在成为目前最佳的无损无审查模型。
两个版本在基准测试中均达到 0/465 的拒绝率。能力相同,无审查效果相同。区别在于它们如何处理尖锐提示:
| Balanced(推荐默认) | Aggressive(本版本) | |
|---|---|---|
| 拒绝率 | 0/465 | 0/465 |
| 处理硬核提示时 | 会大声推理,偶尔有简短免责声明,然后给出完整答案 | 直接提供原始答案,无开场白 |
| 最适合 | 智能体编码、工具使用、推理、创意写作/角色扮演 | 特别希望模型跳过“自我说服”步骤的用户 |
如果你没有充分理由选择 Aggressive,建议使用 Balanced——它是更好的默认选择。
| 文件 | 量化方式 | 每权重比特数(BPW) | 大小 |
|---|---|---|---|
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q8_K_P.gguf | Q8_K_P | 10.06 | 32 GB |
| — | Q8_0 | 8.5 | — |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q6_K_P.gguf | Q6_K_P | 7.07 | 23 GB |
| — | Q6_K | 6.6 | — |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q5_K_P.gguf | Q5_K_P | 6.47 | 21 GB |
| — | Q5_K_M | 5.7 | — |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf | Q4_K_P | 5.4 | 18 GB |
| — | Q4_K_M | 4.88 | — |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-IQ4_XS.gguf | IQ4_XS | 4.32 | 15 GB |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf | Q3_K_P | 4.39 | 14 GB |
| — | Q3_K_M | 3.9 | — |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-IQ3_M.gguf | IQ3_M | 3.56 | 13 GB |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-IQ3_XS.gguf | IQ3_XS | 3.3 | 12 GB |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q2_K_P.gguf | Q2_K_P | 3.19 | 12 GB |
| Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf | IQ2_M | 2.69 | 10 GB |
| mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf | mmproj (f16) | — | 928 MB |
所有量化版本均使用重要性矩阵(imatrix)生成,以在权重删减的情况下实现最佳质量保留。
K_P(“完美”)量化版本是 HauhauCS 的自定义量化方式,它通过特定模型分析,有选择性地在最重要的部分保留模型质量。每个模型都有其专属的优化量化配置文件。
K_P 量化版本能将质量有效提升 1-2 个量化等级,而文件大小仅比基础量化版本大 ~5-15%。完全兼容 llama.cpp、LM Studio 以及任何 GGUF 兼容的运行环境——无需特殊构建版本。
注意: K_P 量化版本在 LM Studio 的量化列中可能显示为“?”。这只是显示问题——模型加载和运行均正常。
16 × (3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN))来自 Qwen 官方作者:
思考模式(默认)——通用任务:
temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0思考模式——精确编码/网页开发:
temperature=0.6, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0非思考(指令)模式:
temperature=0.7, top_p=0.80, top_k=20, min_p=0.0, presence_penalty=1.5, repetition_penalty=1.0我的个人偏好: 即使在思考模式下,我也会使用 presence_penalty=1.5。两种设置都能工作,但使用官方默认的 0.0 时,模型可能会进行过多不必要的思考。将其提高到 1.5 可以在不影响输出质量的前提下收敛思路。选择权在你——两种都试试。
重要提示:
--jinja 以正确处理聊天模板rope_parameters提示技巧: 该模型比 Qwen3.5-35B-A3B 对提示清晰度更为敏感。明确说明格式、约束条件和范围——与模糊的指令相比,它会更好地按要求执行。
Qwen3.6 默认开启思考功能。如果您希望获得更快、更简短的回复,且不需要思维链,可将其关闭。
注意: Qwen3.6 不支持 Qwen3 曾有的
/think和/no_think软开关。您必须使用下方的聊天模板参数。
enable_thinking 设置为 falsellama-server — 为所有请求设置为默认:
llama-server -m Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf \
--mmproj mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf \
--jinja -c 131072 -ngl 99 \
--chat-template-kwargs '{"enable_thinking": false}'通过 OpenAI 兼容 API 的每请求方式:
{
"model": "qwen3.6-27b",
"messages": [{"role": "user", "content": "..."}],
"chat_template_kwargs": {"enable_thinking": false}
}Python openai 软件开发工具包:
client.chat.completions.create(
model="qwen3.6-27b",
messages=[{"role": "user", "content": "..."}],
extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)智能体场景——在多轮对话中保持上下文推理连贯性:
{"chat_template_kwargs": {"preserve_thinking": true}}这会保留聊天历史中的推理模块。对于在工具调用循环中需要保持推理一致性的智能体而言非常有用。
适用于 llama.cpp、LM Studio、Jan、koboldcpp 以及其他兼容 GGUF 的运行时环境。
llama-cli -m Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf \
--mmproj mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf \
--jinja -c 131072 -ngl 99* 已通过自动化和手动拒绝基准测试——未发现任何拒绝情况。如果您遇到了确实妨碍您使用的拒绝问题,请加入 Discord 并标记该问题,以便我在未来的版本中进行改进。