🪐 Qwen3.5-9B-GLM5.1-Distill-v1
📌 模型概述
模型名称： Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1
基础模型： Qwen3.5-9B
训练类型： 监督微调（SFT，蒸馏）
参数规模： 90亿
训练框架： Unsloth
本模型是 Qwen3.5-9B 的蒸馏变体，基于 GLM-5.1 生成的高质量推理数据进行训练。
主要目标包括：
- 提升结构化推理能力
- 增强指令遵循一致性
- 通过更优推理结构激活潜在知识
📊 训练数据
主要数据集
Jackrong/GLM-5.1-Reasoning-1M-Cleaned- 基于原始
Kassadin88/GLM-5.1-1000000x数据集清洗得到 - 由GLM-5.1教师模型生成
- 规模约为
Qwen3.5-reasoning-700x的700倍 - 训练使用筛选后的子集，非完整源数据集
辅助数据集
Jackrong/Qwen3.5-reasoning-700x
[!IMPORTANT] 训练使用了
Jackrong/GLM-5.1-Reasoning-1M-Cleaned，这是Kassadin88/GLM-5.1-1000000x的清洗衍生版本。特别感谢 Kassadin88 ❤️ 提供原始数据集。请通过关注和点赞支持原作者。 蒸馏仅使用了质量筛选后的子集，而非完整原始数据集。
🗺️ 训练流程概述
Base Model (Qwen3.5-9B)
│
▼
Qwen3.5-9B fine-tuned with Unsloth
│
▼
Supervised Fine-Tuning (SFT) + LoRA
Distillation from GLM-5.1 reasoning data
│
▼
Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1🧠 学习到的推理框架示例
该模型学习了从GLM-5.1轨迹中提炼出的推理结构，而非之前的Qwopus/Claude风格框架。
从GLM-5.1蒸馏数据来看，其推理模式通常更具任务优先性和结构导向性：
- 识别核心主题与任务类型
- 从提示中提取关键约束条件
- 将问题分解为更小的推理步骤
- 关联机制、公式或领域概念
- 在给出最终答案前验证重要假设
- 生成清晰且有条理的响应
典型的抽象框架如下：
示例：
用户正在询问**[主题/问题]** 在**[特定约束条件]** 下的情况。
这主要是一项**[推理/编码/数学/STEM/指令遵循]** 任务。
-
理解任务
- 问题的核心诉求是什么？
- 需要满足哪些约束条件或前提？
-
分解问题
- 识别关键概念、变量或机制。
- 将问题拆分为多个子步骤。
-
逐步推理
- 应用相关原理或方法。
- 必要时对比可能的解释。
- 检查假设是否一致。
-
构建最终答案
- 清晰呈现结果。
- 保持响应结构有序且符合用户需求。
[!NOTE] 与之前的Claude风格推理框架相比，此GLM-5.1蒸馏数据更注重结构化任务分解、领域感知推理和最终答案组织。
对于9B规模的学生模型而言，目标并非完美复制教师模型，而是学习更简洁的推理流程并产生更稳定的输出。
✨ 数据优势
与典型的SFT数据集相比：
- 高质量的思维链结构
- 强大的问题分解模式
- 广泛的领域覆盖范围
- 多语言推理能力
- 一致的指令→推理→答案对齐
📈 预期改进
本模型旨在实际应用中实现渐进但有意义的改进：
- 更优的多步推理稳定性
- 更结构化和易读的输出
- 增强的指令遵循能力
- 复杂问题解决能力的小幅提升
[!WARNING] 对于9B规模的模型，SFT带来的收益通常是渐进而非戏剧性的。 主要优势通常体现在更好的一致性、更清晰的推理过程和更强的答案组织能力，而非原始能力的突然跃升。
🧩 蒸馏理念
本模型将蒸馏视为超越简单输出模仿的过程。
目标不是让9B模型逐词复制教师模型的输出，而是将更强的推理结构和问题解决风格迁移到Qwen3.5-9B中。
在本项目中，高质量的教师数据具有重要价值，因为它提供：
- 更清晰的推理组织方式
- 更一致的指令遵循行为
- 更优的任务分解模式
- 更精准的推理-答案对齐
[!NOTE] 高质量的推理监督有助于学生模型更好地利用其现有知识，而非简单地用教师输出替代。
实际上，预期收益不一定是能力的显著飞跃，而是在复杂推理任务中稳定性、结构性和一致性的提升。
🔬 支持证据
近期研究：
Ren等人，2026 — 《重新思考推理SFT中的泛化能力》 (arXiv:2604.06628)
短轮次推理SFT可能低估泛化能力——域内收益可能较早显现，而域外改进通常需要充分的优化。
该论文表明，推理SFT的泛化能力并非固定不变，而是有条件的——取决于优化程度、数据质量和模型能力。
核心结论：
- 经过充分训练后，推理SFT能够实现泛化（常表现为下降→恢复模式）
- 高质量长CoT数据支持跨域迁移
- 更强的模型学习推理结构，而非仅仅是更长的输出（14B/27B/32B）
- 收益是不对称的——推理能力提升，而安全性可能下降
对于本项目，这些证据至关重要，因为它们支持对蒸馏式SFT采取更有耐心的解读。 如果推理监督足够清晰且经过充分优化，所产生的收益不一定是即时或线性的，但仍然是真实且可迁移的。
这与本版本的理念高度一致：
- 使用清洁、高质量的教师数据
- 避免过度解读短期训练结果
- 将推理SFT视为动态优化过程，而非静态的一次性结果
- 关注学生模型是否学习到更优的推理结构，而非仅仅是更长的输出
[!IMPORTANT] 这表明改进并非简单的记忆或数据集重叠。相反，经过充分优化的推理SFT可以帮助学生模型：
- 🧠 更好地利用现有知识
- 🔍 通过结构化推理激活潜在知识
- 🏗️ 学习推理过程，而非仅仅是输出格式
📚 资源与指南
👉 GitHub 仓库：Jackrong-llm-finetuning-guide 访问该仓库以深入了解代码库，并在本地或 Colab 上复现结果。
📥 核心技术文档
- 完整流程： 逐步指南——从下载基础模型、统一异构数据，到配置训练器超参数并发布至 Hugging Face。
- 新手友好： 包含 Google Colab 和 Unsloth 的入门指南。
说明： 我的目标不仅仅是详细介绍一个工作流程，更是为了揭开 LLM 训练的神秘面纱。除了社交媒体上的炒作，微调并非遥不可及的仪式——通常，你所需要的只是一个 Google 账户、一台普通笔记本电脑，以及永不熄灭的好奇心。 本项目的所有训练和测试均为自筹资金。如果您觉得此模型或指南有帮助，在 GitHub 上点亮 Star ⭐️ 将是对我最大的鼓励。谢谢！🙏
⚠️ 局限性与预期用途
- 幻觉风险： 尽管推理能力较强，但该模型本质上仍是自回归 LLM；在思考过程中提供的外部事实，若涉及验证现实世界事件，偶尔可能包含幻觉内容。
- 预期场景： 最适用于离线分析任务、编码、数学运算以及高度依赖逻辑的提示词场景，此类场景中用户需要透明地跟踪 AI 的内部逻辑。
- 本模型为测试版本，仅用于学习和演示目的，且仅限学术研究与技术探索使用。
- 开发者免责声明： 这是一个独立的个人项目。由于开发者缺乏大型工业实验室所具备的专业技术资源和基础设施，模型的推理链（CoT）偶尔可能出现不稳定、逻辑循环或推理偏移的情况。建议用户在使用本模型时考虑到这些实验性限制。
🙏 致谢
本项目的实现离不开开源社区的支持与贡献。
特别感谢 Unsloth AI 团队，他们让大型语言模型的高效微调变得更加普及。本 qwen3_5 模型使用 Unsloth 和 Hugging Face 的 TRL 库进行训练，实现了显著更快且更实用的微调工作流程。
我还要感谢：
- GLM-5.1 团队，他们为蒸馏方向提供了启发，并提供了强大的教师模型参考。
- 特别感谢 Kassadin88 ❤️，他创建了原始的
GLM-5.1-1000000x数据集，本训练流程正是基于此数据集构建。 Jackrong/GLM-5.1-Reasoning-1M-Cleaned，该项目使源数据更加一致，更适合蒸馏训练。- Qwen，提供了强大的基础模型。
- Kyle @KyleHessling1，感谢他的测试、反馈和社区支持。
- 广大开源社区，感谢他们持续分享工具、数据集、评估方法和技术讨论。
📖 引用
如果您在研究或项目中使用了本模型，请引用：
@misc{jackrong_qwen35_9b_glm51_distill_v1,
title = {Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1},
author = {Jackrong},
year = {2026},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1}}
}