🌟 Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2

🔥 更新（4月5日）： 我已发布完整的训练笔记本、代码库以及一份详尽的PDF指南，旨在帮助初学者和爱好者理解并复现该模型的微调过程。

❤️ 特别感谢 Unsloth 开源库和 @KyleHessling1 提供的支持。

📚 资源与指南

👉 GitHub仓库：Jackrong-llm-finetuning-guide 访问该仓库，深入了解代码库，并在本地或Colab上复现结果。

📥 核心技术文档

🔗 Qwopus3.5-27b 完整微调指南（PDF）

• 完整流程： 逐步指南——从下载基础模型、统一异构数据，到配置训练器超参数并发布至Hugging Face。
• 新手友好： 包含Google Colab和Unsloth的入门指南。
• 欢迎反馈！如果您发现任何需要改进的地方，请告知我，我将及时更新。

说明： 我的目标不仅仅是详述工作流程，更是为了揭开LLM训练的神秘面纱。抛开社交媒体上的炒作，微调并非遥不可及的仪式——通常，您所需要的只是一个Google账户、一台普通笔记本电脑，以及永不满足的好奇心。

没有人一开始就是专家，但每一位专家都曾勇敢地迈出第一步。

本项目的所有训练和测试均为自费。如果您觉得此模型或指南对您有帮助，在GitHub上点个星标 ⭐️ 将是对我最大的鼓励。谢谢！🙏

[!Note] Claude系列模型优化版本命名为 Qwopus3.5系列，最新版本为 🌟Qwopus3.5-v3。

📢 声明

注意：由于SFT样本量和训练范围的限制，模型的广泛通用能力可能会受到轻微影响。本文讨论的效率和准确性结果基于HumanEval和HumanEval+基准测试。感谢您的理解！

💡 模型介绍

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 是这款专注于推理能力的 Qwen3.5-9B 微调模型的第二个版本，旨在显著提升思维链生成的效率，在大幅提高推理速度和降低成本的同时，实际提升绝对准确率。

与早期版本相比，v2 版本使用了 14,000 个 Claude 4.6 Opus 风格的通用推理样本进行训练，更加强调迁移简洁、可复用的推理模式，而非仅仅追求原始基准分数的最大化。v2 的目标并非简单地让模型“思考更多”，而是帮助它更经济地思考：减少不必要的冗长内部链条，避免在简单问题上进行 verbose 的过度分析，并在超越基线模型基准正确性的同时，大幅提高推理成本与质量的比率。

v2 的一个关键设计选择是，蒸馏数据主要是通用领域的推理数据——特别专注于数学、文字问题、逻辑推理，以及平衡混合的通用知识和指令——而非专门的代码密集型监督数据。因此，HumanEval 和 HumanEval+ 在此用于评估跨任务泛化能力和能力迁移，而非作为直接的优化目标。尽管缺乏以代码为中心的训练，但模型在这些基准上仍表现出高性能，这证实了模型的推理框架已变得更加稳健和可迁移，证明基础推理逻辑能够有效支持编程等专业任务。

HumanEval | HumanEval+ 基准分析 🪐

对于关心单位推理预算下推理效率的用户，v2 版本异常强大——不仅实现了更高的峰值准确率，而且消耗的字符和 tokens 减少了 20% 以上。

这一点在以下方面尤为重要：

• 资源受限的本地部署：在消费级 GPU 或内存较低的本地设备上，更短、更清晰的推理轨迹可以减少延迟、内存压力和生成的实际成本。
• 智能体工作流：在多步骤智能体中，模型通常需要解决许多简单或中等难度的子任务。在这些场景下，过于复杂的思维链可能会成为吞吐量的负担。用更少的推理 tokens 得出更优答案的模型，能够显著提升端到端智能体速度并降低累计推理成本。
• 开源工具使用和新兴智能体栈：对于使用轻量级开放推理系统、浏览器使用智能体、终端智能体或“OpenClaw / 本地自主智能体”风格生态系统项目的用户，一个能在大幅提升推理经济性的同时实现更高峰值准确率的模型，在实际循环应用中具有很高的实用性。
• 大规模简单问题处理：经过强推理调优的基础模型常遇到的一个问题是，即使对于简单提示，它们有时也会产生非常复杂的内部轨迹。虽然这看起来令人印象深刻，但在实践中往往效率低下。v2 版本明确旨在削减这种开销。

简而言之，v2 版本不再强制在绝对编码基准分数和推理经济性之间进行权衡。它提供了一个完全优化的部署就绪配置：更快、更短、更经济的推理，同时具备更强的泛化能力和准确率。对于本地用户、智能体构建者和成本敏感型应用而言，v2 版本是一次彻底的升级。

🗺️ 训练流程概述

Base Model (Qwen3.5-9B)
 │
 ▼
Qwen3.5-9B fine-tuned with Unsloth
 │
 ▼
Supervised Fine-Tuning (SFT) + LoRA
(Response-Only Training masked on "<|im_start|>assistant\n<think>")
 │
 ▼
Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2

🧠 已学习推理框架示例（示例）

该模型包含针对性优化，旨在解决Qwen3.5在简单查询上过度使用过渡性或重复性推理的倾向。通过对Claude-4.6-Opus推理链的深度蒸馏和结构模仿，模型采用了更高效的结构化思维模式：
“让我仔细分析这个请求：1..2..3...”
这种精简的推理范式在保留深度分析能力的同时，显著减少了冗余的认知循环，从而大幅提升了推理效率。

Let me analyze this request carefully:

1. Identify the core objective of the problem.
2. Break the task into clearly defined subcomponents.
3. Evaluate constraints and edge cases.
4. Formulate a step-by-step solution plan.
5. Execute the reasoning sequentially and verify consistency.
            .
            .
            .

📚 使用的所有数据集

该数据集包含高质量、经过筛选的推理蒸馏数据：

⚠️ 局限性与预期用途

• 幻觉风险：尽管推理能力较强，但该模型仍是自回归 LLM；在思考过程中提供的外部事实若涉及现实世界事件验证，偶尔可能包含幻觉内容。
• 预期场景：最适用于离线分析任务、编码、数学运算以及高度依赖逻辑的提示词场景，用户需要透明地跟踪 AI 的内部逻辑。
• 本模型为测试版本，仅用于学习和演示目的，且仅限学术研究与技术探索使用。

🙏 致谢

特别感谢 Unsloth AI 团队，他们让大型 LLM 模型的快速微调变得触手可及。此外，我们感谢 Qwen 内部团队以及开源社区中制作出色蒸馏数据集的开发者们。