这是基于 Qwen2.5-Math-Instruct 在 OpenR1-220k-Math（default 拆分）上进行微调的模型。
[!NOTE] 欢迎了解 OpenR1-Distill-7B，这是一款性能更优的模型。它在 open-r1/Mixture-of-Thoughts 数据集上训练，能够在多个推理领域复现 DeepSeek-R1-Distill-Qwen-7B 的性能表现。
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "open-r1/OpenR1-Qwen-7B"
device = "cuda"
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype="auto",
device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "Find the value of $x$ that satisfies the equation $4x+5 = 6x+7$."
messages = [
{"role": "system", "content": "Please reason step by step, and put your final answer within \\boxed{}."},
{"role": "user", "content": prompt}
]我们在 OpenR1-220k-Math 的 default 分块上对模型进行了 3 个 epoch 的训练。我们采用 5e-5 的学习率，并通过将 RoPE 频率提高到 300k，将上下文长度从 4k 扩展到 32k。训练采用线性学习率调度，并包含 10% 的预热阶段。下表使用 lighteval 对比了 OpenR1-Qwen-7B 与 DeepSeek-R1-Distill-Qwen-7B 和 OpenThinker-7B 的性能。
训练和评估代码可在以下地址获取：https://github.com/huggingface/open-r1/
| 模型 | MATH-500 | AIME 2024 | AIME 2025 | GPQA-D |
|---|---|---|---|---|
| DeepSeek-Distill-Qwen-7B | 93.5 | 51.3 | 35.8 | 52.4 |
| OpenR1-Qwen-7B | 90.6 | 47.0 | 33.2 | 42.4 |
| OpenThinker-7B | 86.4 | 31.3 | 24.6 | 39.1 |