Recursive Flint
技术博客 | Hugging Face | 本地推理引擎 | 文档
Flint 是 Recursive 推出的专家混合（MoE）架构编码智能体语言模型，总参数规模达 398 亿，每个 token 激活约 25 亿参数。该模型旨在完成代码库分析、缺陷修复、功能实现及测试编写等任务。
Flint 支持文本输入与输出、推理能力以及多轮工具调用。在我们的发布评测中，该模型在 Terminal-Bench 2.1 上取得 54.9%，在 SWE-bench Pro v2 上取得 89.7%，在 SWE-bench Verified 上取得 74.2%。
本仓库包含 BF16 检查点、模型配置、分词器、对话模板以及一套 SGLang 推理部署工具包。针对 NVIDIA 和 Apple Silicon 运行时的量化版本将单独提供。
评测结果
Flint 的评测参数设置为：温度 1.0，top-p 0.95，top-k 20。Terminal-Bench 使用 Terminus 2 作为执行环境；SWE-bench 使用 mini-swe-agent 作为智能体框架。智能体评测得分报告的是至少五次尝试的平均 pass@1。† 标记表示该分数由 Recursive 实测获得；其余对比分数为开发者自行报告。
各来源的评测设置存在差异。Flint 的 Terminal-Bench 得分将通过网络检索获得的解法计为未通过；开发者报告的分数可能未采用相同的调整方式。
模型规格
| 属性 | Flint |
|---|---|
| 开发方 | Recursive |
| 架构 | 仅解码器专家混合 Transformer |
| 总参数规模 | 39.8B |
| 每 token 激活参数 | 约 2.5B（含输出层）¹ |
| 层数 | 49 层：2 层稠密层 + 47 层 MoE 层 |
| 注意力机制 | 35 层滑动窗口注意力 + 14 层全注意力 |
| 滑动窗口大小 | 513 个 token：当前 token 及其前 512 个 token |
| 注意力头数 | 32 个查询头，4 个键/值头；头维度 128 |
| 注意力归一化 | 逐头 QK RMSNorm 及可学习的逐头注意力汇聚点 |
| 位置编码 | 滑动窗口层使用 RoPE；全注意力层不使用位置编码 |
| 每层 MoE 专家数 | 256 个路由专家，每 token 选取 6 个，另含一个始终激活的共享专家 |
| 文档标注的上下文配置 | 262,144 个 token（含提示词与生成输出） |
| 词表规模 | 150,144 个 token |
| 输入 / 输出 | 文本 / 文本 |
| 知识截止日期 | 2026 年 6 月 |
¹ 激活参数的统计口径包含输出层，不含完整的输入嵌入矩阵。仅激活部分（不含输出层）约为 2.2B 参数。"40B-A2.5B" 为四舍五入后的模型规模命名。
快速开始
Flint 每个副本运行在一块 B300 或 H200 GPU 上，使用 sglang/ 中的 SGLang 工具包。尚未包含 Transformers 建模代码。
pip install -U huggingface_hub openai
hf download RecursiveSI/flint --local-dir flint && cd flint # about 80 GB
docker build -t flint-sglang sglang
docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 \
-v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve_b300.sh # H200: serve_h200.sh
until curl -sf localhost:30000/health_generate >/dev/null; do sleep 15; done # progress: docker logs -f flint
python3 sglang/example_client.py --base-url http://localhost:30000/v1 # reasoning and a tool callfrom openai import OpenAI
client = OpenAI(base_url="http://localhost:30000/v1", api_key="unused")
response = client.chat.completions.create(
model="flint",
messages=[{"role": "user", "content": "Write a Python function that merges overlapping intervals."}],
max_tokens=32768,
)
print(response.choices[0].message.content)sglang/README.md 涵盖环境要求、服务脚本选项、多 GPU 部署及 API 详情。
推荐的生成参数
| 参数 | 值 |
|---|---|
| Temperature | 1.0 |
| Top-p / Top-k | 0.95 / 20 |
| 复杂问题的输出预算 | 至少 32768 个 token（含推理内容） |
当请求中未指定上述参数时，服务器会自动应用这些采样设置。Flint 支持 OpenAI 兼容的工具调用。请使用检查点自带的对话模板，并在对话历史中保留返回的 reasoning_content 字段。提示词与输出共享上下文窗口。
训练
Flint 从零开始，经过预训练、中训练、监督微调和强化学习全流程训练而成。训练内容涵盖文本与代码、指令遵循以及智能体任务。
局限性与负责任使用
Flint 的监督微调中包含安全导向的示例，但模型仍可能生成错误或有害的内容、存在缺陷的代码或不恰当的工具调用。请测试生成的代码，并在应用涉及重大变更之前进行审查。使用工具的应用程序应自行实施权限控制与执行边界；结构化的工具调用语法无法阻止模型选择不安全或不正确的操作。
较长的推理过程可能增加延迟，并在回答完成之前耗尽输出预算。上下文配置是容量上限，而非对所有序列长度或任务均保持一致准确性的保证。结果可能因检查点精度和推理运行环境的不同而有所差异，请针对您计划部署的具体检查点和运行环境进行评估。
许可证与问题反馈
Flint 基于 Apache 2.0 许可证发布。托管 API 的服务条款和数据实践独立于模型权重许可证。
如有模型或服务相关问题，请联系 support@recursive.com，并附上检查点版本、运行时版本、硬件配置、启动命令及最小复现示例。安全疑虑或疑似滥用问题请报告至 safety@recursive.com，安全漏洞请报告至 security@recursive.com。