Qwen3-Coder-480B-A35B-Instruct-FP8

亮点特性

今日，我们正式发布Qwen3-Coder——迄今为止我们最具智能体能力的代码模型。Qwen3-Coder提供多种规模版本，而我们率先推出其性能最强的变体：Qwen3-Coder-480B-A35B-Instruct，该版本具备以下核心增强特性：

在智能体编码、智能体浏览器使用及其他基础编码任务中，性能在开源模型中表现突出，结果可媲美Claude Sonnet。
长上下文能力原生支持256K tokens，通过Yarn技术可扩展至1M tokens，专为仓库级代码理解优化。
智能体编码支持Qwen Code、CLINE等主流平台，并采用特别设计的函数调用格式。

image/jpeg

模型概述

Qwen3-480B-A35B-Instruct具有以下特性：

类型：因果语言模型
训练阶段：预训练与后训练
参数数量：总计4800亿，激活350亿
层数：62层
注意力头数（GQA）：Q头96个，KV头8个
专家数量：160个
激活专家数量：8个
上下文长度：原生262,144 tokens

注意：本模型仅支持非思考模式，输出中不会生成</think>superscript:块。同时，不再需要指定enable_thinking=False。

更多详情，包括基准测试评估、硬件要求和推理性能，请参阅我们的博客、GitHub和文档。

快速开始

建议您使用最新版本的 transformers。

若使用 transformers<4.51.0，您将遇到以下错误：

KeyError: 'qwen3_moe'

以下是一段代码片段，展示了如何使用模型根据给定输入生成内容。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-480B-A35B-Instruct"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# prepare the model input
prompt = "Write a quick sort algorithm."
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=65536
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist() 

content = tokenizer.decode(output_ids, skip_special_tokens=True)

print("content:", content)

注意：如果遇到内存不足（OOM）问题，请考虑将上下文长度减少到更小的值，例如 32,768。

关于 FP8 的说明

为了方便使用和提升性能，我们提供了 Qwen3 的 fp8 量化模型 checkpoint，其名称以 -FP8 结尾。量化方法为块大小为 128 的细粒度 fp8 量化。您可以在 config.json 的 quantization_config 字段中找到更多详细信息。

您可以像使用原始的 bfloat16 模型一样，通过多个推理框架（包括 transformers、sglang 和 vllm）来使用 Qwen3-480B-A35B-Instruct-FP8 模型。但请注意以下已知问题：

transformers：
- 目前，在 transformers 中使用“细粒度 fp8”方法进行分布式推理时存在问题。如果推理中使用了多个设备，您可能需要设置环境变量 CUDA_LAUNCH_BLOCKING=1。

智能体编码（Agentic Coding）

Qwen3-Coder 在工具调用能力方面表现出色。

您可以按照以下示例轻松定义或使用任何工具。

# Your tool implementation
def square_the_number(num: float) -> dict:
    return num ** 2

# Define Tools
tools=[
    {
        "type":"function",
        "function":{
            "name": "square_the_number",
            "description": "output the square of the number.",
            "parameters": {
                "type": "object",
                "required": ["input_num"],
                "properties": {
                    'input_num': {
                        'type': 'number', 
                        'description': 'input_num is a number that will be squared'
                        }
                },
            }
        }
    }
]

import OpenAI
# Define LLM
client = OpenAI(
    # Use a custom endpoint compatible with OpenAI API
    base_url='http://localhost:8000/v1',  # api_base
    api_key="EMPTY"
)
 
messages = [{'role': 'user', 'content': 'square the number 1024'}]

completion = client.chat.completions.create(
    messages=messages,
    model="Qwen3-Coder-480B-A35B-Instruct",
    max_tokens=65536,
    tools=tools,
)

print(completion.choice[0])

最佳实践

为实现最佳性能，我们建议采用以下设置：

采样参数：
- 建议使用 temperature=0.7、top_p=0.8、top_k=20、repetition_penalty=1.05。
充足的输出长度：对于大多数查询，我们建议使用 65,536 个 token 的输出长度，这对于指令模型而言足够使用。

引用

如果您发现我们的工作对您有所帮助，欢迎引用。

@misc{qwen3technicalreport,
      title={Qwen3 Technical Report}, 
      author={Qwen Team},
      year={2025},
      eprint={2505.09388},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.09388}, 
}