o
openharmony-models/Qwen3.5-4B
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Qwen3.5-4B(量化版)

1. 模型名称

Qwen3.5-4B

2. 模型来源

Qwen/Qwen3.5-4B

3. 上下文长度(KV Cache)

32K Tokens

4. 硬件适配

鸿蒙 PC

5. 模型精度

本模型在 CEval(Chinese Evaluation Benchmark) 数据集上进行了评测。
CEval 是一个用于评估中文大语言模型综合能力的测试集,涵盖 52 个学科领域,以多项选择题形式评估模型的知识、推理与语言理解能力。

  • 测试题量: 1346
  • 评测指标: Accuracy(准确率)
指标浮点模型量化模型Recovery
CEval 精度81.2%76.52%94.2%

6. 推理模式与参数配置

本模型默认采用 非思考模式(Instruct / Non-thinking),面向通用任务。其他场景可按下表调整推理模式与采样参数:

适用场景思考模式temperaturetop_ptop_krepetition_penalty
通用任务(默认)关闭0.70.8201.0
通用任务(思考)开启1.00.95201.0
精确编码任务(如 Web 开发)开启0.60.95201.0
推理任务(非思考)关闭1.00.95201.0

思考模式需单独开启,仅修改采样参数不会切换模式。开启后通常会增加输出长度与响应耗时,请按实际需求选择。