github_36141363/Qwen3.5-0.8B
模型介绍文件和版本Pull Requests讨论分析

Qwen3.5-0.8B Ascend NPU 适配验证报告

Model Ascend Status

模型信息

字段值
模型名称Qwen3.5-0.8B
模型IDQwen/Qwen3.5-0.8B
架构Qwen3_5ForConditionalGeneration
模型类型文本生成 (Text Generation)
许可证Apache-2.0

验证环境

组件版本
硬件Atlas 800 A3 (detected)
vLLM0.18.0+empty
vLLM-Ascend0.18.0rc1
Triton-Ascend3.2.0.dev20260322
CANN8.5.1
验证时间2026-05-07

验证结果

总体状态

验证失败 - 硬件/软件版本不匹配

环境检查详情

检查项状态详情
NPU SMI❌ 失败npu get board type failed. ret is -9005
vLLM 安装✅ 通过已安装 v0.18.0+empty
硬件检测⚠️ 警告检测到 A3 硬件
软件目标⚠️ 警告软件包针对 A2

错误分析

根本原因

Ascend 硬件/软件版本不匹配

当前设备类型 AscendDeviceType.A3 与安装的软件包目标设备类型 AscendDeviceType.A2 不匹配。

错误信息

Current device type: AscendDeviceType.A3 does not match the installed version's 
device type: AscendDeviceType.A2, please check your installation package.

验证流程日志

Step 1: Environment check completed with warnings
Step 2: Model download succeeded (ModelScope)
Step 2: Model architecture resolved -> Qwen3_5ForConditionalGeneration
Step 2: vLLM engine core initialization failed
Step 2: AssertionError: AscendDeviceType.A3 != AscendDeviceType.A2
Step 4: Cleanup completed (vllm processes terminated)
Step 5: Failure report generated

跳过的测试

由于服务启动失败,以下测试未执行:

测试项状态原因
精度评估 (Accuracy Evaluation)⏭️ 跳过Service startup failed
性能基准 (Performance Benchmarks)⏭️ 跳过Service startup failed

修复建议

  1. 确认硬件型号

    • 请确认当前硬件型号并安装对应版本的 CANN 驱动与固件
  2. A3 硬件适配

    • 如果是 A3 硬件,需安装支持 Ascend910B3/A3 的 CANN 8.0.RC3+ 及对应 torch_npu / vllm-ascend 版本
  3. 环境变量检查

    • 检查环境变量 ASCEND_HOME_PATH 与 LD_LIBRARY_PATH 是否指向正确版本

相关链接

  • HuggingFace: https://huggingface.co/Qwen/Qwen3.5-0.8B
  • vLLM-Ascend: https://gitee.com/ascend/vllm-ascend
  • 昇腾社区: https://www.hiascend.com/

此报告由 Ascend Model Adaptation Verification Tool 自动生成

下载使用量0