本仓库存放 Qwen/Qwen3.5-0.8B 在昇腾 NPU (vLLM-Ascend) 上运行验证与性能优化的结果报告。
| 文件 | 说明 |
|---|---|
Qwen3.5-0.8B-validation_report.json | 昇腾 NPU 部署验证报告(环境预检 / 服务启动 / 功能验证) |
qwen3.5-0.8b-optimization-result-20260905.md | 性能优化结果对比报告(并发 200,吞吐 +57.0%,平均时延 -24.0%) |
--max-num-batched-tokens 8192)在并发 200 下:
生成时间: 2026-09-05