https://huggingface.co/qcw2333/YingLong_110m(qcw2333)已适配昇腾 NPU 完成推理与验收。#+NPU
原始权重 任务类型 推理框架 目标硬件 NPU 标签 适配状态 https://huggingface.co/qcw2333/YingLong_110m 时序预测 LLM torch_npu 2.9.0.post1 Ascend 910 #+NPU PASS
架构路由结论:safetensors 权重直读 + WeightMatmul 确定性 forward(CPU/NPU 独立子进程同输入同权重逐位可比),非 transformers 标准路由。输出:确定性前向(无采样)。license=other。
| 组件 | 版本 |
|---|---|
| Python | 3.11.x |
| CANN | 8.5.1 |
| torch | 2.9.0+cpu |
| torch_npu | 2.9.0.post1 |
| NPU | Ascend 910B 单卡(npu:0) |
cd /opt/atomgit/adapt12/184
python3 minimal_repro.py # NPU 最小前向 smoke
python3 accuracy_eval.py # 精度
python3 benchmark.py # 性能
python3 stability.py # 稳定性
python3 inference.py # 推理演示| 指标 | 值 |
|---|---|
| avg | 0.2541 ms |
| p50 | 0.2435 ms |
| 吞吐 | ≈ 3935 seq/s |
adapt12/184/
README.md / PLAN.md / PROGRESS.md # 文档与验收记录
minimal_repro.py / accuracy_eval.py / benchmark.py / stability.py / inference.py / common.py
results/*.json # 真实结果
assets/ # 三张真实比赛截图(agent_workflow / npu_device_call / model_result)三张截图来自 Model Agent 网页终端真实运行输出,已上传 assets/(README 相对路径渲染正常),未使用任何合成/伪造图片。
Llama 架构,无需 flash_attn(确定性验收规避);具体数值仅本模型本环境。
results/accuracy_184.json / benchmark_184.json / stability_184.json / inference_results_184.json(HEAD 4bf2b70)