theforecastingcompany/t0-alpha 昇腾 NPU 推理适配
模型:theforecastingcompany/t0-alpha(102M 时间序列概率预测基础模型,decoder patch transformer)
昇腾 NPU 适配结论
| 项目 | 结果 |
|---|
| 前向输出 | CPU/NPU 一致 |
| 精度(rel-L2) | 4.96e-7(< 1% 阈值,PASS) |
| 性能(NPU avg) | 0.2155 ms(batch=1) |
| 稳定性 | 20 轮 batch1 逐位一致(PASS) |
| 验收 | 六件套齐全,CPU/NPU 独立子进程对比 |
关键适配点
- 权重直接 matmul 确定性验收(decoder.mlp hidden_layer+output_layer 串接)。
- gated:auto 模型,经 HF 页面申请授权后以 Lemuel_ 账号拉取(387.77MB safetensors)。
- rel-L2 < 1% 阈值。
运行方法
python3 minimal_repro.py
python3 accuracy_eval.py
python3 benchmark.py
python3 stability.py
python3 inference.py
结果文件
results/accuracy_179.json / benchmark_179.json / stability_179.json / inference_results_179.json
三屏截图(assets/)