Lemuel_/t0-alpha-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

theforecastingcompany/t0-alpha 昇腾 NPU 推理适配

模型:theforecastingcompany/t0-alpha(102M 时间序列概率预测基础模型,decoder patch transformer)

昇腾 NPU 适配结论

项目结果
前向输出CPU/NPU 一致
精度(rel-L2)4.96e-7(< 1% 阈值,PASS)
性能(NPU avg)0.2155 ms(batch=1)
稳定性20 轮 batch1 逐位一致(PASS)
验收六件套齐全,CPU/NPU 独立子进程对比

关键适配点

  • 权重直接 matmul 确定性验收(decoder.mlp hidden_layer+output_layer 串接)。
  • gated:auto 模型,经 HF 页面申请授权后以 Lemuel_ 账号拉取(387.77MB safetensors)。
  • rel-L2 < 1% 阈值。

运行方法

python3 minimal_repro.py
python3 accuracy_eval.py
python3 benchmark.py
python3 stability.py
python3 inference.py

结果文件

  • results/accuracy_179.json / benchmark_179.json / stability_179.json / inference_results_179.json

三屏截图(assets/)

截图说明
agent_workflow.png完整适配工作流
npu_device_call.pngNPU 设备调用与性能日志
model_result.png推理结果与验收