#NPU Ascend910 TimeMoE Time-Series Forecasting MoE
Maple728/TimeMoE-200M revision 794591bfeb1225fdf742cec0f4c71f20c3f3b87e (865 MB safetensors, 200M 参数)transformers + torch_npu, 修复 DynamicCache 兼容层 (get_usable_length/seen_tokens/get_max_length/_extract_past),显式 npu:0 推理,trust_remote_code=True 本地快照加载x 形状 [batch, seq_len] 或 [batch, seq_len, 1],单变量浮点时序
batch=1, seq_len=512 (合成 sine+trend), 值域约 [-10, 15], 无缺失[B, T] (batch, time);若 3D 则 [B, T, C] C=1,内部自动 unsqueezeforecast 形状 [batch, horizon] (本仓默认 horizon=32, 可置 96)
horizon=32 预测未来 32 步,值域与输入同尺度series = 10*sin(t*0.1) + 0.5*t*0.02 + N(0,0.3), seed 42 固定,SHA-256 可追溯seq_len <= 4096,超长截断torch.manual_seed(42) + np.random.seed(42),eval mode,float32npu:0 (HBM 64 GB)snapshot_download 缓存命中后本地 from_pretrained,无二次联网pip install -r requirements.txt
# 需预装 CANN Toolkit 8.5.1 并使 torch_npu 可用
# 模型已缓存至 /opt/atomgit/.cache/huggingface/hub/models--Maple728--TimeMoE-200M默认命令 (已在 npu:0 验证, 完整 CPU→NPU 对比):
python inference.py
# 显式参数
python inference.py --device npu:0 --seq-len 512 --horizon 32
python inference.py --device cpu --seq-len 512 --horizon 32
# 自定义输出
python inference.py --horizon 96 --output my_forecast.npy脚本自动: 检测 NPU、加载权重、打印设备/dtype/输入输出摘要、同步计时、保存 cpu_output.npy / npu_output.npy、报告吞吐与显存。
[1,512] 均值 2.627662 std 7.065886, 首 5 值 [0.149, 0.967, 2.201, 3.442, 3.864][1,512,1] mean 2.537271[1,544] (512+32) 耗时 3763.9 ms, mean 2.669034, forecast 最后 5 [0.04048, 0.07055, 0.05826, 0.13356, 0.16982][1,512,1] device npu:0 mean 2.537269 耗时 58.9 ms (首包编编译)[1,544] device npu:0 耗时 61.1 ms (稳定 ~62 ms), mean 2.669034, forecast 最后 5 [0.04048, 0.07055, 0.05827, 0.13357, 0.16983]npu_output.npy 形状 [1,32] 均值 3.330995完整日志见
assets/model_result.png
cpu_output.npy vs npu_output.npy 预测切片 [1,32] (forecast)python scripts/compare_outputs.py --cpu cpu_output.npy --npu npu_output.npy --task regression --atol 1e-4 --rtol 1e-3max_abs_error 1.43e-05 mean_abs_error 4.55e-06 PASS (阈值 FP32 1e-4/1e-3)max_abs 1.43e-05 mean 2.67e-07 PASStorch.npu.synchronize(), 首轮编译与稳定分开报告avg 65.8 ms min 62.0 max 67.2 p50 66.7 p90 67.0 (含 CPU 对比时) / avg 62.3 ms 纯 NPU~16.1 windows/s (32*16=512 timesteps/s) batch=1, seq_len 512, horizon 32三图由 xterm.js 根据本次真实日志渲染 (--style raw), 非手工绘图:
assets/agent_workflow.png - 侦察/下载/加载/一致性/性能全流程assets/npu_device_call.png - npu-smi + check_npu + 参数 device Proof (cpu vs npu)assets/model_result.png - 默认 python inference.py 完整输出 (输入摘要、预测、耗时、一致性、性能)

图片由 xterm.js 根据真实日志生成, 提示符为 atomgit@pod-a94f8701860f4700b161b00e290de466:~$ 展示标签, 非桌面截图.
npu:0 验证, 未测试多卡/分布式, batch>4 需评估显存submission/
├── inference.py
├── readme.md
├── requirements.txt
└── assets/
├── agent_workflow.png
├── npu_device_call.png
└── model_result.png