#NPU #TimeMoE #Time-Series-Forecasting #Ascend
本项目将 Maple728/TimeMoE-200M
适配到单卡昇腾 NPU(Ascend 910B,npu:0)并完成真实推理验证。
Maple728/TimeMoE-200M @ 794591bfeb1225fdf742cec0f4c71f20c3f3b87etransformers + trust_remote_code=True(modeling_time_moe.py 已人工审查,无网络/子进程/文件写入行为)[batch, context] 连续值序列(逐序列 z-score 标准化);model.generate(..., max_new_tokens=12) 输出 [batch, context+12],末尾 12 位为预测;predictions = normed * std + mean 逆标准化还原。使用经典公开 AirPassengers 数据(Box & Jenkins 国际航线月客运量,1949-01 ~ 1960-12,144 个观测)。
来源:HuggingFace 数据集 duol/airpassengers(AP.csv),文件 SHA-256 5f8b316b84545d9cfb05612298df8415ce4c44421c7012d109465564b07ebc06。
| 项目 | 值 |
|---|---|
| 频率 | 月度(monthly) |
| 观测数 | 144 |
| 列 | Month(时间),#Passengers(目标) |
| 上下文窗口 | 最后 36 个月(1957-01 ~ 1959-12) |
| 预测 horizon | 12 个月(1960-01 ~ 1960-12) |
| 标准化 | 逐序列 z-score:(x - mean) / std(mean/std 在 context 维度计算,torch 默认 ddof=0) |
| 逆标准化 | pred = normed_pred * std + mean |
数据已内嵌于 inference.py(AIRLINE_PASSENGERS),保证默认命令离线自包含复现。
npu-smi 显示 Ascend910,torch.npu.get_device_name(0)=Ascend910_9362,2 卡,单卡 HBM 64 GB),SOC_VERSION=ascend910_9391torch_npu 2.9.0.post1)见 requirements.txt:torch、torch-npu、transformers>=4.40.1、numpy。
pip install -r requirements.txt
python inference.pyinference.py 加载本地权重(依次探测 models/TimeMoE-200M、models/time_moe_200m、TimeMoE-200M、HF 缓存;可用 TIMEMOE_MODEL_DIR 指定),
在 npu:0 上完成真实推理并输出数据契约、设备信息、预测值、MAE/RMSE 与耗时。无 NPU 时返回非零。
npu:0)上下文 1957-01 ~ 1959-12,预测 1960-01 ~ 1960-12:
| 月份 | 实际值 | 预测值 (bf16) | 预测值 (fp32) |
|---|---|---|---|
| 1960-01 | 417 | 409.58 | 409.40 |
| 1960-02 | 391 | 380.89 | 380.38 |
| 1960-03 | 419 | 421.97 | 421.97 |
| 1960-04 | 461 | 405.98 | 406.05 |
| 1960-05 | 472 | 426.87 | 426.81 |
| 1960-06 | 535 | 480.93 | 481.32 |
| 1960-07 | 622 | 538.26 | 538.41 |
| 1960-08 | 606 | 534.21 | 535.06 |
| 1960-09 | 508 | 433.67 | 434.34 |
| 1960-10 | 461 | 372.07 | 372.90 |
| 1960-11 | 390 | 321.58 | 322.68 |
| 1960-12 | 432 | 356.23 | 357.61 |
| dtype | MAE | RMSE |
|---|---|---|
| bfloat16 | 53.14 | 60.67 |
| float32 | 52.75 | 60.14 |
真实权重在 npu:0 完成目标任务推理;零样本基础模型预测捕捉了上升趋势与季节模式(峰值略低,符合该模型在此数据上的已知行为)。
相同权重(model.safetensors)、相同输入、相同预处理、相同随机种子(seed=0)、eval() 模式,分别保存原始输出对比:
max_abs_error = 5.0e-6,atol=1e-4, rtol=1e-3 通过max_abs_error = 3.1e-4,通过一致性阈值按 float32 推理精度设定;全部有限值,无 NaN/Inf。
npu:0,bf16)配置:batch=1,context=36,prediction=12,输出序列长 48,峰值显存 969 MB(单卡 64 GB 余量充足)。
torch.npu.synchronize();数据读取与预处理不计入(preprocessing_timing_included=false)以下三张证据图由 xterm.js 根据本次任务的真实日志渲染(非模拟截图):
| 图 | 说明 |
|---|---|
| assets/agent_workflow.png | 侦察、数据检查、下载、加载、NPU 推理、一致性、benchmark、提交校验 |
| assets/npu_device_call.png | npu-smi、NPU 可用性、模型参数 device/dtype、输入输出 Tensor device |
| assets/model_result.png | 默认 python inference.py 的真实完整输出 |
input_size=1);多变量与通道维度需按官方约定扩展。inference.py 会从本地路径或 HuggingFace 加载。trust_remote_code,已审查无危险行为;首次运行含 JIT 编译时间。