本仓库将 IBM Granite-TimeSeries-TTM-R2(ibm-granite/granite-timeseries-ttm-r2,main 分支,revision 固定为下载时快照)零样本单变量时间序列预测模型适配到单卡昇腾 Ascend 910B(npu:0),使用真实权重完成真实推理,并提供 CPU-NPU 一致性验证、性能基准与真实日志证据图。
TinyTimeMixerForPrediction(TinyTimeMixers, IBM Granite 时间序列基础模型,NeurIPS 2024)past_values shape (batch, context_length=512, channels=1),10 分钟 / 小时级分辨率prediction_outputs shape (batch, prediction_length=96, channels=1),原始数据尺度Monash-University/monash_tsf,solar_10_minutes_dataset.zip),美国阿拉巴马州 2006 年 10 分钟光伏发电功率(Lai et al., 2017 聚合版)。158700c75836e902047ef8ab984756860ca7ce6d94a469341bdae4f19f1388b4T1[-608:-96](最近 512 点),ground truth 取 T1[-96:](最近 96 点),预测窗口不越过数据边界。(batch, time, channel);模型内部按 config.scaling="std" 对上下文做标准缩放并 inverse 回原始尺度,本仓不做外部再缩放。npu-smi 显示 2 卡),CANN 8.5.1npu:0,dtype:float32# 1) NPU 推理栈(Ascend)
pip install torch==2.9.0 torch-npu==2.9.0.post1
# 2) granite-tsfm:必须 --no-deps 安装,避免 pip 将 torch 升级到 >=2.10(与 torch_npu 2.9 不兼容)
pip install --no-deps granite-tsfm==0.3.8
# 3) 其余依赖
pip install -r requirements.txt模型权重与数据集可从 HuggingFace(含 hf-mirror.com 镜像)获取,脚本会自动定位本地路径,缺失时才联网下载。
# 默认:npu:0 真实推理,打印预测、MAE/RMSE 与设备信息
python inference.py
# 指定本地模型/数据(推荐离线验证)
TTM_MODEL_DIR=/path/to/model TTM_DATA_PATH=/path/to/solar_10_minutes_dataset.tsf python inference.py
# CPU 基线(用于一致性对比)
python inference.py --device cpu --output cpu_forecast.npy
# 性能基准(预热 3 次 + 10 次)
python inference.py --device npu:0 --benchmark[13.5098, 14.4820, 15.0378, 15.8048, 16.2991]SUCCESS device=npu:0 status=real-inference,输出有限值(finite)。同一权重、同一 T1 数据、同一 seed(42)、同一 dtype(fp32)、同一预处理,分别保存原始 prediction_outputs 后逐元素比较:
| 指标 | 值 |
|---|---|
| max_abs_error | 0.003895 |
| mean_abs_error | 0.001683 |
| 阈值(atol / rtol) | 0.01 / 0.01(fp32 下 NPU 算子精度差异) |
| 结果 | PASS |
预测值量级最大约 23.7,最大绝对误差 0.0039 对应的相对误差约 1.6e-4,处于 Ascend fp32 算子(LayerNorm/std 规约)合理精度范围。
三张证据图由 xterm.js 根据本次真实运行日志渲染生成(深灰终端风格,非手工截图):
assets/agent_workflow.png — 侦察、数据检查、模型加载、NPU 推理、一致性、提交校验流程assets/npu_device_call.png — npu-smi、NPU 可用性、设备名、模型参数 device/dtype、输入/输出 Tensor deviceassets/model_result.png — 默认 python inference.py 的真实完整输出(预测、MAE/RMSE、状态)TTM_MODEL_DIR/TTM_DATA_PATH 指向本地文件。torch 版本并设置 TTM_DEVICE=cuda:0(推理逻辑不变)。