gcw_6a3w2yXz/ibm-granite-granite-timeseries-ttm-r2-NPU-model
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Granite-TimeSeries-TTM-R2 · 昇腾 NPU 适配 (#NPU)

本仓库将 IBM Granite-TimeSeries-TTM-R2(ibm-granite/granite-timeseries-ttm-r2,main 分支,revision 固定为下载时快照)零样本单变量时间序列预测模型适配到单卡昇腾 Ascend 910B(npu:0),使用真实权重完成真实推理,并提供 CPU-NPU 一致性验证、性能基准与真实日志证据图。

  • 模型:TinyTimeMixerForPrediction(TinyTimeMixers, IBM Granite 时间序列基础模型,NeurIPS 2024)
  • 任务:时间序列点预测(零样本,无微调)
  • 输入契约:past_values shape (batch, context_length=512, channels=1),10 分钟 / 小时级分辨率
  • 输出契约:prediction_outputs shape (batch, prediction_length=96, channels=1),原始数据尺度
  • 模型参数量:805,280(约 0.8M),权重 fp32,总权重约 3.2 MB

数据契约

  • 数据源:Monash Time Series Forecasting Repository — Solar 数据集(Monash-University/monash_tsf,solar_10_minutes_dataset.zip),美国阿拉巴马州 2006 年 10 分钟光伏发电功率(Lai et al., 2017 聚合版)。
  • 原始文件 SHA-256:158700c75836e902047ef8ab984756860ca7ce6d94a469341bdae4f19f1388b4
  • 内容:137 条时间序列,每条 52,560 个点(10 分钟频率),采样周期 2006-01-01 00:00 至 2006-12-31。
  • 本仓推理使用 T1 序列:context 取 T1[-608:-96](最近 512 点),ground truth 取 T1[-96:](最近 96 点),预测窗口不越过数据边界。
  • 轴顺序 (batch, time, channel);模型内部按 config.scaling="std" 对上下文做标准缩放并 inverse 回原始尺度,本仓不做外部再缩放。
  • 数据仅用于演示零样本推理,未提交原始数据文件(本仓为模型仓,不含数据集与权重)。

环境

  • 昇腾硬件:Ascend 910(npu-smi 显示 2 卡),CANN 8.5.1
  • 软件栈:Python 3.11.14 · torch 2.9.0+cpu · torch_npu 2.9.0.post1 · transformers 4.57.6 · granite-tsfm 0.3.8 · numpy 1.26.4 · pandas 3.0.2
  • 设备:npu:0,dtype:float32

安装

# 1) NPU 推理栈(Ascend)
pip install torch==2.9.0 torch-npu==2.9.0.post1
# 2) granite-tsfm:必须 --no-deps 安装,避免 pip 将 torch 升级到 >=2.10(与 torch_npu 2.9 不兼容)
pip install --no-deps granite-tsfm==0.3.8
# 3) 其余依赖
pip install -r requirements.txt

NPU 推理

模型权重与数据集可从 HuggingFace(含 hf-mirror.com 镜像)获取,脚本会自动定位本地路径,缺失时才联网下载。

# 默认:npu:0 真实推理,打印预测、MAE/RMSE 与设备信息
python inference.py

# 指定本地模型/数据(推荐离线验证)
TTM_MODEL_DIR=/path/to/model TTM_DATA_PATH=/path/to/solar_10_minutes_dataset.tsf python inference.py

# CPU 基线(用于一致性对比)
python inference.py --device cpu --output cpu_forecast.npy

# 性能基准(预热 3 次 + 10 次)
python inference.py --device npu:0 --benchmark

真实结果(npu:0,零样本)

  • 输入:T1 最近 512 点(context_mean=7.4248,context_std=12.3177);输出:未来 96 点预测(原始尺度,单位 MW)。
  • 预测头 5 点:[13.5098, 14.4820, 15.0378, 15.8048, 16.2991]
  • 与真实值(held-out 96 点)对比:MAE = 9.3134,RMSE = 12.6416(原始尺度;太阳能功率夜间大量为 0,含零点误差)。
  • 状态:SUCCESS device=npu:0 status=real-inference,输出有限值(finite)。

CPU-NPU 一致性

同一权重、同一 T1 数据、同一 seed(42)、同一 dtype(fp32)、同一预处理,分别保存原始 prediction_outputs 后逐元素比较:

指标值
max_abs_error0.003895
mean_abs_error0.001683
阈值(atol / rtol)0.01 / 0.01(fp32 下 NPU 算子精度差异)
结果PASS

预测值量级最大约 23.7,最大绝对误差 0.0039 对应的相对误差约 1.6e-4,处于 Ascend fp32 算子(LayerNorm/std 规约)合理精度范围。

性能(npu:0,fp32,batch=1,context=512,horizon=96)

  • 首次推理(含图编译):168 ms
  • 稳定阶段(预热 3 次后 10 次):avg 4.57 ms,min 4.52 ms,max 4.60 ms,p50 4.57 ms,p90 4.59 ms,p95 4.60 ms
  • 吞吐:约 218.8 windows/s

证据图

三张证据图由 xterm.js 根据本次真实运行日志渲染生成(深灰终端风格,非手工截图):

  • assets/agent_workflow.png — 侦察、数据检查、模型加载、NPU 推理、一致性、提交校验流程
  • assets/npu_device_call.png — npu-smi、NPU 可用性、设备名、模型参数 device/dtype、输入/输出 Tensor device
  • assets/model_result.png — 默认 python inference.py 的真实完整输出(预测、MAE/RMSE、状态)

限制

  • 零样本推理演示基于单个数据集(Solar T1);单样本一致性属 smoke consistency,非完整 benchmark 排名。
  • 模型官方建议 10 分钟 ~ 小时级频率;其它频率(日/周/月)效果无法保证。
  • 本仓不提交权重与数据集;首次运行需联网获取模型权重与数据,或使用 TTM_MODEL_DIR/TTM_DATA_PATH 指向本地文件。
  • 若运行环境以 CUDA 替代 NPU,请安装对应 torch 版本并设置 TTM_DEVICE=cuda:0(推理逻辑不变)。

参考

  • 模型卡:https://huggingface.co/ibm-granite/granite-timeseries-ttm-r2
  • 论文:Tiny Time Mixers (TTMs) Can Pre-train Time Series Models for Few-shot Forecasting(NeurIPS 2024, arXiv:2401.03955)