m
mengsihan/ibm-granite-granite-timeseries-patchtst-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Granite Time-Series PatchTST — 昇腾 NPU 适配(#NPU)

模型:ibm-granite/granite-timeseries-patchtst(revision main,PatchTSTForPrediction) 任务:时间序列点预测(forecasting),context=512,horizon=96,7 通道 硬件:单卡昇腾 910B(Ascend910_9362,npu:0),torch 2.9.0 + torch_npu 2.9.0.post1 + CANN 8.5.1

模型简介

PatchTST 将多元时间序列切分为 patch 序列,以 Transformer 编码并输出未来预测,采用 channel-independent 设计(各通道共享同一套 embedding 与权重)。本仓为 IBM Granite 在 ETTh1 数据集上预训练并发布到 HuggingFace 的权重(model.safetensors,约 2.4 MB,FP32)。适配过程不修改任何模型权重,仅将其真实加载到昇腾 NPU 完成推理验证。

数据契约

  • 数据来源:官方 ETTh1.csv(SHA-256 f18de3ad269cef59bb07b5438d79bb3042d3be49bdeecf01c1cd6d29695ee066),17,420 行,按 date 升序且无缺失。
  • 通道列(顺序固定,7 列):HUFL, HULL, MUFL, MULL, LUFL, LULL, OT。
  • 推理输入:past_values 形状 [batch, context_length=512, num_input_channels=7],FP32。
  • 推理输出:prediction_outputs 形状 [batch, prediction_length=96, num_input_channels=7],FP32(已做模型内部 std 逆缩放)。
  • 证据使用真实 ETTh1 批量样例 hf-internal-testing/etth1-hourly-batch 的 train-batch.pt(past_values、future_values),不使用随机输入充当业务结果。

环境与安装

  • 操作系统:Linux aarch64;Python 3.11.14
  • 昇腾环境:CANN 8.5.1,Ascend910 双卡(使用 npu:0)
  • Python 依赖:见 requirements.txt,核心为 torch>=2.0.0、torch_npu>=2.1.0、transformers>=4.36.0、numpy、pandas、huggingface_hub
pip install -r requirements.txt

NPU 推理

默认命令(首次运行会自动从 HuggingFace / 镜像拉取权重与数据并缓存到本地):

python inference.py

使用本地已下载的模型与数据(离线、可复现,本次验证采用该方式):

python inference.py \
  --model-path <本地模型目录> \
  --data-path <ETTh1 train-batch.pt>

inference.py 会把模型与输入显式迁移到 npu:0,日志打印模型名、架构、device、dtype、输入/输出摘要、同步耗时与最终状态;异常返回非零退出码。

真实结果

本次在 npu:0 上以 batch=64 运行默认推理(真实 ETTh1 数据):

  • 输入 past_values [64, 512, 7],输出 prediction_outputs [64, 96, 7],输出全部有限值。
  • 首轮(含图编译)0.2188 s;稳定阶段(3 次预热 + 10 次计时)avg 7.07 ms/次,min 7.03 ms,max 7.13 ms,p50 7.07 ms,p90 7.10 ms,p95 7.10 ms。
  • 吞吐:约 9,054 windows/s(约 63,377 series/s);峰值 NPU 显存约 179 MB。
  • 各通道预测摘要(batch 内第 1 条,最后 3 步):
通道meanminmaxlast_3
HUFL-0.3581-2.17600.7470[0.1735, 0.2818, 0.4075]
HULL0.2652-0.55130.8083[-0.2100, 0.1266, 0.3717]
MUFL-0.3235-2.18710.8499[0.1965, 0.3324, 0.4786]
MULL0.2155-0.53730.6881[-0.2541, 0.0493, 0.2842]
LUFL-0.3327-0.79090.0595[-0.0485, -0.1537, -0.3107]
LULL-0.2300-0.48780.0117[-0.1598, -0.0579, -0.0566]
OT-0.6909-0.8278-0.5262[-0.6844, -0.7188, -0.7489]

CPU-NPU 一致性

使用完全相同权重、数据切片、预处理、FP32 dtype 与随机种子,分别保存 CPU 与 NPU 原始输出为 .npy 后比较(scripts/compare_outputs.py,task=forecasting):

  • 输出形状一致 [2, 96, 7],均有限值。
  • max_abs_error = 3.72e-4,mean_abs_error = 7.64e-5。
  • 阈值 atol=1e-3, rtol=1e-3(结合输出尺度 std≈0.66 与 FP32 昇腾算子差异设定),PASS。

性能

指标值
首轮编译+推理0.2188 s
稳定平均7.07 ms
p50 / p90 / p957.07 / 7.10 / 7.10 ms
峰值显存~179 MB
吞吐~9,054 windows/s(batch=64, 512→96, 7ch, FP32)

说明:性能为纯模型前向(不含 CSV 读取与数据预处理)。

证据图

以下三张图由 xterm.js 依据本次真实终端日志渲染生成(非手写、非截图工具模拟):

  • agent_workflow — 侦察、数据检查、模型加载、NPU 推理、一致性、提交校验全流程日志
  • npu_device_call — npu-smi info 与 NPU 可用性/设备名日志
  • model_result — python inference.py 默认推理真实完整输出

限制

  • 本模型为固定 context=512、horizon=96、7 通道的 ETTh1 预训练点预测模型;迁移到其他通道数/数据集需重新训练或微调。
  • 未提交任何模型权重(2.4 MB safetensors)与数据集;inference.py 首次运行需联网获取权重与样例数据,后续使用本地缓存离线推理。
  • 一致性验证基于真实数据单窗口/批次的 smoke-level 数值一致性,不构成完整测试集基准评测。