模型:ibm-granite/granite-timeseries-patchtst(revision
main,PatchTSTForPrediction) 任务:时间序列点预测(forecasting),context=512,horizon=96,7 通道 硬件:单卡昇腾 910B(Ascend910_9362,npu:0),torch 2.9.0 + torch_npu 2.9.0.post1 + CANN 8.5.1
PatchTST 将多元时间序列切分为 patch 序列,以 Transformer 编码并输出未来预测,采用 channel-independent 设计(各通道共享同一套 embedding 与权重)。本仓为 IBM Granite 在 ETTh1 数据集上预训练并发布到 HuggingFace 的权重(model.safetensors,约 2.4 MB,FP32)。适配过程不修改任何模型权重,仅将其真实加载到昇腾 NPU 完成推理验证。
ETTh1.csv(SHA-256 f18de3ad269cef59bb07b5438d79bb3042d3be49bdeecf01c1cd6d29695ee066),17,420 行,按 date 升序且无缺失。HUFL, HULL, MUFL, MULL, LUFL, LULL, OT。past_values 形状 [batch, context_length=512, num_input_channels=7],FP32。prediction_outputs 形状 [batch, prediction_length=96, num_input_channels=7],FP32(已做模型内部 std 逆缩放)。hf-internal-testing/etth1-hourly-batch 的 train-batch.pt(past_values、future_values),不使用随机输入充当业务结果。8.5.1,Ascend910 双卡(使用 npu:0)torch>=2.0.0、torch_npu>=2.1.0、transformers>=4.36.0、numpy、pandas、huggingface_hubpip install -r requirements.txt默认命令(首次运行会自动从 HuggingFace / 镜像拉取权重与数据并缓存到本地):
python inference.py使用本地已下载的模型与数据(离线、可复现,本次验证采用该方式):
python inference.py \
--model-path <本地模型目录> \
--data-path <ETTh1 train-batch.pt>inference.py 会把模型与输入显式迁移到 npu:0,日志打印模型名、架构、device、dtype、输入/输出摘要、同步耗时与最终状态;异常返回非零退出码。
本次在 npu:0 上以 batch=64 运行默认推理(真实 ETTh1 数据):
past_values [64, 512, 7],输出 prediction_outputs [64, 96, 7],输出全部有限值。| 通道 | mean | min | max | last_3 |
|---|---|---|---|---|
| HUFL | -0.3581 | -2.1760 | 0.7470 | [0.1735, 0.2818, 0.4075] |
| HULL | 0.2652 | -0.5513 | 0.8083 | [-0.2100, 0.1266, 0.3717] |
| MUFL | -0.3235 | -2.1871 | 0.8499 | [0.1965, 0.3324, 0.4786] |
| MULL | 0.2155 | -0.5373 | 0.6881 | [-0.2541, 0.0493, 0.2842] |
| LUFL | -0.3327 | -0.7909 | 0.0595 | [-0.0485, -0.1537, -0.3107] |
| LULL | -0.2300 | -0.4878 | 0.0117 | [-0.1598, -0.0579, -0.0566] |
| OT | -0.6909 | -0.8278 | -0.5262 | [-0.6844, -0.7188, -0.7489] |
使用完全相同权重、数据切片、预处理、FP32 dtype 与随机种子,分别保存 CPU 与 NPU 原始输出为 .npy 后比较(scripts/compare_outputs.py,task=forecasting):
[2, 96, 7],均有限值。max_abs_error = 3.72e-4,mean_abs_error = 7.64e-5。atol=1e-3, rtol=1e-3(结合输出尺度 std≈0.66 与 FP32 昇腾算子差异设定),PASS。| 指标 | 值 |
|---|---|
| 首轮编译+推理 | 0.2188 s |
| 稳定平均 | 7.07 ms |
| p50 / p90 / p95 | 7.07 / 7.10 / 7.10 ms |
| 峰值显存 | ~179 MB |
| 吞吐 | ~9,054 windows/s(batch=64, 512→96, 7ch, FP32) |
说明:性能为纯模型前向(不含 CSV 读取与数据预处理)。
以下三张图由 xterm.js 依据本次真实终端日志渲染生成(非手写、非截图工具模拟):
— 侦察、数据检查、模型加载、NPU 推理、一致性、提交校验全流程日志
— npu-smi info 与 NPU 可用性/设备名日志
— python inference.py 默认推理真实完整输出inference.py 首次运行需联网获取权重与样例数据,后续使用本地缓存离线推理。