S
Solis_caser/Datadog-Toto-2.0-2.5B-Ascend-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Datadog/Toto-2.0-2.5B 昇腾 NPU 真实推理

模型介绍

本仓库提供 Datadog/Toto-2.0-2.5B 的精简昇腾适配实现。它是概率时间序列预测基础模型,不是对话或文本生成模型。已使用真实 AirPassengers 月度序列在 Ascend 910 的 npu:0 上完成官方 checkpoint 前向推理,参数、输入与输出均进行 NPU 设备断言。仓库不内嵌任何大模型权重。

上游模型

  • 模型:Datadog/Toto-2.0-2.5B
  • 固定 revision:51a2812bbe449437c01b79c0e425ed578f335f5b
  • 官方源码:DataDog/toto
  • 固定源码 commit:44ea4e88852228039564aa3e76fac26aafac0803
  • checkpoint:model.safetensors,9817176960 bytes
  • checkpoint SHA-256:dc08942b20751ac906167194d4ca4aa06b4367e80aabe5f1d5153b30b874bdb9

inference.py 首次运行时从比赛允许的 AtomGit 镜像按固定 revision 获取 config.json 与 model.safetensors,并对字节数和 SHA-256 做严格校验;源码同样固定到上述 commit。任何身份不一致都会终止,不会静默替换 checkpoint。

输入格式

脚本内置公开的 AirPassengers 真实月度乘客量序列,共 144 点。使用前 120 点作为已观测上下文,补齐到 128 点并以 mask 排除补齐位置,预测后续 24 步;输出九个分位数,形状为 [9, 1, 1, 24]。

NPU 环境

  • 硬件:昇腾 Ascend 910,设备 npu:0
  • Python:3.11.14
  • PyTorch:2.9.0+cpu(比赛容器预装)
  • torch_npu:2.9.0.post1+gitee7ba04(比赛容器预装)
  • CANN:8.5.1

requirements.txt 只列应用层依赖,不安装或升级 torch、torch_npu 与 CANN。

运行命令

python3 -m pip install -r requirements.txt
flock -x -w 1800 /tmp/ascend-model-agent-npu-v1.lock python3 inference.py

首次运行需要下载约 9.8 GB 的固定 checkpoint;后续运行会复用本地文件,但每次仍重新校验其身份。禁止 CPU fallback。

实际结果

真实运行结果保存在 npu_result.txt:

  • 模型:Datadog/Toto-2.0-2.5B@51a2812bbe449437c01b79c0e425ed578f335f5b
  • 输入:AirPassengers 144 点,context=120,horizon=24
  • 输出设备:npu
  • 输出 dtype:torch.float32
  • 输出 shape:[9, 1, 1, 24]
  • 数值有限:True
  • Q10/Q50/Q90 第一步:-1.3828 / 2.0210 / 4.7766
  • 运行状态:SUCCESS

这些分位数位于模型的 asinh 标准化空间,不应直接解释为原始乘客人数。

限制

  • 仅验证单卡 npu:0、单条 AirPassengers 序列和 FP32 路径。
  • 首次下载依赖网络和足够磁盘空间;下载失败或校验不一致会直接退出。
  • 本仓库不含 checkpoint、缓存、依赖 wheel 或开发日志。
  • 本结果证明指定样本的真实 NPU 前向成功,不代表所有数据集上的精度结论。

许可证

上游 DataDog/toto 源码采用 Apache License 2.0。使用模型与代码时仍需遵守上游模型卡、许可证及数据来源要求。

截图证据

Model Agent 工作流

Model Agent 工作流

NPU 设备调用

NPU 设备调用

模型真实推理结果

模型真实推理结果