m
mengsihan/NeoQuasar-Kronos-base-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

NeoQuasar/Kronos-base — 昇腾 NPU 时间序列预测适配

#NPU

本项目将 NeoQuasar/Kronos-base(金融 K 线 / OHLCV 时间序列预测基础模型,102.3M 参数)适配为可在**单卡昇腾 NPU(Ascend 910B / Ascend910_9362)**上真实运行的 GitCode AI 模型仓。

Kronos 是首个面向金融 K 线(candlestick)的开放基础模型,采用两阶段结构:

  1. KronosTokenizer(本适配配套使用 NeoQuasar/Kronos-Tokenizer-base)把连续多维 OHLCV 数据量化为分层离散 token(s1_bits=10, s2_bits=10,基于 Binary Spherical Quantization)。
  2. Kronos decoder-only Transformer(d_model=832, n_layers=12, n_heads=16, ff_dim=2048,RoPE + RMSNorm + SiLU FFN)在 token 上自回归生成,支持点预测 / 概率预测 / 合成数据。

模型权重 revision:2b554741eca47781b64468546e77fef3e85130e6 模型代码来源:https://github.com/shiyu-coder/Kronos (MIT License,model/kronos.py + model/module.py,已内联进 inference.py)。

数据契约(Data Contract)

  • 输入:K 线历史 DataFrame,必须包含列 open, high, low, close;volume, amount 可选(缺失自动补 0)。
  • 时间列:timestamps(datetime,5 分钟频率)。
  • 轴顺序:[batch=1, time, features=6];时间特征 minute, hour, weekday, day, month。
  • 上下文窗口:context=512(max_context=512,超长自动截断)。
  • 预测长度:pred_len=8(本证据),模型支持更长 horizon。
  • 预处理:按窗口均值/标准差标准化 → 裁剪到 [-5, 5] → tokenize → 自回归采样 → decode → 逆标准化。预处理/逆缩放包含在计时内。
  • 证据数据:官方 Kronos 仓库 tests/data/regression_input.csv 的真实 K 线样本(SHA-256 aa5efe0121b7cc098db1a169ed38f9878681ef14a93c85d54a618fd073048899)。inference.py 内嵌前 520 行作为默认示例(真实可追溯,非随机数据)。

环境(实测)

项值
OSUbuntu 22.04.5 LTS (aarch64)
Python3.11.14
PyTorch2.9.0+cpu
torch_npu2.9.0.post1+gitee7ba04
CANN8.5.1
NPUAscend910_9362 ×2(使用 npu:0,ASCEND_VISIBLE_DEVICES=14,15)
推理 dtypefloat32

安装

pip install -r requirements.txt
# torch_npu 需与 CANN 版本匹配(如 torch 2.9.0 + torch_npu 2.9.0.post1)

NPU 推理

# 默认:使用内嵌真实数据摘录,权重从本地 ./models 或 HF Hub 加载,在 npu:0 上推理
python inference.py

# 显式指定本地权重与完整数据
python inference.py \
  --model-dir /path/to/Kronos-base \
  --tokenizer-dir /path/to/Kronos-Tokenizer-base \
  --data /path/to/regression_input.csv \
  --context 512 --pred-len 8

脚本自包含(内联完整模型结构 + 数据摘录),异常返回非零退出码。

真实结果(npu:0 实测)

输入:regression_input.csv 前 512 行(XSHG 5 分钟 K 线),预测未来 8 个 5 分钟窗口。

timestampsopenhighlowclosevolumeamount
2024-07-03 09:5510.891010.923410.850410.91411403.51526817.1
2024-07-03 10:0010.908710.914610.885910.8975974.21065643.6
2024-07-03 10:0510.898110.905510.883510.8921928.91012332.0
2024-07-03 10:1010.894310.904910.884810.8968748.6818843.6
2024-07-03 10:1510.896210.906410.886810.8980713.8780855.6
2024-07-03 10:2010.897710.907710.888810.8996693.9758715.2
2024-07-03 10:2510.899510.909310.890710.9012681.2744847.2
2024-07-03 10:3010.900810.913210.894210.9053533.9584967.4

采样策略:greedy(top_k=1, top_p=1.0, T=1.0, sample_count=1),固定随机种子 123,结果可复现。

CPU-NPU 一致性

同一权重、同一输入切片、同一预处理/逆缩放、同一随机种子,分别用 CPU 与 npu:0 推理并保存原始输出数组,用 scripts/compare_outputs.py --task forecasting --atol 1e-4 --rtol 1e-3 对比:

contextCPU 耗时NPU 耗时max_abs_errormean_abs_error结论
51218.23 s0.44 s0.500.027PASS(量纲 ~1e6 的 amount 列相对误差 ~3e-7)
2568.07 s0.46 s0.560.048PASS

差异来自浮点(float32)累加顺序,量纲上可忽略;forecast 语义完全一致。无 CPU fallback。

性能(npu:0,单窗口 = 1 条序列 forecast,含预处理+逆缩放)

指标值
首轮编译+推理436.58 ms
稳态 avg / min / max111.62 / 107.82 / 119.38 ms
p50 / p90 / p95108.69 / 118.86 / 119.12 ms
吞吐量8.96 windows/s(series/s)
峰值显存503.8 MB
batch / context / horizon / channels / dtype1 / 512 / 8 / 6 / float32

流程:预热 3 次(含首轮编译),正式测试 10 次,每次前后 torch.npu.synchronize()。

证据图

三张证据图由 xterm.js 依据本次真实日志渲染生成(非手工绘制、非桌面截图):

  • assets/agent_workflow.png:侦察、数据检查、下载、加载、NPU 推理、一致性、性能与提交校验的完整工作流日志。
  • assets/npu_device_call.png:npu-smi info 与 NPU 可用性、设备名、模型参数 device/dtype、输入输出 Tensor device 日志。
  • assets/model_result.png:默认 python inference.py 的真实完整输出(schema、窗口摘要、真实预测、同步耗时、状态)。

限制

  • 本适配验证固定窗口(context 512 / 256 → horizon 8)的数值一致性与推理,不等同于完整数据集 benchmark。
  • Kronos 为概率模型;greedy 采样用于可复现性,生产使用建议 sample_count>1 或概率采样。
  • 未包含训练/微调流程,仅覆盖 NPU 推理。
  • 权重与数据不随仓库提交;首次运行 inference.py 若本地无权重将自动从 Hugging Face Hub 下载(可设 HF_ENDPOINT 镜像)。