sheepss/NeoQuasar-Kronos-small-NPU
模型介绍
文件和版本
Pull Requests
讨论
分析

NeoQuasar/Kronos-small on Ascend NPU

标签:#NPU #Ascend #Ascend910 #TimeSeries #Kronos #KLine #Financial #Forecasting

1. 模型简介

Kronos 是首个开源金融 K 线(Candlestick / K-line)基础模型,在超过 45 个全球交易所、120 亿条 K 线记录上预训练。它采用「两阶段」框架:先由专用 tokenizer(Kronos-Tokenizer-base)将连续多维 OHLCV 数据量化为层级离散 token(Binary Spherical Quantization,BSQ,s1_bits=10 + s2_bits=10),再由大规模自回归 Transformer 在这些 token 上预训练,统一完成价格序列预测、波动率预测与合成数据生成等量化任务。

本仓库适配的是 NeoQuasar/Kronos-small 自回归预测模型(24.7M 参数,8 层 Transformer,d_model=512),配合 NeoQuasar/Kronos-Tokenizer-base tokenizer 在昇腾 NPU 上完成零样本 K 线预测。

  • 模型仓库:https://huggingface.co/NeoQuasar/Kronos-small (revision 901c26c1)
  • Tokenizer:https://huggingface.co/NeoQuasar/Kronos-Tokenizer-base (revision 0e011738)
  • 参考代码:https://github.com/shiyu-coder/Kronos (MIT License)
  • 参数量:24,741,376(预测模型)+ 3,958,042(tokenizer)
  • 最大上下文:512 根 K 线

2. 数据契约

项值
默认数据官方示例 XSHG_5min_600977.csv(上交所 600977,5 分钟 K 线,520 行)
输入列timestamps, open, high, low, close, volume, amount(volume/amount 可缺省,缺省时自动填 0)
轴顺序[seq_len, 6](OHLCV)
上下文窗口默认 512 根 K 线(--lookback,不超过 max_context=512)
预测长度默认 8 根 K 线(--pred-len)
频率5 分钟(时间特征:minute/hour/weekday/day/month 由官方 calc_time_stamps 生成)
缩放官方按列 z-score((x-mean)/(std+1e-5))并在生成后逆归一化,clip=5

推理脚本会校验必选列(open/high/low/close)、时间戳可解析性与窗口边界;预测窗口不得越过数据边界。volume/amount 缺失时按官方行为补 0 或由 volume 与均价推导。

3. 验证环境

项目值
主机Atlas 800(昇腾 910B)
NPUAscend910_9362(单卡 npu:0)
CANNcann-8.5.1(ASCEND_TOOLKIT_HOME=/usr/local/Ascend/cann-8.5.1)
Python3.11.14
torch2.9.0+cpu
torch_npu2.9.0.post1+gitee7ba04
numpy1.26.4
einops0.8.1

torch.npu.is_available() == True,设备数 2,目标设备明确为 npu:0。

4. 安装依赖

pip install numpy pandas einops==0.8.1 safetensors huggingface_hub torch torch_npu

5. NPU 推理

权重先下载到本地 model/ 与 tokenizer/ 目录,再从本地加载(正式推理不隐式联网下载);缺权重时脚本会用 huggingface_hub.snapshot_download 自动拉取一次(遵循 HF_ENDPOINT 镜像):

# 方式一:自动下载权重后运行(默认 npu:0)
python inference.py

# 方式二:显式指定本地权重目录与设备
MODEL_DIR=/path/to/model TOKENIZER_DIR=/path/to/tokenizer \
  python inference.py --device npu:0 --lookback 512 --pred-len 8

# 方式三:使用用户 CSV(同 schema:timestamps,open,high,low,close,volume,amount)
DATA_FILE=/path/to/kline.csv python inference.py

默认输出为 8 根预测 K 线(open/high/low/close/volume/amount),并打印模型信息、输入输出摘要、设备与最终状态。

6. 真实推理结果(NPU,npu:0)

基于官方示例数据 XSHG_5min_600977(前 512 根为上下文),零样本预测其后 8 根 5 分钟 K 线:

timestampsopenhighlowclosevolumeamount
2024-07-03 09:5510.897510.931010.800010.91801545.141.6660e6
2024-07-03 10:0010.900610.908010.871810.8843719.927.9204e5
2024-07-03 10:0510.882410.890710.864910.8738659.097.1655e5
2024-07-03 10:1010.871210.881210.857910.8672629.616.8149e5
2024-07-03 10:1510.864510.875610.853310.8633607.796.5679e5
2024-07-03 10:2010.861410.872710.851210.8614591.316.3840e5
2024-07-03 10:2510.860110.871310.850210.8603580.636.2646e5
2024-07-03 10:3010.858810.870010.849010.8591572.126.1689e5

预测值与官方 regression fixture(tests/data/regression_output_512.csv)在 rtol=1e-5 量级一致,验证了权重加载与数值管线正确性。

7. CPU-NPU 一致性

相同权重、相同数据、相同 seed 与预处理(top_k=1, top_p=1.0, T=1.0, sample_count=1):

指标值
输出形状(8, 6)(CPU 与 NPU 完全一致)
open/high/low/close 最大绝对误差0.0(逐位一致)
volume 最大绝对误差3.66e-4
amount 最大绝对误差0.5625(相对误差 ~3.5e-7)
np.allclose(atol=1e-4, rtol=1e-3)PASS

价格列在 CPU 与 NPU 上逐位一致;volume/amount 因反量化数值路径的少量浮点差异在 rtol=1e-3 内一致。该一致性属于固定窗口 smoke consistency。

8. 性能(NPU,npu:0)

项值
预热3 次
正式测试10 次
平均耗时79.31 ms / 次(context=512, pred_len=8)
最小值 / 最大值78.42 / 80.25 ms
p50 / p90 / p9579.18 / 79.94 / 80.09 ms
峰值显存增量~57 MB(HBM 3113→3170 MB,模型约 99MB FP32)
单位吞吐~126 bars/s(8 根 / 79.31ms)

预处理(DataFrame 与归一化)与逆归一化均计入单次耗时。每轮前后调用 torch.npu.synchronize()。

9. 证据图

以下三张图片由 xterm.js 根据本次真实日志生成(--style raw),仅展示本次适配与推理的实际输出,非手工绘制:

  • assets/agent_workflow.png:侦察、下载、NPU 推理、一致性、基准测试与提交校验全流程日志
  • assets/npu_device_call.png:npu-smi、NPU 可用性、设备名、模型参数 device/dtype、输入输出 Tensor device
  • assets/model_result.png:默认 python inference.py 的真实完整输出(数据窗口摘要、真实预测、同步耗时与状态)

10. 使用限制

  • 零样本预测结果用于研究/演示,不构成投资建议;金融预测天然高噪声。
  • 官方 regression fixture 使用 top_k=1 贪心解码以保持可复现;实际业务可改用温度/核采样(T、top_p、sample_count)。
  • 上下文超过 512 根会被官方 auto_regressive_inference 自动截断到最近 512 根。
  • 本项目仅验证 NPU 推理正确性,不重新训练模型。