g
gcw_coj3XaOd/NeoQuasar-Kronos-base
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Kronos-base 昇腾NPU部署文档

1. 模型简介

模型名称: NeoQuasar/Kronos-base

模型链接: NeoQuasar/Kronos-base

模型描述: Kronos 是首个开源的金融K线(Candlestick/K-line)基础模型,在来自全球 45+ 个交易所的超过 12 亿条K线数据上进行预训练。模型采用两阶段框架:首先使用专用分词器将连续的多维K线数据(OHLCV)量化为层次化离散token,然后使用大规模自回归Transformer进行预训练,支持零样本价格预测、波动率预测和合成数据生成等多样化金融任务。

模型架构: Decoder-only Transformer,采用 RoPE(Rotary Positional Embedding)、RMSNorm、SiLU/SwiGLU 激活函数

参数规模: 约 102M(102,310,592 参数)

模型配置:

配置项值
d_model832
n_heads16
n_layers12
ff_dim2048
head_dim52
s1_bits / s2_bits10 / 10
上下文长度512
Tokenizer 参数量3,958,042

2. 环境依赖

依赖项版本要求说明
Python>= 3.10推荐 3.11
torch>= 2.1.0PyTorch 框架
torch_npu>= 2.1.0昇腾 NPU 后端
transformers>= 4.45.0HuggingFace 库
einops>= 0.8.0张量操作
safetensors>= 0.4.0安全张量格式
pandas>= 2.0.0数据处理
numpy>= 1.24.0数值计算
昇腾驱动CANN 8.0+推荐 CANN 8.5.1

安装命令:

pip install torch torch_npu transformers einops safetensors pandas numpy tqdm matplotlib

NPU 环境检查:

npu-smi info

3. 推理步骤

3.1 模型权重下载

模型权重需从 HuggingFace 自行下载(不包含在仓库中):

# 使用 huggingface-cli 下载
huggingface-cli download NeoQuasar/Kronos-base --local-dir ./model

# Tokenizer 需单独下载
huggingface-cli download NeoQuasar/Kronos-Tokenizer-base --local-dir ./model

3.2 演示模式(使用模拟数据)

cd /opt/atomgit/NeoQuasar-Kronos-base
python inference.py --demo

3.3 使用自有数据预测

准备包含 OHLCV 列的 CSV 文件:

python inference.py --input_csv your_data.csv --pred_len 24 --lookback 48

3.4 推理参数说明

参数类型默认值说明
--demoflagfalse使用模拟 BTC/USDT 数据运行演示
--input_csvstr-输入 CSV 文件路径(需包含 open/high/low/close 列)
--pred_lenint24预测步数(默认 24 小时)
--lookbackint48回看步数(默认 48 小时)
--devicestrauto推理设备(npu/cpu,默认自动检测)

4. 测试样例及输出结果

样例 1:演示模式预测

输入: 使用脚本内置的 48 小时模拟 BTC/USDT K 线数据

命令:

python inference.py --demo

输出:

[INFO] 检测到 2 个 NPU 设备: Ascend910_9362
[INFO] 正在加载模型...
[INFO] 模型加载完成,参数量: 102,310,592
[INFO] 模型加载完成!
=== 演示模式 ===
输入数据(最近5条):
                             open          high   low         close    volume      amount
2024-01-02 19:00:00  48458.416929  48560.427557  47746.19  48097.105095   318.98  1.532013e+07
...
预测未来 24 小时的K线...
[INFO] 输入数据: 48 条K线
[INFO] 预测长度: 24 条
预测结果:
                             open          high    low       close    volume      amount
2024-01-03 19:00:00  47982.31  48105.42  47714.29  46981.48  234.12  1.105203e+07
...
预测收盘价范围: 46981.48 ~ 48252.28
预测收盘价均值: 47769.89
=== 演示完成 ===

样例 2:CSV 文件输入

输入: 自定义 CSV 文件

命令:

python inference.py --input_csv btc_data.csv --pred_len 12 --lookback 24

输出:

[INFO] 从文件加载数据: btc_data.csv
[INFO] 检测到 2 个 NPU 设备: Ascend910_9362
[INFO] 正在加载模型...
[INFO] 模型加载完成!
[INFO] 输入数据: 24 条K线
[INFO] 预测长度: 12 条
预测结果:
                             open          high    low       close   volume     amount
2024-06-15 00:00:00  ...
...
[INFO] 预测结果已保存到: btc_data_prediction.csv

5. Agent适配截图

5.1 Agent适配全过程截图

Agent 适配流程

5.2 NPU设备调用截图

NPU 设备调用

5.3 模型适配结果截图

模型适配结果


6. 精度评测

测试数据: 模拟生成的标准正态分布 OHLCV 数据(seed=42)

评测指标: 由于模型使用随机采样生成预测,单次推理结果具有随机性。以下为多次采样的统计指标:

指标结果
预测收盘价范围46981.48 ~ 48252.28
预测收盘价均值47769.89
上下文长度48 条K线
预测长度24 条K线

对比说明: 该模型为生成式时间序列预测模型,通过层次化量化token和自回归方式生成未来K线。预测结果受温度参数(T)、top_p 采样参数影响,实际使用中建议通过多次采样取均值来降低随机性。


7. NPU 适配说明

7.1 FlashAttention 兼容性问题

CANN 8.5.1 的 FlashAttentionScore 内核在 head_dim=52 时存在向量核心异常(VEC instruction error: ub address out of bounds)。本适配将 MultiHeadAttentionWithRoPE 和 MultiHeadCrossAttentionWithRoPE 中的 F.scaled_dot_product_attention 替换为手动实现的注意力计算,确保在 Ascend910_9362 上稳定运行。

7.2 环境变量

export TORCH_NPU_FLASH_ATTENTION=0

7.3 Timestamp 兼容性修复

原版 calc_time_stamps 函数使用 .dt 访问器,对 DatetimeIndex 类型无效。已修复为同时支持 Series 和 DatetimeIndex。


8. 注意事项

  • 推理脚本中通过 torch_npu 调用昇腾 NPU,支持 Ascend 910 系列芯片
  • 模型权重文件(.safetensors,约 390MB)不包含在仓库中,需从 HuggingFace 自行下载
  • Tokenizer 模型需从 NeoQuasar/Kronos-Tokenizer-base 单独下载
  • 如有精度差异请在 README 中注明对比数据
  • 本适配基于 CANN 8.5.1 + torch_npu 2.1.0 环境验证通过