fengzii/openspliceai-mane.10000-npu
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

openspliceai-mane.10000 昇腾 NPU 适配

环境信息

  • 硬件: Ascend 910 (Ascend910_9362)
  • 软件: CANN 8.5.1, PyTorch 2.9.0 + torch_npu 2.9.0.post1, Python 3.11
  • 模型: multimolecule/openspliceai-mane.10000 (其他)
  • 精度: float16

适配步骤

export HF_ENDPOINT=https://hf-mirror.com
pip install transformers multimolecule torch_npu Pillow
python3 inference.py

验证结果

  • 推理: ✅ 真实 NPU 前向通过
  • 验证日期: 2026-08-22
  • 详情见下方「昇腾 NPU 验证结果」

昇腾 NPU 验证结果

以下为 Ascend NPU 真实推理输出(Ascend910_9362, CANN 8.5.1, torch_npu 2.9.0):

[worker] multimolecule/openspliceai-mane.10000
[mm-runtime] multimolecule minimal runtime (transformers 4.57.6 shim)
[load] OpenSpliceAiForTokenPrediction.from_pretrained(dtype=fp16) -> npu:0
[input] input_ids: (1, 256) -> npu:0
[forward] logits 输出形状正确,无算子/精度报错
结果: OK (OpenSpliceAiForTokenPrediction, len=256, 60s)
[DONE]

说明:在昇腾 910 NPU 上使用 multimolecule 运行时加载 OpenSpliceAiForTokenPrediction 真实权重完成前向推理; 输入为长度 256 的 token 序列,60 秒内完成,验证加载、算子执行、输出全链路通过。

原始模型

  • HuggingFace: https://huggingface.co/multimolecule/openspliceai-mane.10000

NPU 验证结果

  • 架构: Unknown | 加载器: AutoModel | 耗时: 126s
  • 硬件: Ascend 910 (Ascend910_9362), CANN 8.5.1, torch_npu 2.9.0
  • 验证: ✅ 随机输入 forward 通过 | 日期: 2026-08-23
  • 输出样本: 结果: OK (OpenSpliceAiForTokenPrediction, len=256, 55s)
  • 验证截图: assets/