NPU Tag Evidence

This repository is published as an Ascend NPU model repository. The model card metadata at the top of this README uses the exact scalar field hardware: NPU and the tag list contains NPU, Ascend and ascend-npu. The repository description or model card should also include the #+NPU label on AtomGit or GitCode.

Track 1 Model Card Summary

Deliverable Checklist

Accuracy Evidence Requirement

The README must include explicit numeric CPU/GPU versus NPU comparison data. The key acceptance target is error less than 1 percent. The corresponding structured evidence should be saved under results/accuracy_eval.json and logs/accuracy_eval.log when available.

#+NPU

Kokoro-82M on Ascend NPU

Platform Review Evidence Summary (Direct Text)

This section is written directly in the README for platform review. It uses only checked-in logs and JSON result files from this repository. It does not rely on embedded images.

Normal NPU Inference Output Evidence

| `--output_wav` | 见脚本默认值 | 脚本参数，详见 python inference.py --help |
| `--output_log` | 见脚本默认值 | 输出目录或日志路径 |
Result: PASSED

NPU Inference Metrics

CPU/GPU Reference vs NPU Accuracy Evidence

Accuracy conclusion: PASS - checked-in accuracy evidence reports PASS; selected reproducible error 0% is below 1%.

Performance Evidence

Kokoro-82M on Ascend NPU

1. 简介

本文档记录 Kokoro-82M 在华为昇腾 NPU 环境下的适配验证、推理部署与评测结果整理。

Kokoro-82M 的当前适配任务类型为：语音合成 / 文本转语音。仓库围绕 赛道一模型适配 交付要求，提供 NPU 推理脚本、精度评测、性能评测、运行日志、结果文件和文本化自验证证据。

相关获取地址：

• 相关地址：https://gitcode.com/hf_mirrors/AI-ModelScope/Kokoro-82M
• 相关地址：https://atomgit.com/nanyizjm/Kokoro-82M-Ascend-NPU.git
• 相关地址：https://gitcode.com/nanyizjm/Kokoro-82M-Ascend-NPU
• 适配代码仓库：https://gitcode.com/nanyizjm/Kokoro-82M-Ascend-NPU

2. 适配内容

2.1 NPU 推理适配

仓库提供 inference.py 作为统一推理入口，运行时通过 --device npu 或脚本默认设备在昇腾 NPU 上执行推理。推理代码保留 model.eval()、无梯度推理、输入输出摘要、耗时统计和日志保存逻辑，便于复现与核验。

2.2 精度与性能评测

仓库保留精度评测与性能评测材料。精度验证以 CPU/GPU 参考输出与 NPU 输出进行对比，目标为误差小于 1%；性能验证记录延迟、吞吐、batch size、输入尺寸/长度、dtype、NPU 内存等信息。所有结果以 logs/ 与 results/ 中的真实运行文件为准。

2.3 证据文本化与提交整理

自验证截图中的关键内容已转写为 README 文本证据，避免仅依赖图片展示。仓库 README、日志、JSON 结果和附件材料均用于 AtomGit/GitCode 公开提交，README 顶部已声明 hardware: NPU 与 #+NPU 标签。

3. 环境要求

• NPU：Ascend NPU（具体型号以 results/env_info.json 或 logs/env_check.log 为准）
• Python：3.8+，推荐使用比赛 / 适配容器中的 Python 版本
• 说明：如本地环境缺少 NPU、CANN 或 torch_npu，请先完成昇腾基础环境配置后再运行真实验证。

4. 快速开始

4.1 目录结构

.
├── .gitignore
├── README.md
├── assets/accuracy_eval_result.png
├── assets/env_check.png
├── assets/git_submit_result.png
├── assets/inference_result.png
├── assets/performance_eval_result.png
├── eval/eval_accuracy.py
├── eval/eval_accuracy_standalone.py
├── eval/eval_performance.py
├── inference.py
├── locked_models.md
├── logs/accuracy_eval.log
├── requirements.txt
└── results/accuracy_eval.json

4.2 权重准备

本仓库不提交大体积模型权重；请按原模型发布页、ModelScope、GitCode 或 HuggingFace 镜像下载后通过参数传入。

推荐约定：

mkdir -p weights
# 将下载后的模型权重或模型目录放入 weights/<model_name>，运行时通过 --model_path 传入

4.3 NPU 推理

pip install -r requirements.txt
python inference.py --model_path <model_path> --device npu

4.4 精度与性能评测

python eval/eval_accuracy.py --model_path <model_path> --device npu
python eval/eval_performance.py --model_path <model_path> --device npu

5. 验证结果

5.1 模型信息

5.2 推理性能

测试结果来源：results/performance_eval.json 或 logs/performance_eval.log

5.3 NPU vs CPU/GPU 精度对比

结果来源：results/accuracy_eval.json

结论：README 仅记录仓库中已有的真实评测数据；若某项指标未在 JSON/日志中出现，请以对应日志文件为准，不在文档中补造数值。

5.4 精度性能评测脚本

python eval/eval_accuracy.py --model_path <model_path> --device npu
python eval/eval_performance.py --model_path <model_path> --device npu

关键日志和结构化 JSON 已在下方“结果数据直接文本”中直接写入；原始文件路径仅用于复核。

6. 推理脚本说明

inference.py 支持的参数以脚本自身 --help 输出为准。当前 README 从脚本中提取到的主要参数如下：

手动调用示例

python inference.py --help
python inference.py --model_path <model_path> --device npu

7. 自验证文本证据

以下内容来自仓库已有 README 证据段、运行日志或结果文件。图片文件如保留在 assets/ 中，仅作为附件材料；README 中直接写入可检索的文本证据。

Rendered Screenshot Evidence

The PNG files below were rendered from the previous assets/*.txt evidence files. The original TXT files were removed after rendering.

9. 结果数据直接文本

本节将仓库中已提交的评测 JSON、推理日志、环境日志和性能日志直接写入 README。原始文件路径仅用于标识数据来源，主要数值和输出内容已在下面以文本形式完整展开。

logs/accuracy_eval.log

• 文件大小：832 bytes
• 以下内容为 README 直接文本转写，不是外部路径引用。

============================================================
Kokoro-82M-Ascend-NPU Standalone Accuracy Evaluation
============================================================
Model path: /opt/atomgit/atomgit_audit/Kokoro-82M-model
NPU available: True
Loading weights from /opt/atomgit/atomgit_audit/Kokoro-82M-model/kokoro-v1_0.pth...
Total parameters: 548

[Test 1] BERT encoder transformer layers

[Test 2] Text encoder

[Test 3] Predictor network

[Test 4] Decoder network
  module.generator.m_source.l_linear.weight - Cosine: 1.000000, MRE: 0.000000

============================================================
Average cosine similarity: 1.000000
Max relative error:       0.000000
Result: PASSED
============================================================

Results saved to results/accuracy_eval.json

results/accuracy_eval.json

• 文件大小：383 bytes
• 以下内容为 README 直接文本转写，不是外部路径引用。

{
  "model": "Kokoro-82M-Ascend-NPU",
  "comparison": "NPU vs CPU",
  "cosine_similarity": 1.0,
  "filtered_mean_relative_error": 0.0,
  "passed": true,
  "npu_available": true,
  "details": [
    {
      "test": "decoder_module.generator.m_source.l_linear.weight",
      "cosine": 0.9999999999991293,
      "mre": 0.0
    }
  ],
  "timestamp": "2026-05-17 02:40:00"
}

8. 许可证与声明

• 适配代码许可证以本仓库 license 元数据或 LICENSE 文件为准。
• 原始模型权重许可证以模型发布方为准。
• 本仓库不应提交私钥、token、API key、缓存目录或大体积权重文件。
• 文档中的运行结果来自仓库现有日志和 JSON 结果文件；未验证的数值不会在 README 中虚构。