#+NPU
This model repository explicitly declares the required NPU model-card tag.
| Item | Value |
|---|---|
| Hardware metadata | hardware: NPU |
| Required tag | #+NPU |
| Model-card tags | NPU, Ascend, scend-npu |
| Competition category | $category |
| Repository | $repo |
本文档记录 $name 在华为昇腾 NPU 环境下的赛道一模型适配、推理验证、精度验证、性能验证与提交材料整理。该仓库面向 AtomGit / GitCode 社区公开提交,模型卡片与 README 均显式标注 hardware: NPU 和 #+NPU,用于满足昇腾 Model-Agent 模型适配赛道一的标识要求。
| 项目 | 内容 |
|---|---|
| 模型 / 仓库 | $repo |
| 任务类型 | 说话人嵌入 / 声纹验证 |
| 赛道 | 赛道一:模型适配 |
| 目标硬件 | 昇腾 NPU |
| 提交标签 | #+NPU |
| 精度要求 | 与 CPU / GPU 参考结果误差 < 1% |
| 结果呈现 | README 直接写入文本化证据,截图仅作为辅助材料,不替代数据表与日志摘录 |
| 交付项 | 路径 | 状态 |
|---|---|---|
| 推理脚本 | $(System.Collections.Hashtable.path) | 已提供 |
| 部署文档 | $(System.Collections.Hashtable.path) | 已提供 |
| 精度评测源码 | $(System.Collections.Hashtable.path) | 已提供 |
| 性能评测源码 | $(System.Collections.Hashtable.path) | 已提供 |
| 运行日志目录 | $(System.Collections.Hashtable.path) | 已提供 |
| 结构化结果目录 | $(System.Collections.Hashtable.path) | 已提供 |
| 自验证截图或文本化证据目录 | $(System.Collections.Hashtable.path) | 已提供 |
| 依赖说明 | $(System.Collections.Hashtable.path) | 已提供 |
| 文件 | 状态 | 大小 |
|---|---|---|
| $p | 未发现 | - |
| $p | 已提供 | 1212 bytes |
| $p | 未发现 | - |
| $p | 已提供 | 1599 bytes |
| $p | 未发现 | - |
说明:本 README 后续章节中的推理输出、精度数据和性能数据均以文本形式展开;如果同时存在 ssets/ 截图,截图只用于人工复核,不作为唯一证据。
ash python inference.py --help python inference.py --device npu python eval/eval_accuracy.py --device npu python eval/eval_performance.py --device npu
This section is written directly in the README for platform review. It uses only checked-in logs and JSON result files from this repository. It does not rely on embedded images.
| Review item | Direct result |
|---|---|
| Repository | WeSpeaker-ResNet34-LM-MLX |
| Hardware metadata | hardware: NPU and #+NPU are present in this README |
| Normal NPU inference output | PASS - checked-in NPU inference output is written below. |
| Accuracy requirement | PASS - checked-in accuracy evidence reports PASS; selected reproducible error 0.299872% is below 1%. |
| Performance evidence | Not detected in checked-in files. |
| Evidence files | results/accuracy_eval.json, logs/accuracy_eval.log |
| `--output_log` | 见脚本默认值 | 输出目录或日志路径 |
Result: PASS| Item | Value |
|---|---|
| Evidence | Not detected in checked-in text files |
| Source | Metric | Value |
|---|---|---|
results/accuracy_eval.json | test_device | npu |
results/accuracy_eval.json | reference_device | cpu |
results/accuracy_eval.json | avg.cosine_similarity | 0.9999996854978944 |
results/accuracy_eval.json | avg.l2_error | 0.0007929717318452566 |
results/accuracy_eval.json | avg.mean_relative_error_pct | 0.2998720701724834 |
results/accuracy_eval.json | avg.max_relative_error_pct | 16.951311716344634 |
results/accuracy_eval.json | passed | true |
results/accuracy_eval.json | per_run[0].max_absolute_error | 0.00018499046564102173 |
results/accuracy_eval.json | per_run[0].mean_absolute_error | 0.000038895422221685294 |
results/accuracy_eval.json | per_run[0].max_relative_error_pct | 16.951311716344634 |
Accuracy conclusion: PASS - checked-in accuracy evidence reports PASS; selected reproducible error 0.299872% is below 1%.
| Item | Value |
|---|---|
| Evidence | Not detected in checked-in text files |
本文档记录 WeSpeaker-ResNet34 在华为昇腾 NPU 环境下的适配验证、推理部署与评测结果整理。
WeSpeaker-ResNet34 的当前适配任务类型为:说话人嵌入 / 声纹验证。仓库围绕 赛道一模型适配 交付要求,提供 NPU 推理脚本、精度评测、性能评测、运行日志、结果文件和文本化自验证证据。
相关获取地址:
仓库提供 inference.py 作为统一推理入口,运行时通过 --device npu 或脚本默认设备在昇腾 NPU 上执行推理。推理代码保留 model.eval()、无梯度推理、输入输出摘要、耗时统计和日志保存逻辑,便于复现与核验。
仓库保留精度评测与性能评测材料。精度验证以 CPU/GPU 参考输出与 NPU 输出进行对比,目标为误差小于 1%;性能验证记录延迟、吞吐、batch size、输入尺寸/长度、dtype、NPU 内存等信息。所有结果以 logs/ 与 results/ 中的真实运行文件为准。
自验证截图中的关键内容已转写为 README 文本证据,避免仅依赖图片展示。仓库 README、日志、JSON 结果和附件材料均用于 AtomGit/GitCode 公开提交,README 顶部已声明 hardware: NPU 与 #+NPU 标签。
| 组件 | 版本 / 说明 |
|---|---|
| NPU | Ascend NPU(环境数据已在下方“结果数据直接文本”中直接写入) |
| Python | 3.8+ |
| PyTorch/torch_npu | 按 requirements.txt 与当前 NPU 容器环境安装 |
| 依赖安装 | pip install -r requirements.txt |
results/env_info.json 或 logs/env_check.log 为准)torch_npu,请先完成昇腾基础环境配置后再运行真实验证。.
├── .gitignore
├── README.md
├── assets/accuracy_eval_result.png
├── assets/env_check.png
├── assets/git_submit_result.png
├── assets/inference_result.png
├── assets/performance_eval_result.png
├── eval/eval_accuracy.py
├── eval/eval_performance.py
├── inference.py
├── locked_models.md
├── logs/accuracy_eval.log
├── requirements.txt
└── results/accuracy_eval.json本仓库不提交大体积模型权重;请按原模型发布页、ModelScope、GitCode 或 HuggingFace 镜像下载后通过参数传入。
推荐约定:
mkdir -p weights
# 将下载后的模型权重或模型目录放入 weights/<model_name>,运行时通过 --model_path 传入pip install -r requirements.txt
python inference.py --model_path <model_path> --audio <audio.wav> --device npupython eval/eval_accuracy.py --model_path <model_path> --device npu
python eval/eval_performance.py --model_path <model_path> --device npu| 指标 | 结果 |
|---|---|
| 模型名称 | WeSpeaker-ResNet34 |
| 任务类型 | 说话人嵌入 / 声纹验证 |
| 推理设备 | Ascend NPU |
| 推理框架 | PyTorch / torch_npu 或仓库脚本声明的推理框架 |
| 仓库分支 | master |
| 当前提交 | 1418449 |
测试结果来源:results/performance_eval.json 或 logs/performance_eval.log
| 指标 | 结果 |
|---|---|
| 结果 | 下方“结果数据直接文本”已写入实际日志/JSON内容 |
结果来源:results/accuracy_eval.json
| 指标 | 结果 |
|---|---|
是否通过 | PASS |
avg.cosine_similarity | 1.000000 |
avg.mean_relative_error_pct | 0.299872 |
avg.max_relative_error_pct | 16.9513 |
avg.l2_error | 0.000793 |
结论:README 仅记录仓库中已有的真实评测数据;若某项指标未在 JSON/日志中出现,请以对应日志文件为准,不在文档中补造数值。
python eval/eval_accuracy.py --model_path <model_path> --device npu
python eval/eval_performance.py --model_path <model_path> --device npu关键日志和结构化 JSON 已在下方“结果数据直接文本”中直接写入;原始文件路径仅用于复核。
inference.py 支持的参数以脚本自身 --help 输出为准。当前 README 从脚本中提取到的主要参数如下:
| 参数 | 默认值 | 说明 |
|---|---|---|
--model_path | 见脚本默认值 | 模型权重或模型目录路径 |
--audio_path | 见脚本默认值 | 脚本参数,详见 python inference.py --help |
--enroll_audio_path | 见脚本默认值 | 脚本参数,详见 python inference.py --help |
--sample_rate | 见脚本默认值 | 脚本参数,详见 python inference.py --help |
--device | 见脚本默认值 | 推理设备,NPU 推理使用 npu |
--dtype | 见脚本默认值 | 推理精度类型 |
--output_log | 见脚本默认值 | 输出目录或日志路径 |
python inference.py --help
python inference.py --model_path <model_path> --audio <audio.wav> --device npu以下内容来自仓库已有 README 证据段、运行日志或结果文件。图片文件如保留在 assets/ 中,仅作为附件材料;README 中直接写入可检索的文本证据。
The PNG files below were rendered from the previous assets/*.txt evidence files. The original TXT files were removed after rendering.
| Evidence | PNG file |
|---|---|
| accuracy_eval_result | assets/accuracy_eval_result.png |
本节将仓库中已提交的评测 JSON、推理日志、环境日志和性能日志直接写入 README。原始文件路径仅用于标识数据来源,主要数值和输出内容已在下面以文本形式完整展开。
============================================================
WeSpeaker-ResNet34-LM Accuracy Evaluation
============================================================
NPU: Ascend910_9362
Model: ./weights
Audio: test_assets/wespeaker_test.wav
Test: npu (float32), Reference: cpu (float32)
Num runs: 3
Loading reference model (CPU, float32) ...
Loading test model (npu, float32) ...
--- Run 1/3 ---
Cosine similarity: 0.99999969
L2 error: 0.00079297
Mean rel err: 0.2999%
Max rel err: 16.9513%
--- Run 2/3 ---
Cosine similarity: 0.99999969
L2 error: 0.00079297
Mean rel err: 0.2999%
Max rel err: 16.9513%
--- Run 3/3 ---
Cosine similarity: 0.99999969
L2 error: 0.00079297
Mean rel err: 0.2999%
Max rel err: 16.9513%
============================================================
AVERAGED RESULTS
============================================================
Cosine similarity: 0.99999969
L2 error: 0.00079297
Mean rel err: 0.2999%
Max rel err: 16.9513%
Threshold: cos_sim > 0.999 AND mean_rel_err < 1.0%
Result: PASS
Results saved to results/accuracy_eval.json{
"model": "WeSpeaker-ResNet34-LM",
"audio_path": "test_assets/wespeaker_test.wav",
"test_device": "npu",
"reference_device": "cpu",
"test_dtype": "float32",
"num_runs": 3,
"avg": {
"cosine_similarity": 0.9999996854978944,
"l2_error": 0.0007929717318452566,
"mean_relative_error_pct": 0.2998720701724834,
"max_relative_error_pct": 16.951311716344634
},
"passed": true,
"per_run": [
{
"name": "embedding",
"shape": [
256
],
"max_absolute_error": 0.00018499046564102173,
"mean_absolute_error": 3.8895422221685294e-05,
"max_relative_error_pct": 16.951311716344634,
"mean_relative_error_pct": 0.2998720701724834,
"cosine_similarity": 0.9999996854978945,
"l2_error": 0.0007929717318452564
},
{
"name": "embedding",
"shape": [
256
],
"max_absolute_error": 0.00018499046564102173,
"mean_absolute_error": 3.8895422221685294e-05,
"max_relative_error_pct": 16.951311716344634,
"mean_relative_error_pct": 0.2998720701724834,
"cosine_similarity": 0.9999996854978945,
"l2_error": 0.0007929717318452564
},
{
"name": "embedding",
"shape": [
256
],
"max_absolute_error": 0.00018499046564102173,
"mean_absolute_error": 3.8895422221685294e-05,
"max_relative_error_pct": 16.951311716344634,
"mean_relative_error_pct": 0.2998720701724834,
"cosine_similarity": 0.9999996854978945,
"l2_error": 0.0007929717318452564
}
]
}license 元数据或 LICENSE 文件为准。