| 项目 | 版本 |
|---|---|
| NPU | Ascend910B |
| CANN | 8.5.1 |
| Python | 3.11 |
| torch_npu | 2.6.0 |
| funasr | 1.3.1 |
通过 ModelScope 的 snapshot_download 下载至本地缓存目录,推理时从本地加载。
python inference.pyפיגועי תיאור לאחרונה אנשי ביצוע מתקפה קטלנית על בית כלא מאוד משמעותי בצפון מזרח סוריה השתלטו עליו אפילו שחררו מאות אסירים של הארגון ארגון הזה חי ובועט通过 register_forward_hook 在 model.model.encoder 上捕获编码器输出,计算 CPU 与 NPU 之间的数值差异。
| 指标 | 值 |
|---|---|
| 最大绝对误差 | 0.0050 |
| 平均绝对误差 | 0.0001 |
| 相对误差 | 0.099% |
| 余弦相似度 | 0.99999985 |
| 阈值 | 1.0% |
| 结果 | 通过 |
| 指标 | 值 |
|---|---|
| 平均延迟(毫秒) | 3126.90 |
| 最小延迟(毫秒) | 3036.96 |
| 最大延迟(毫秒) | 3216.58 |
| p50 延迟(毫秒) | 3139.78 |
| p90 延迟(毫秒) | 3205.17 |
| p95 延迟(毫秒) | 3210.87 |
| 音频时长(秒) | 12.13 |
| 实时率 | 0.2578 |
iic-speech_UniASR_asr_2pass-he-16k-common-vocab1085-pytorch-NPU/
├── model_utils.py # 模型加载与音频处理工具
├── inference.py # NPU 推理脚本
├── eval_consistency.py # CPU-NPU 数值一致性校验
├── benchmark.py # 性能测试
├── requirements.txt # 依赖
├── .gitignore
├── assets/
│ └── test.wav # 测试音频
├── logs/
│ ├── inference.log
│ ├── consistency.log
│ └── benchmark.log
├── screenshots/
│ └── self_verification.png
└── README.md# 安装依赖
pip install -r requirements.txt
# NPU 推理
python inference.py
# CPU-NPU 一致性校验
python eval_consistency.py
# 性能测试
python benchmark.py#NPU