本仓库包含了 DamarJati/NSFW-Filterization-DecentScan 在华为昇腾 NPU 上的适配与推理实现。
本模型基于 HuggingFace Transformers Pipeline 进行推理,在昇腾 NPU 上通过 torch_npu 实现硬件加速。
pip install -r requirements.txtpython inference.pypip install -r requirements.txtpython inference.pypython compare_cpu_npu.py| 指标 | 数值 |
|---|---|
| CPU 推理耗时 | 0.2092s |
| NPU 推理耗时 | 0.0184s |
| MAE (平均绝对误差) | 0.000124 |
| Max Error (最大误差) | 0.000124 |
| MSE (均方误差) | 0.000000 |
| 误差百分比 | 0.0124% |
结论: NPU 与 CPU 推理误差 < 1%
| 设备 | 推理耗时 (s) |
|---|---|
| CPU | 0.2092 |
| NPU | 0.0184 |
CPU inference time: 0.2092s
NPU inference time: 0.0184s