本文档记录 vn-address-normalizer 在昇腾 NPU 上的部署与验证结果。
vn-address-normalizer 是一款专为越南地址标准化设计的 Seq2Seq Transformer 模型,可将非标准越南地址文本转换为规范格式。
相关资源:
| 组件 | 版本 |
|---|---|
torch | 2.9.0+cpu |
torch_npu | 2.9.0.post1+gitee7ba04 |
safetensors | 0.4.5+cpu |
| CANN | 8.5.1 |
Ascend 910 (Chip 8, Bus 0000:0B:00.0)inference.py| 配置项 | 数值 |
|---|---|
| 架构 | Seq2Seq Transformer (Pre-LN) |
| 编码器层数 | 4 |
| 解码器层数 | 3 |
| d_model | 256 |
| nhead | 4 |
| d_ff | 1024 |
| 参数量 | ≈ 6.6M |
| src_vocab | 287 |
| tgt_vocab | 269 |
# 检查 NPU 设备
npu-smi infopython inference.py "p tan dinh q1 tphcm"
python inference.py "123 tran hung dao, district 1, hcmc" --repeat 3| 参数 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| input | str | - | 地址字符串(位置参数) |
| --input | str | - | 地址字符串(长选项) |
| --repeat | int | 1 | 重复推理次数 |
输入:
p tan dinh q1 tphcm输出:
[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入] p tan dinh q1 tphcm
============================================================
[#1] 0.644s -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================输入:
python inference.py "p tan dinh q1 tphcm" --repeat 3输出:
[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入] p tan dinh q1 tphcm
============================================================
[#1] 0.644s -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#2] 0.379s -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#3] 0.381s -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================inference.pytorch_npu 进行 NPU 算子调度run_npu.log