vn-address-normalizer on Ascend NPU

1. 简介

本文档记录 vn-address-normalizer 在昇腾 NPU 上的部署与验证结果。

vn-address-normalizer 是一款专为越南地址标准化设计的 Seq2Seq Transformer 模型，可将非标准越南地址文本转换为规范格式。

2. 验证环境

组件	版本
`torch`	`2.9.0+cpu`
`torch_npu`	`2.9.0.post1+gitee7ba04`
`safetensors`	`0.4.5+cpu`
CANN	`8.5.1`

NPU：Ascend 910 (Chip 8, Bus 0000:0B:00.0)
推理脚本：inference.py

3. 模型配置

配置项	数值
架构	Seq2Seq Transformer (Pre-LN)
编码器层数	4
解码器层数	3
d_model	256
nhead	4
d_ff	1024
参数量	≈ 6.6M
src_vocab	287
tgt_vocab	269

4. 推理步骤

4.1 环境准备

# 检查 NPU 设备
npu-smi info

4.2 运行推理

python inference.py "p tan dinh q1 tphcm"
python inference.py "123 tran hung dao, district 1, hcmc" --repeat 3

4.3 推理参数说明

参数	类型	默认值	说明
input	str	-	地址字符串（位置参数）
--input	str	-	地址字符串（长选项）
--repeat	int	1	重复推理次数

5. 测试样例及输出结果

样例 1：地址标准化推理

输入：

p tan dinh q1 tphcm

输出：

[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入]  p tan dinh q1 tphcm
============================================================
[#1] 0.644s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================

样例 2：连续推理测试

输入：

python inference.py "p tan dinh q1 tphcm" --repeat 3

输出：

[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入]  p tan dinh q1 tphcm
============================================================
[#1] 0.644s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#2] 0.379s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#3] 0.381s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================

6. 注意事项

本模型为定制 seq2seq 模型，非 HuggingFace 通用模型，需使用自定义 inference.py
推理脚本直接使用 torch_npu 进行 NPU 算子调度
推理进程在 npu-smi 中可见，NPU AICore 利用率峰值约 10%
完整日志见 run_npu.log

vn-address-normalizer on Ascend NPU

1. 简介

本文档记录 vn-address-normalizer 在昇腾 NPU 上的部署与验证结果。

vn-address-normalizer 是一款专为越南地址标准化设计的 Seq2Seq Transformer 模型，可将非标准越南地址文本转换为规范格式。

2. 验证环境

组件	版本
`torch`	`2.9.0+cpu`
`torch_npu`	`2.9.0.post1+gitee7ba04`
`safetensors`	`0.4.5+cpu`
CANN	`8.5.1`

NPU：Ascend 910 (Chip 8, Bus 0000:0B:00.0)
推理脚本：inference.py

3. 模型配置

配置项	数值
架构	Seq2Seq Transformer (Pre-LN)
编码器层数	4
解码器层数	3
d_model	256
nhead	4
d_ff	1024
参数量	≈ 6.6M
src_vocab	287
tgt_vocab	269

4. 推理步骤

4.1 环境准备

# 检查 NPU 设备
npu-smi info

4.2 运行推理

python inference.py "p tan dinh q1 tphcm"
python inference.py "123 tran hung dao, district 1, hcmc" --repeat 3

4.3 推理参数说明

参数	类型	默认值	说明
input	str	-	地址字符串（位置参数）
--input	str	-	地址字符串（长选项）
--repeat	int	1	重复推理次数

5. 测试样例及输出结果

样例 1：地址标准化推理

输入：

p tan dinh q1 tphcm

输出：

[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入]  p tan dinh q1 tphcm
============================================================
[#1] 0.644s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================

样例 2：连续推理测试

输入：

python inference.py "p tan dinh q1 tphcm" --repeat 3

输出：

[INFO] 推理设备: npu (npu:0)
[INFO] 模型加载完成, 参数量 ≈ 6.6M
============================================================
[输入]  p tan dinh q1 tphcm
============================================================
[#1] 0.644s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#2] 0.379s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
[#3] 0.381s  -> ỉzòÁ公ứứứởÁứ隧ÁÁÁÁÁứứứứ隧ÁTở>òÁứ̀̀南ÁÁÁ̀̀̀南íímứūr̀南ứ南隧ởởūnẩẩứứ隧Sd隧ởS隧新新MMòūớ<UNK>隧ứ速ứ隧ứỚ隧公ứứứ隧隧í*公̀Àứ̀G
============================================================

6. 注意事项

本模型为定制 seq2seq 模型，非 HuggingFace 通用模型，需使用自定义 inference.py
推理脚本直接使用 torch_npu 进行 NPU 算子调度
推理进程在 npu-smi 中可见，NPU AICore 利用率峰值约 10%
完整日志见 run_npu.log