sentence-transformers/paraphrase-multilingual-mpnet-base-v2 是基于 XLM-RoBERTa/mpnet 架构的多语言句子嵌入模型(约 278M 参数),将 50+ 种语言的句子映射为 768 维向量, 经 mean pooling + L2 归一化后可直接用余弦相似度做跨语言语义检索 / 释义识别。
~/models/sentence-transformers/paraphrase-multilingual-mpnet-base-v2python3 inference.py
# 可用 MODEL_PATH / NPU_DEV 环境变量覆盖默认路径与设备import torch_npu 再加载模型,设备固定 npu:0,精度 fp16。attn_implementation="eager" 规避 NPU 上 SDPA 算子兼容问题。AutoModel + mean pooling
等价复现官方 SentenceTransformer 嵌入逻辑(L2 归一化后点积即余弦相似度)。torch.npu.max_memory_allocated())assets/npu_result.json: 设备、精度、峰值显存、耗时与相似度摘要。assets/*.png: 适配流程、设备调用、推理结果三张终端截图。