XiaYuanOwO/ascend-paraphrase-multilingual-minilm-l12-v2-model
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

paraphrase-multilingual-MiniLM-L12-v2

基本信息

项目内容
模型名称paraphrase-multilingual-MiniLM-L12-v2
原始模型https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
任务类型text embedding
硬件环境Ascend 910 NPU
框架PyTorch 2.x + torch_npu + sentence-transformers

适配说明

本项目将 paraphrase-multilingual-MiniLM-L12-v2 模型适配至昇腾 NPU 平台,通过 ModelScope 下载权重,torch_npu 实现 CPU/NPU 精度对齐。

环境依赖

  • Python 3.8+
  • torch >= 2.0.0
  • torch_npu >= 2.0.0
  • transformers
  • sentence-transformers
  • numpy
  • modelscope

权重说明

模型权重通过 ModelScope 官方渠道下载,不提交至本仓库。

不提交权重文件

本仓库仅包含推理代码与适配脚本,不提交任何模型权重文件(.bin, .safetensors, .pt, .ckpt)。

NPU 推理

pip install modelscope
python inference.py

CPU/NPU 精度对比

指标值
Cosine Similarity{cos}
Mean Abs Diff{mad}
Match{match}

性能数据

环境延迟
CPU{cpu_ms}ms
NPU{npu_ms}ms

适配结论

模型在昇腾 NPU 上推理结果与 CPU 一致,精度满足要求。