Ascend-SACT/bge-m3
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

1 模型介绍

BGE-M3,因在多功能性、多语言性和多粒度方面的卓越表现而著称。

  1. 多功能性:能够同时执行嵌入模型的三种常见检索功能:密集检索、多向量检索和稀疏检索。
  2. 多语言性:支持超过100种工作语言。
  3. 多粒度:能够处理不同粒度的输入,从短句到长达8192个令牌的长文档。

2 环境准备

环境配置配置说明
硬件配置Atlas 800T A2 910B2(64G)
驱动版本23.0.5.1
CANN版本8.2.RC1
Python版本3.11.6
torch版本2.1.0
推理框架torch-npu
推理镜像见文件列表中videoimage5.tar
部署方式单卡
配套版本
FlagEmbedding1.2.11
numpy1.26.4
transformers4.44.0
torchvision0.16.0

3 测试脚本使用方法

修改bge_m3.py脚本中模型路径:

base_dir = "模型实际所在位置"
model_path = f"{base_dir}/BAAI/bge-m3"

运行python3 bge_m3.py完成测试。