BGE-M3,因在多功能性、多语言性和多粒度方面的卓越表现而著称。
| 环境配置 | 配置说明 |
|---|---|
| 硬件配置 | Atlas 800T A2 910B2(64G) |
| 驱动版本 | 23.0.5.1 |
| CANN版本 | 8.2.RC1 |
| Python版本 | 3.11.6 |
| torch版本 | 2.1.0 |
| 推理框架 | torch-npu |
| 推理镜像 | 见文件列表中videoimage5.tar |
| 部署方式 | 单卡 |
| 配套 | 版本 |
|---|---|
| FlagEmbedding | 1.2.11 |
| numpy | 1.26.4 |
| transformers | 4.44.0 |
| torchvision | 0.16.0 |
修改bge_m3.py脚本中模型路径:
base_dir = "模型实际所在位置"
model_path = f"{base_dir}/BAAI/bge-m3"运行python3 bge_m3.py完成测试。