Ascend-SACT/dinov3-vitb16-pretrain-lvd1689m
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

模型信息

"dinov3-vitb16-pretrain-lvd1689m"

服务器信息

内容版本
固件与驱动25.0.rc1
CANN8.3.rc1
Pytorch2.7.1
torch_npu2.7.1
transformers4.57.1
镜像vllm-ascandv0.11rc2

权重下载

git clone https://www.modelscope.cn/facebook/dinov3-vitb16-pretrain-lvd1689m.git

镜像下载地址

  1. 直接下载 vllm-ascandv0.11rc2
  2. 采用pull pull地址
docker pull quay.io/ascend/vllm-ascend:v0.11.0rc2

创建容器

vim docker_start.sh
#脚本内容如下
############################################################################
docker run -itd --privileged --name=容器名称  --net=host --shm-size=500g \
--device=/dev/davinci0 \
--device=/dev/davinci1 \
--device=/dev/davinci2 \
--device=/dev/davinci3 \
--device=/dev/davinci4 \
--device=/dev/davinci5 \
--device=/dev/davinci6 \
--device=/dev/davinci7 \
--device=/dev/davinci_manager \
--device=/dev/devmm_svm \
--device=/dev/hisi_hdc \
-v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
-v /usr/local/Ascend/add-ons/:/usr/local/Ascend/add-ons/ \
-v /usr/local/sbin/:/usr/local/sbin/ \
-v /var/log/npu/slog/:/var/log/npu/slog \
-v /var/log/npu/profiling/:/var/log/npu/profiling \
-v /var/log/npu/dump/:/var/log/npu/dump \
-v /var/log/npu/:/usr/slog \
-v /etc/hccn.conf:/etc/hccn.conf \
-v /data:/data \ #权重和推理脚本位置,可选不同路径
镜像ID \
bash
#########################################################

#进入容器
bash docker_start.sh
docker exec -it <容器名称> bash

适配代码下载

git clone https://gitcode.com/Ascend-SACT/dinov3-vitb16-pretrain-lvd1689m.git
cd dinov3-vitb16-pretrain-lvd1689m

推理执行脚本

python3 infer_air.py \
    --model_path=./xxx \
    --image_path=./xxx \
    --warm_image_path=./xxx \
    --device=npu:0

性能

适配操作单图推理性能
开箱0.50s
torch_npu0.021s
torch_npu+torch_air0.0018s