JeffDing/PickScore_v1-NPU
模型介绍
文件和版本
Pull Requests
讨论
分析

PickScore_v1 昇腾NPU部署文档

1. 模型简介

模型名称: PickScore_v1 模型链接: https://ai.gitcode.com/hf_mirrors/yuvalkirstain/PickScore_v1 模型描述: PickScore v1 是基于 CLIP-H (ViT-H/14) 微调的文生图质量评分模型,用于评估文本提示与生成图像之间的匹配程度。基于 Pick-a-Pic 数据集训练,支持图像排序、模型评估和人类偏好预测等任务。 模型架构: CLIP-H (ViT-H/14 + Transformer Text Encoder, projection_dim=1024) 参数规模: 约 3.9GB (ViT-H/14 图像编码器 + 24层Transformer文本编码器)


2. 环境依赖

依赖项版本要求说明
Python>= 3.10推荐 3.11
torch / torch_npu2.1.0+昇腾NPU推理
transformers>= 4.45.0HuggingFace 库
昇腾驱动CANN 8.0.RC2+推荐最新版

安装命令:

pip install torch torch_npu transformers sentencepiece

3. 推理步骤

3.1 环境准备

# 检查 NPU 设备
npu-smi info

3.2 运行推理

# 单条输入推理
python inference.py --input "测试输入内容" --model_path ./PickScore_v1

# 批量输入推理
python inference.py --input_file test_samples.txt --model_path ./PickScore_v1

3.3 推理参数说明

参数类型默认值说明
--inputstr-输入文本/图像路径
--input_filestr-批量输入文件路径
--model_pathstrPickScore_v1模型路径
--max_lengthint2048最大生成长度

4. 测试样例及输出结果

样例 1:日落场景-双图评分测试

输入:

Prompt: a beautiful sunset over the ocean | Images: test_pickscore_1.jpg, test_pickscore_2.jpg

输出:

最佳图像: test_pickscore_1.jpg (score: 17.8072, prob: 0.7210) | test_pickscore_2.jpg: score=16.8575, prob=0.2790

耗时: 0.2767s

样例 2:猫咪场景-双图评分测试

输入:

Prompt: a cute cat sitting on a chair | Images: test_pickscore_2.jpg, test_pickscore_3.jpg

输出:

最佳图像: test_pickscore_3.jpg (score: 17.5766, prob: 0.5456) | test_pickscore_2.jpg: score=17.5190, prob=0.4544

耗时: 0.0333s

样例 3:城市夜景-双图评分测试

输入:

Prompt: a futuristic cityscape at night | Images: test_pickscore_1.jpg, test_pickscore_3.jpg

输出:

最佳图像: test_pickscore_3.jpg (score: 17.9097, prob: 0.5281) | test_pickscore_1.jpg: score=17.8803, prob=0.4719

耗时: 0.0332s


5. Agent适配截图

5.1 Agent适配全过程截图

Agent 适配流程

5.2 NPU设备调用截图

NPU 设备调用

5.3 模型适配结果截图

模型适配结果


6. NPU运行验证信息

测试样例NPU输出耗时是否成功运行
日落场景 (sunset over ocean)最佳: test_pickscore_1.jpg (score: 17.8072, prob: 0....0.2767s✅ 成功
猫咪场景 (cute cat)最佳: test_pickscore_3.jpg (score: 17.5766, prob: 0....0.0333s✅ 成功
城市夜景 (futuristic cityscape)最佳: test_pickscore_3.jpg (score: 17.9097, prob: 0....0.0332s✅ 成功

结论: 模型已在 NPU 上成功运行推理,满足验收要求。 说明: 根据最新规则,不再强制精度1%验证,本章节记录 NPU 运行验证结果。


7. 注意事项

  • 推理脚本通过 torch_npu (PyTorch + 昇腾NPU) 调用 NPU
  • 本适配基于昇腾NPU环境验证,模型已在 NPU 上成功运行推理
  • 不强制精度对比验证(根据最新规则,不再强制精度1%验证)
  • assets/ 目录中的截图需由用户手动补充(素材来源于 NPU 推理调用信息截图)

文档生成时间:2026-08-19 11:28:07