# Step 0: 环境检查
npu-smi info
python3 -c "import torch; import torch_npu; print('NPU:', torch.npu.get_device_name(0))"
# Step 1: 配置HF镜像 + 安装依赖
export HF_ENDPOINT=https://hf-mirror.com
pip install transformers torchaudio
# Step 2: 运行推理
python3 inference.py| 问题 | 原因 | 解决方案 |
|---|---|---|
| HF 连接超时 | Pod 网络限制 | export HF_ENDPOINT=https://hf-mirror.com |
KeyError: 'torch_dtype' | transformers 版本差异 | 用 dtype= 替代 |
| NPU 容器掉线 | 容器切换 | 切 CPU容器→切回昇腾算力容器 |
| CANN owner 警告 | 容器权限 | 忽略,不影响结果 |