c
colour_hand/twitter-roberta-base-sentiment
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

RoBERTa 推文情感分类 — 昇腾 NPU 适配

1. 简介

  • 模型: cardiffnlp/twitter-roberta-base-sentiment-latest
  • 任务类型: 推文情感分类(neg/neu/pos)
  • 框架: PyTorch(transformers 原生 RobertaForSequenceClassification)
  • 参数量: 124.648M
  • 来源厂商: CardiffNLP

2. 验证环境

组件版本
torch2.9.0
CANN8.5.1
transformers4.57.6
Python3.11.14
硬件Ascend 910B

3. 推理步骤

source /usr/local/Ascend/ascend-toolkit/set_env.sh
python3 inference.py

4. 测试样例及输出结果

============================================================
RoBERTa 推文情感分类  NPU  + CPU/NPU 精度对比
============================================================
| device   : npu:0  (x2)
| model    : RoBERTa 推文情感分类 (124.648M params)
| load     : 1.00s
| model    : RoBERTa 推文情感分类 (124.648M params)
| load     : 0.10s
| input    : [2, 32]  (2 条, L=32)
| out shape: [2, 3]
| 输出 (第 0 个样本, 前 5 维):
|   [-0.8055 1.8464 -1.2772]
| cosine   : 0.99999058
| rel_err  : 0.491396%
| latency  : 8.53 ms
| result   : PASS ✅
============================================================

5. 性能参考

指标值
延迟8.53 ms(2 条 L=32 文本)
Cosine Similarity0.99999058

6. 精度评测

指标值
Cosine Similarity0.99999058
相对误差0.491396%

适配状态: PASS ✓

7. 注意事项

  1. 推理前需执行 source /usr/local/Ascend/ascend-toolkit/set_env.sh 设置 CANN 环境变量
  2. 模型权重存放于 /data/models/twitter-roberta-base-sentiment/,不要移动或修改
  3. transformers 原生 RobertaForSequenceClassification 直接加载(无需手写架构)
  4. 关键坑:
    • RoBERTa-base(12 层 / hidden=768 / 12 头),124.6M 参数
    • 输入 input_ids [B,L],输出 logits [B,3](neg/neu/pos)
    • 权重 model.safetensors
  5. 首次在 NPU 上运行可能需要额外的编译时间(kernel 缓存)