weixin_72661020/Erlangshen-RoBERTa-330M-Sentiment

Erlangshen-RoBERTa-330M-Sentiment

Github: Fengshenbang-LM
Docs: Fengshenbang-Docs

简介 Brief Introduction

中文RoBERTa-wwm-ext-large模型在多个情感分析任务上微调后的版本

这是中文RoBERTa-wwm-ext-large模型在多个情感分析数据集上的微调版本。

模型分类 Model Taxonomy

需求 Demand	任务 Task	系列 Series	模型 Model	参数 Parameter	额外 Extra
通用 General	自然语言理解 NLU	二郎神 Erlangshen	Roberta	330M	中文-情感分析 Chinese-Sentiment

模型信息 Model Information

基于chinese-roberta-wwm-ext-large，我们在收集的8个中文领域情感分析数据集（总计227,347个样本）上微调得到了一个情感分析版本。

基于chinese-roberta-wwm-ext-large，我们在8个中文情感分析数据集（总计227,347个样本）上微调了一个情感分析版本。

下游效果 Performance

模型 Model	ASAP-SENT	ASAP-ASPECT	ChnSentiCorp
Erlangshen-Roberta-110M-Sentiment	97.77	97.31	96.61
Erlangshen-Roberta-330M-Sentiment	97.9	97.51	96.66
Erlangshen-MegatronBert-1.3B-Sentiment	98.1	97.8	97

使用 Usage

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

p = pipeline(Tasks.text_classification, 'Fengshenbang/Erlangshen-RoBERTa-330M-Sentiment')
p(input='今天心情不好')

引用 Citation

如果您在您的工作中使用了我们的模型，可以引用我们的论文：

如果您在工作中使用了该资源，请引用我们的论文：

@article{fengshenbang,
  author    = {Junjie Wang and Yuxiang Zhang and Lin Zhang and Ping Yang and Xinyu Gao and Ziwei Wu and Xiaoqun Dong and Junqing He and Jianheng Zhuo and Qi Yang and Yongfeng Huang and Xiayu Li and Yanghan Wu and Junyu Lu and Xinyu Zhu and Weifeng Chen and Ting Han and Kunhao Pan and Rui Wang and Hao Wang and Xiaojun Wu and Zhongshen Zeng and Chongpei Chen and Ruyi Gan and Jiaxing Zhang},
  title     = {Fengshenbang 1.0: Being the Foundation of Chinese Cognitive Intelligence},
  journal   = {CoRR},
  volume    = {abs/2209.02970},
  year      = {2022}
}

也可以引用我们的网站:

您也可以引用我们的网站:

@misc{Fengshenbang-LM,
  title={Fengshenbang-LM},
  author={IDEA-CCNL},
  year={2021},
  howpublished={\url{https://github.com/IDEA-CCNL/Fengshenbang-LM}},
}

Ascend NPU 精度评测

NPU vs CPU 精度对比（CPU 为基线，NPU 为验证目标）：

指标	数值
测试用例数	10
最大 logits 差异	< 1%
预测一致性	10/10 (100%)
精度要求	NPU vs CPU 最大 logits 误差 < 1%
精度结论	✅ 通过 — CPU 与 NPU 精度一致

精度评测源代码和日志详见 eval/ 目录。