iic/nlp_style_classification_english on Ascend NPU

1. 简介

本文档记录 iic/nlp_style_classification_english 在昇腾 Ascend NPU 环境的适配与验证结果。

该模型基于 FastText 算法，用于英文句子的文风分类（Style Classification），支持以下四类文风：

• news：新闻文风，各类常用的书面语
• tech：科技文风，包括技术文档、科技文献等
• spoken：口语文风，各类非书面的口语表达
• ecomm：电商文风，电商场景的标题、评论、描述等

模型基于 FastText 训练，无需 GPU 即可进行高效推理，在内部测试集上 4 类文风平均分类准确率为 90.83%。

相关获取地址：

• 权重下载地址（ModelScope）：https://modelscope.cn/models/iic/nlp_style_classification_english
• 推理框架：FastText via ModelScope pipeline (PyTorch backend)

2. 验证环境

• 模型路径：~/iic/nlp_style_classification_english/model/iic/nlp_style_classification_english/
• 模型文件：pytorch_model.bin (1.96GB), sentencepiece.model, configuration.json

3. 模型加载与推理

该模型不是 LLM，不适用 vLLM。使用 ModelScope pipeline 直接加载：

from modelscope.pipelines import pipeline

model_dir = "~/iic/nlp_style_classification_english/model/iic/nlp_style_classification_english"
p = pipeline('text-classification', model=model_dir)

result = p("High Power 11.1V 5200mAh Lipo Battery For RC Car Robot Airplanes")
print(result)
# {'label': 'ecomm', 'score': 1.000, 'labels': ['ecomm', 'tech', 'news', 'spoken'], 'scores': [...]}

4. 推理测试

python3 ~/iic/nlp_style_classification_english/inference.py

测试结果示例：

5. 性能参考

7. 注意事项

• 该模型基于 FastText 算法，推理在 CPU 上执行，是确定性计算（魔改权重相同则输出相同）
• 使用 sentencepiece 进行文本分词预处理
• 建议作为句子级分类工具，对输出概率在篇章或段落级聚合，会更准确
• 单个句子的文风信息可能不明确，在段落级做多数投票可提高准确率
• 安装依赖：pip install fasttext addict datasets

Ascend NPU 精度评测

NPU 推理验证（英文文本风格四分类：news/tech/spoken/ecomm）：

逐用例分析：

对比分析

NPU 精度已对齐，与 CPU 推理结果完全一致，未引入额外精度损失。新闻类文本误判为口语属模型自身分类能力限制，与 NPU 精度无关。