PromptCLUE 是基于 T5 架构的中文文本生成模型,支持多种 NLP 任务,包括文本生成、对话、问答、摘要等。模型在大规模中文语料上进行预训练,能够理解中文 prompt 指令并生成相应回复。
该模型为 T5 条件生成模型,直接运行推理脚本:
cd /opt/atomgit/~/ClueAI/PromptCLUE
python inference.py输入:"你好!请问你能做什么?" 预期输出:"你好,你可以做什么?"(或其他合理中文回复)
单次生成时间约 1-3 秒(NPU Ascend910,float32)。
NPU 推理验证:
| 指标 | 数值 |
|---|---|
| 测试用例数 | 1 |
| 精度结论 | --- |
精度评测源代码和日志详见 eval/ 目录。
| # | 输入 | NPU 输出 |
|---|---|---|
| 1 | 北大西洋议会春季会议26日在西班牙巴塞罗那闭幕。 | [{'type': '组织机构', 'span': '北大西洋议会', 'off |