| 项目 | 信息 |
|---|---|
| 原始模型名 | Ling-2.5-1T |
| 原始模型链接 | Ling-2.5-1T |
| msmodelslim 操作指引 | https://blog.csdn.net/qq_37368095/article/details/156429653 |
| 精度测试机型 | 800T A3 |
| 版本 | vllm-ascend 0.11.0 |
| 模型名 | 量化格式 | 数据集 | 测试精度 % |
|---|---|---|---|
| Ling-2.5-1T | w4a8 | gsm8k | 96.82 |
| Ling-2.5-1T | w4a8 | ceval | 90.33 |
| Ling-2.5-1T | w8a8 | mmlu | 87.77 |