E
Eco-Tech/Step-5-Preview-w8a8-mxfp8
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Step-5-Preview-w8a8-mxfp8

1. 基本信息

项目信息
原始模型名Step-5-Preview
原始模型链接Step-5-Preview
msmodelslim 仓库https://gitcode.com/m0_622025341111/step5/tree/step5
msmodelslim commit ida595c7ad41926738855b39c4ccd1127e3fb18d32
精度测试机型A5

2 量化脚本:

msmodelslim quant \
  --model_path weights/step-5-preview \
  --save_path weights/step-5-preview-w8a8-mxfp8 \
  --device cpu \
  --config ./step5-w8a8-mxfp8.yaml \
  --trust_remote_code False

3 精度测试结果

模型名量化格式数据集测试精度 %官方浮点精度 %
Step-5-Preview-w8a8-mxfp8w8a8GPQA-D93.893.5
  • 精度存在波动,建议多次测试。