E
Eco-Tech
/
Qwen3-30B-A3B-w4a4-LAOS
like
0
Follow
E
Eco-Tech
0
Add to Collection
Transformers
Safetensors
Apache License 2.0
NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis
Download
Notebook Quick Development
Qwen3-30B-A3B-w4a4-LAOS
1. 基本信息
项目
信息
原始模型名
Qwen3-30B-A3B
原始模型链接
Qwen/Qwen3-30B-A3B
精度测试机型
Atlas 800T A3 1台
精度测试平台
sglang
版本
sglang 0.5.9
链接
https://github.com/sgl-project/sglang/pull/18924
2 量化命令:
WIP
3 精度测试结果
模型名
量化格式
数据集
测试精度 %
官方精度 %
Qwen3-30B-A3B-w4a4-LAOS
w4a4
gsm8k (5 shot)
90.50
91.50