Llama-3.1-8B-Instruct 的 EXL3 量化版本
每权重 2.00 位 每权重 2.25 位 每权重 2.50 位 每权重 3.00 位 每权重 3.50 位 每权重 4.00 位 每权重 5.00 位 每权重 6.00 位 每权重 8.00 位