本仓库(Abiray/MiniMax-H3-GGUF)提供了 MiniMax H3 模型的 GGUF 量化版本及必要的组件文件。MiniMax H3 是一个通用的全模态生成系统,支持对由文本、图像、视频和音频组成的多模态上下文进行统一理解。它能够生成具有原生立体声音频的视频,分辨率最高可达 2K,时长最长可达 15 秒。
如果您正在寻找一个体积更小、质量同样出色且更适合消费级 GPU 的模型,请查看 MiniMax-H3-Pruned-GGUF 仓库。 裁剪后的架构压缩至 8.9 GB – 21.6 GB,使 MiniMax H3 能够直接在消费级硬件上运行。 可用的裁剪量化版本:
| 位宽 | 量化类型 | 文件大小 |
|---|---|---|
| 3-bit | Q3_K_M | 8.9 GB |
| 4-bit | Q4_K_S, Q4_K_M | 11.6 GB |
| 5-bit | Q5_K_S, Q5_K_M | 14.1 GB |
| 6-bit | Q6_K | 16.7 GB |
| 8-bit | Q8_0 | 21.6 GB |
本仓库包含 FL2VA(首末帧模式)和 Ref2VA(全参考模式)基础模型的量化版本。
MiniMax-H3-FL2VA-Q3_K_M.gguf(15.6 GB)MiniMax-H3-FL2VA-Q3_K_S.gguf(15.6 GB)MiniMax-H3-FL2VA-Q4_0.gguf(18.6 GB)MiniMax-H3-FL2VA-Q4_K_M.gguf(19.9 GB)MiniMax-H3-FL2VA-Q4_K_S.gguf(19.9 GB)MiniMax-H3-FL2VA-Q5_0.gguf(22.8 GB)MiniMax-H3-FL2VA-Q5_K_M.gguf(23.9 GB)MiniMax-H3-FL2VA-Q5_K_S.gguf(23.9 GB)MiniMax-H3-FL2VA-Q6_K.gguf(28.2 GB)MiniMax-H3-FL2VA-Q8_0.gguf(36 GB)MiniMax-H3-Ref2VA-Q3_K_M.gguf(15.6 GB)MiniMax-H3-Ref2VA-Q3_K_S.gguf(15.6 GB)MiniMax-H3-Ref2VA-Q4_0.gguf(18.6 GB)MiniMax-H3-Ref2VA-Q4_K_M.gguf(19.9 GB)MiniMax-H3-Ref2VA-Q4_K_S.gguf(19.9 GB)MiniMax-H3-Ref2VA-Q5_0.gguf(22.8 GB)MiniMax-H3-Ref2VA-Q5_K_M.gguf(23.9 GB)MiniMax-H3-Ref2VA-Q5_K_S.gguf(23.9 GB)MiniMax-H3-Ref2VA-Q6_K.gguf(28.2 GB)MiniMax-H3-Ref2VA-Q8_0.gguf(36 GB)qwen3vl_32b_minimax_h3_int4_convrot.safetensors(15 GB)qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors(27.1 GB)qwen3vl_32b_minimax_h3-Q4_K_M.gguf(14.6 GB)minimax_h3_audio_vae_fp32.safetensors(605 MB)minimax_h3_video_vae_fp16.safetensors(5.21 GB)MiniMax H3 根据《MiniMax H3 社区许可协议》发布。