Google Colab 笔记本的宿主文件，旨在简化使用 Imatrix 处理 GGUF 模型的流程。

免费层级 Colab

这仅用于生成初始的 FP16 gguf 文件并计算 imatrix.dat。

由于 Colab 仅提供两个可用核心，量化过程会非常缓慢。

详情

感谢 mlabonne 提供初始代码

默认 Imatrix 来自 kalomaze

RP Imatrix 来自 Lewdiculous

Extended 是所有数据的混合，并添加了字母表 ParasiticRogue