mlx-community/Muse-Glimmer-30B-6bit

该模型由 meta-models/Muse-Glimmer-30B 转换为 MLX 格式，使用 mlx-vlm 0.6.12 版本完成。如需了解该模型的更多详情，请参阅原始模型卡片。

在 mlx 中使用

pip install -U mlx-vlm

python -m mlx_vlm.generate --model mlx-community/Muse-Glimmer-30B-6bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>