vLLM Ascend/GLM-5-w4a8
合并请求 - GLM-5-w4a8:可用于在 Atlas 800I A3 等昇腾 NPU 上部署 GLM-5-w4a8 模型，支持复杂系统工程和长周期智能体任务。提供单节点与多节点部署方案，包含环境准备、精度及性能评估等核心功能，支持混合专家架构与量化技术。【此简介由AI生成】 - AtomGit AI社区