本仓库整理 GLM-5.3 KV Offload 的安装、配置、部署与验收材料。
部署形态:4 个 Prefill 节点(每个 dp1×tp16),2 个 Decode 池(每池跨 2 台、dp8×tp4),共 8 台 Atlas 800I A3。
568afb3a1d7ea5e6c0250d12845e1ea742c48ed948cba2a9d60b98189a4db3920详细启动顺序、CPU 绑核、Meta/Standalone、Motor/Conductor 注册、健康检查、KV 亲和验证和常见问题见部署指导。
此节与上面的原镜像和部署脚本分开维护。
MemCache 方案支持跨机共享池或每台 P 独立的本机池;Mooncake 方案按原指导使用 Mooncake KVPool。具体部署步骤与实机验收范围见独立说明。
0914原版一键兼容镜像、导入命令及与原内置脚本的参数差异,统一见原部署指导附录D。