将 Ambiq 的 compressionkit-ppg-2x-v1.0 PPG(光电容积脉搏波)信号压缩编解码器迁移至本地昇腾 NPU(Ascend910 系列), 并提供 HTTP 服务化推理能力。

compressionkit-ppg-2x-v1.0 是 Ambiq 面向可穿戴设备的 PPG 信号压缩编解码器 (Residual Vector Quantization, RVQ),压缩比 2x,INT8 量化,专为边缘设备设计。
| 组件 | 说明 |
|---|---|
| 编码器 | Conv1×7(s2) + BatchNorm + ReLU + Conv1×1:320 点帧 → 160×16 latent |
| RVQ 量化 | 4 级码本(每级 256 个 16 维向量),残差量化 |
| 解码器 | UpSampling1×2 + Conv1×7 + ReLU + SeparableConv1×5 + LayerNorm + Conv1×1 |
| 采样率 | 64 Hz(帧长 320 点 = 5 秒) |
| 压缩比 | 2x(320 点 → 160 个 16 维 latent → 640 个 8bit 索引) |
| 推理框架 | PyTorch 2.9.0 + torch_npu 2.9.0.post1 |
| 服务框架 | FastAPI + Uvicorn |
迁移方式:官方权重为 Keras(.keras) 格式,本项目将其转换为等价 PyTorch 网络, 精度经 TFLite 参考输出与官方重建样本双重验证。
| 组件 | 版本 | 备注 |
|---|---|---|
| 操作系统 | openEuler 22.03 (aarch64) | 其他昇腾支持系统亦可 |
| 昇腾硬件 | Ascend910 系列 | 至少 1 卡 |
| CANN | 25.5.0(≥ 8.0) | /usr/local/Ascend/ascend-toolkit/set_env.sh |
| Python | 3.11 | 3.8–3.10 亦可 |
| PyTorch | 2.9.0 | 与 CANN 版本配套 |
| torch_npu | 2.9.0.post1 | 与 PyTorch 版本一致 |
# 1. 加载 CANN 环境
source /usr/local/Ascend/ascend-toolkit/set_env.sh
# 2. 配置华为镜像源(国内加速)
export PIP_INDEX_URL=https://repo.huaweicloud.com/repository/pypi/simple/
# 3. 安装依赖
pip install -r requirements.txt
# 4. 校验 NPU 可用性
python3 -c "import torch, torch_npu; print(torch.randn(3,4).npu() + torch.randn(3,4).npu())"注意:
numpy固定 1.26.4(华为 CANN 推荐 + tflite-runtime 兼容)。
compressionkit-ppg-2x-v1.0-npu/
├── inference.py # 服务化推理主入口(FastAPI 服务)
├── model.py # PyTorch 网络定义 + Keras 权重转换 + RVQ + 预处理
├── test_inference.py # 服务化推理测试用例(11 项)
├── requirements.txt # 运行环境依赖清单
├── README.md # 本文件(中文指引)
└── assets/ # 验证截图
├── npu_device_call.png # NPU 设备调用截图
├── model_result.png # 测试结果截图
└── agent_workflow.png # 适配过程截图权重文件(encoder.keras / decoder.keras / codebook.npz)仍在原始目录
/mnt/old_data/whl/models/8/Ambiq/compressionkit-ppg-2x-v1.0,通过--model-dir指定。
source /usr/local/Ascend/ascend-toolkit/set_env.sh
export ASCEND_RT_VISIBLE_DEVICES=0
python inference.py \
--port 8003 \
--model-dir /mnt/old_data/whl/models/8/Ambiq/compressionkit-ppg-2x-v1.0启动日志示例:
[PPG-NPU] 加载模型: /mnt/.../Ambiq/compressionkit-ppg-2x-v1.0 -> npu:0
[PPG-NPU] 模型就绪, 设备: npu:0
[PPG-NPU] 当前 NPU 显存占用: 0 MB / 62740 MB
INFO: Uvicorn running on http://0.0.0.0:8003python test_inference.py --port 8003预期输出(详见 测试结果截图):
== 4. 重建质量校验 ==
[PASS] PRD < 3%(官方 2.59%) PRD=0.3777%
[PASS] 余弦相似度 > 0.99 cos=0.999993
===== 测试结果: 11 通过, 0 失败 =====
全部测试通过 ✅GET /health — 健康检查 / NPU 设备状态curl http://127.0.0.1:8003/healthGET /model — 模型信息curl http://127.0.0.1:8003/modelPOST /codec — PPG 信号编解码curl -X POST http://127.0.0.1:8003/codec \
-H "Content-Type: application/json" \
-d '{"signal": [0.12, 0.34, ...], "return_indices": true}'| 参数 | 说明 | 默认 |
|---|---|---|
signal | 原始 PPG 信号(float 数组,长度需 ≥ 320 且为 320 的倍数) | 必填 |
return_indices | 是否返回 RVQ 码本索引(压缩表示) | false |
响应:
{
"input_length": 1920,
"frames": 6,
"latent_shape": [6, 160, 4],
"reconstruction": [0.119, 0.341, ...],
"prd_percent": 0.3777,
"rmse": 0.000012,
"cosine_similarity": 0.999993,
"elapsed_seconds": 0.0569,
"indices": [[...160×4 码本索引...]]
}压缩表示:每帧 320 点(float32,1280 字节)→ 160×4 个 8bit 码本索引(640 字节),
压缩比 2x;由索引可直接解码重建(indices → 码本向量求和 → decoder)。
本项目依据 ascend-model-agent-plugin(ai4s-basic)迁移流程完成,共 5 处适配:
inference.py 顶部导入
import torch_npu
from torch_npu.contrib import transfer_to_npu # cuda API 自动映射 npumodel.py):从 .keras(zip+HDF5) 解析权重,
Conv2D 布局 [KH, KW, in, out] → PyTorch [out, in, KH, KW];
BatchNorm 的 gamma/beta/moving_mean/moving_var 逐项映射。F.pad 手动补边。| 对比对象 | PRD | 说明 |
|---|---|---|
| Encoder vs TFLite 参考 | 0.045% | 权重转换正确性 |
| Decoder vs TFLite 参考 | 0.017% | 权重转换正确性 |
| 端到端 vs 官方重建样本 | 0.55% | 含 RVQ 量化 |
| 服务实测(demo 数据) | 0.38% | 官方 README 基线 2.59% |
| 指标 | 数值 |
|---|---|
| 单帧编解码(6 帧/1920 点) | 0.057 s |
| 单帧推理(320 点) | ~10 ms |
| NPU 显存占用 | < 100 MB |
| 问题 | 解决方案 |
|---|---|
| 重建信号与预期差异大 | 确认输入为原始未归一化信号(服务自动做 per-frame norm) |
numpy 相关报错 | 按 requirements 固定 numpy==1.26.4 |
| tflite-runtime 无法导入 | 需要 numpy<2(本仓库固定 1.26.4) |
| 信号长度不足 320 | 服务会返回 400(帧长 = 64Hz × 5s) |