LimiX-16M 是 stable-ai 推出的表格数据基础模型,参数量约 16.5M。 与传统的语言模型不同,它专注于表格数据的分类与回归任务,采用双维注意力机制同时对特征维度和样本维度进行建模。
关键特性:
部署验证基于以下环境配置:
pip install torch_npu fastapi uvicorn scikit-learn pandas numpyexport ASCEND_RT_VISIBLE_DEVICES=0
export LIMIX_CKPT=./LimiX-16M.ckpt
python3 inference.py --port 8060服务有三大端点:
GET /healthz — 健康检查GET /v1/models — 模型元信息POST /v1/predict — 推理预测使用 curl 发送分类请求:
curl -X POST http://localhost:8060/v1/predict \
-H "Content-Type: application/json" \
-d '{
"x_train": [[1.2, 0.3], [0.8, 0.5]],
"y_train": [0, 1],
"x_test": [[1.0, 0.4]],
"task": "classification"
}'响应中会返回每个类别的概率分布、预测结果和推理耗时。
启动服务后执行以下命令确认服务正常:
# 健康检查
curl http://localhost:8060/healthz
# 查询模型信息
curl http://localhost:8060/v1/models
# 分类推理
curl -X POST http://localhost:8060/v1/predict \
-H "Content-Type: application/json" \
-d '{"x_train":[[1.7,0.2],[0.9,0.15]],"y_train":[0,1],"x_test":[[1.5,0.15]],"task":"classification"}'若返回正确的 JSON 响应且包含 latency_s 字段,说明服务正常工作。
在 Ascend910 上的实测结果:
| 场景 | 延迟 | 备注 |
|---|---|---|
| 模型加载 | ~18s | 含两个 LimiXPredictor 初始化 |
| 小样本分类(5样本) | ~1.4s | 预处理管线占主要耗时 |
| 中等分类(284样本) | ~1.8s | 4 pipeline ensemble 推理 |
| 回归任务 | ~1.5s | 与分类任务延迟相近 |
性能瓶颈分析:
使用学术界标准数据集 breast_cancer(569 样本,30 特征)完成精度测试:
测试方法:使用 sklearn 的 train_test_split 按 50%:50% 划分训练/测试集,分别在 NPU 和 CPU 上运行推理并比对结果。
LimiX-16M.ckpt 约 66MB,下载时注意网络稳定性