anning-2026/HaS-820m
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

SecurityXuanwuLab/HaS-820m 昇腾 NPU 部署文档

1. 模型简介

模型名称: SecurityXuanwuLab/HaS-820m(Hide-and-Seek) 模型链接: https://huggingface.co/SecurityXuanwuLab/HaS-820m 模型描述: 腾讯安全玄武实验室开源的隐私保护大模型。隐私保护流程由 hide 与 seek 两个子任务组成:hide 将用户输入中的敏感实体词(姓名、电话、证件号、邮箱、地址等)替换为随机虚构实体实现匿名化;seek 将输出中被替换的部分还原。本仓库部署 hide 子任务(核心能力),中英文均支持。 模型架构: BloomForCausalLM(以 bigscience/bloom-1b1 为底模,词表裁剪至 46145 后微调,24 层,hidden 1536,16 头,ALiBi 位置编码) 参数规模: ~750.8M(fp16,单分片 pytorch_model.bin 1,501,777,697 bytes,sha256 校验与 LFS oid 一致) 适配引擎: torch_npu(昇腾 NPU 推理引擎)

标签集合: privacy-protection / text-sanitization / pii-deidentification / bloom / hide-and-seek / NPU / Ascend / torch_npu / model-agent-tagged

2. 环境依赖

依赖项版本说明
torch2.9.0
torch_npu2.9.0.post1昇腾 NPU 推理引擎
transformers4.46.3标准格式加载(BloomForCausalLM + AutoTokenizer),无需 custom code
fastapi / uvicorn / pydantic-服务化推理(server.py)

注:本模型为 transformers 标准格式(pytorch_model.bin + config.json + tokenizer.json),权重与配置放 /tmp/HaS-820m/。官方推理模板 <s>Paraphrase the text:%s\n\n,beam search(num_beams=3,repetition_penalty=5.0)。

3. 推理步骤

# 内置演示样例(默认 npu:0)
python inference.py --device npu:0

# 指定待脱敏文本
python inference.py --text "张三的手机号是13812345678" --device npu:0

# 纯 CPU 推理(对比验证)
python inference.py --device cpu

推理流程:AutoTokenizer 构造 hide 模板输入 → BloomForCausalLM.generate(num_beams=3) beam search 解码 → 截去输入部分 → decode(skip_special_tokens=True) 得到脱敏文本。

4. 测试样例及输出结果

以下输出为在昇腾 Ascend 910B4(CANN 8.5.1 + torch_npu 2.9.0.post1 + transformers 4.46.3)上实测获得。

样例 1:中文敏感信息脱敏

命令:

python inference.py --text "张三的手机号是13812345678,身份证号110101199001011234,他住在北京市海淀区。" --device npu:0

输出:

[加载] 完成: BloomForCausalLM (750.8M params),耗时 4.57s
[原文] 张三的手机号是13812345678,身份证号110101199001011234,他住在北京市海淀区。
[脱敏] 李四的手机号是1589274690,身份证号1202032001002345,他住在上海市浦东新区。
[耗时] 1.75s

样例 2:英文敏感信息脱敏

[原文] My email is john.doe@gmail.com and my credit card is 4111 1111 1111 1111.
[脱敏] My email is user1@mail.com and my credit card is 5222 2222 2222 2222.
[耗时] 0.91s

结果说明:中英文姓名、手机号、证件号、邮箱、银行卡号、住址等敏感实体均被替换为随机虚构实体,句子结构与语义保持通顺,符合 Hide-and-Seek 论文预期行为;进程内稳态耗时约 0.9~1.2s/条(首帧含算子编译预热约 1.8s),验证了 HaS-820m 在昇腾 NPU 上的隐私脱敏推理链路通畅。

5. Agent 适配截图

Agent 适配流程 NPU 设备调用 模型适配结果

6. 服务化推理

python server.py --port 8000 --device npu:0

接口:

  • GET /health → {"status":"ok","model":"SecurityXuanwuLab/HaS-820m","device":"npu:0","loaded":true}
  • POST /hide(JSON:{"text": "待脱敏文本"})→ 脱敏文本

实测(服务化):

  • /health → {"status":"ok","model":"SecurityXuanwuLab/HaS-820m","device":"npu:0","loaded":true}
  • /hide {"text":"李四的银行卡号是6222020200112233445,住址为上海市浦东新区世纪大道100号。"} → {"hidden_text":"张三的银行卡号是9384260102034466,住址为北京市朝阳区建国门外大街200号。","elapsed_s":1.765}

7. 注意事项

  • 模型权重位于 /tmp/HaS-820m/(1,501,777,697 bytes,sha256 校验通过),不占用仓库空间,不纳入本仓库
  • dtype——官方权重为 fp16,默认 float16 加载;如遇数值异常可切换 --dtype float32
  • 解码参数——官方 hide 流程使用 beam search(num_beams=3、repetition_penalty=5.0),请勿随意关闭 repetition_penalty,否则易出现重复生成
  • seek 子任务——负责把 LLM 输出中的替换实体还原为原实体,需要配合业务侧记录映射关系或按官方 two-pass 流程调用,本仓库聚焦 hide 能力
  • 大文件务必校验 sha256 与 LFS oid 一致,避免下载损坏导致输出异常