davor/ayutthayaalpha-2.0-early-beta 是基于 T5 架构的泰语模型(73.5M 参数), 支持泰语文本生成与翻译(如英→泰)。
本项目完成其在**华为昇腾 NPU(Ascend 910B)**上的推理适配与验证。
| 项目 | 说明 |
|---|---|
| 模型架构 | T5ForConditionalGeneration(t5) |
| 参数量 | 73.5M |
| 权重格式 | safetensors(model.safetensors,284MB) |
| 支持任务 | 泰语翻译、文本生成 |
cd /workspace/ayutthayaalpha
python3 inference.py --model_path ./model_src \
--prompt "translate English to Thai: Hello, how are you today?" --device npu:0输入 "translate English to Thai: Hello, how are you today?" →
生成泰语翻译,NPU 推理链路完整跑通。
.to(npu) 迁移 + model.generate()。resolve_device():NPU 可用性检测,失败自动回退 CPU。*.safetensors 已加入 .gitignore。