OpenBuddy - 开源多语言聊天机器人
GitHub 及使用指南：https://github.com/OpenBuddy/OpenBuddy
网站及演示：https://openbuddy.ai
本模型的评估结果：Evaluation.txt
## Use with openMind
### environment variable
```bash
# source environment variable
source /usr/local/Ascend/ascend-toolkit/set_env.sh
export OPENMIND_FRAMEWORK=ptpip install openMind Library
OpenMind Library 可通过 pip 进行安装，请根据实际环境选择相应命令进行安装。
需要注意的是，由于 torch npu 依赖 torch，在 aarch64 环境下可直接通过 pip 安装，但在 x86 环境下需要通过特定 URL 下载 CPU 版本，因此两种环境下的安装命令有所不同。具体安装代码已在下文进行区分呈现。
# aarch64
pip install openmind[all]
# x86
pip install openmind[all] --extra-index-url https://download.pytorch.org/whl/cpu推理
from openmind import AutoTokenizer, AutoModelForCausalLM
import torch
import torch_npu
model_dir = "HangZhou_Ascend/openbuddy-zephyr-7b-v14.1"
tokenizer = AutoTokenizer.from_pretrained(model_dir, device_map="auto", trust_remote_code=True)
# Set `torch_dtype=torch.float16` to load model in float16, otherwise it will be loaded as float32 and might cause OOM Error.
model = AutoModelForCausalLM.from_pretrained(model_dir, device_map="auto", trust_remote_code=True, torch_dtype=torch.float16)
model = model.eval()
response, history = model.chat(tokenizer, "1+1=", history=[], meta_instruction="")
print(response)免责声明
所有 OpenBuddy 模型都存在固有的局限性，可能会生成错误、有害、冒犯性或其他不良内容。用户不得在可能导致人身伤害、财产损失或重大损失的关键或高风险场景中使用这些模型。此类场景包括但不限于医疗领域、控制可能造成伤害的软硬件系统，以及做出重要的财务或法律决策。
OpenBuddy 按“原样”提供，不提供任何形式的明示或暗示担保，包括但不限于对适销性、特定用途适用性和非侵权性的默示担保。在任何情况下，作者、贡献者或版权持有人均不对因使用本软件或与本软件相关的任何其他交易而产生的任何索赔、损害或其他责任承担责任，无论这些责任是基于合同、侵权行为还是其他原因。
使用 OpenBuddy 即表示您同意这些条款和条件，并确认您了解其使用可能带来的潜在风险。您还同意赔偿作者、贡献者和版权持有人，并使其免受因您使用 OpenBuddy 而产生的任何索赔、损害或责任。