InternLM-Math-7B

修改说明

针对openMind的修改。

简介

• 性能优于ChatGPT的70亿参数中英数学语言模型。InternLM2-Math 基于 InternLM2-Base 继续预训练，使用了约1000亿高质量数学相关tokens，并在约200万双语数学监督数据上进行了SFT（监督微调）。我们采用minhash和精确数字匹配技术，以去除可能的测试集数据泄露。
• 新增Lean作为数学问题求解和数学定理证明的支持语言。我们正在探索将Lean 3与InternLM-Math相结合，以实现可验证的数学推理。InternLM-Math能够为GSM8K等简单数学推理任务生成Lean代码，或基于Lean状态提供可能的证明策略。
• 同时可作为奖励模型，支持结果/过程/Lean奖励模型。我们使用多种类型的奖励建模数据对InternLM2-Math进行监督，使其能够验证思维链过程。我们还增加了将思维链过程转换为Lean 3代码的能力。
• 数学语言模型增强助手和代码解释器。InternLM2-Math可以帮助扩充数学推理问题，并使用代码解释器来解决这些问题，让您更快地生成合成数据！

模型

InternLM2-Math-Base-7B 是预训练 checkpoint。InternLM2-Math-7B 是 SFT checkpoint。

在openMind中使用

环境变量

# source environment variable
source /usr/local/Ascend/ascend-toolkit/set_env.sh
export OPENMIND_FRAMEWORK=pt

pip 安装 openMind 库

OpenMind 库可通过 pip 进行安装，请根据实际环境选择相应命令进行安装。

需要注意的是，由于 torch npu 依赖 torch，在 aarch64 环境下可通过 pip 直接安装，而在 x86 环境下则需要通过特定 URL 下载 CPU 版本，因此两种环境下的安装命令有所不同。具体安装代码已在下文进行区分呈现。

# aarch64
pip install openmind[all]
# x86
pip install openmind[all] --extra-index-url https://download.pytorch.org/whl/cpu

推理

from openmind import AutoTokenizer, AutoModelForCausalLM
import torch
import torch_npu

model_dir = "Jinan_AICC/internlm2-math-7b"
tokenizer = AutoTokenizer.from_pretrained(model_dir, device_map="auto", trust_remote_code=True)
# Set `torch_dtype=torch.float16` to load model in float16, otherwise it will be loaded as float32 and might cause OOM Error.
model = AutoModelForCausalLM.from_pretrained(model_dir, device_map="auto",  trust_remote_code=True, torch_dtype=torch.float16)
model = model.eval()
response, history = model.chat(tokenizer, "1+1=", history=[], meta_instruction="")
print(response)

开源许可

代码采用 Apache-2.0 许可协议，模型权重完全开放供学术研究使用，同时允许免费商业用途。如需申请商业许可，请填写申请表（英文）/申请表（中文）。其他问题或合作事宜，请联系 internlm@pjlab.org.cn。