[🏠主页] | [🤖与DeepSeek Coder交谈] | [Discord] | [微信]
1. Deepseek-Coder-7B-Instruct v1.5简介
Deepseek-Coder-7B-Instruct-v1.5是在Deepseek-LLM 7B的基础上，采用4K窗口大小和下一个标记预测目标，对2T个标记进行继续预训练，然后对2B个指令数据标记进行微调。
- 主页： DeepSeek
- 代码仓库： deepseek-ai/deepseek-coder
- 与DeepSeek Coder交谈： DeepSeek-Coder
2. 评估结果
3. 使用方法
以下是一些关于如何使用我们模型的示例。
聊天模型推断
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/deepseek-coder-7b-instruct-v1.5", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/deepseek-coder-7b-instruct-v1.5", trust_remote_code=True).cuda()
messages=[
{ 'role': 'user', 'content': "write a quick sort algorithm in python."}
]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
outputs = model.generate(inputs, max_new_tokens=512, do_sample=False, top_k=50, top_p=0.95, num_return_sequences=1, eos_token_id=tokenizer.eos_token_id)
print(tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True))4. 许可证
本代码仓库遵循 MIT 许可证。DeepSeek Coder 模型的使用需遵守模型许可证。DeepSeek Coder 模型支持商业用途。
更多细节请参阅 LICENSE-MODEL。
5. 联系方式
如有任何问题，请提出一个 issue 或通过 service@deepseek.com 与我们联系。