[🏠官网] | [🤖 与DeepSeek LLM对话] | [Discord社区] | [微信交流]
1. DeepSeek LLM简介
DeepSeek LLM是一款拥有70亿参数的先进语言模型。它基于2万亿tokens的中英文海量数据从头开始训练。为促进相关研究，我们已将DeepSeek LLM 7B/67B Base和DeepSeek LLM 7B/67B Chat版本开源，供研究社区使用。
2. 模型概述
deepseek-llm-7b-base是一个拥有70亿参数的模型，采用多头注意力（Multi-Head Attention）机制，基于2万亿tokens的数据从头训练而成。
- 官方网站： DeepSeek
- 代码仓库： deepseek-ai/deepseek-LLM
- 与DeepSeek LLM对话： DeepSeek-LLM
3. 使用方法
以下为模型使用示例。
文本补全
import torch
from modelscope import AutoTokenizer, AutoModelForCausalLM, GenerationConfig
model_name = "deepseek-ai/deepseek-llm-7b-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")
model.generation_config = GenerationConfig.from_pretrained(model_name)
model.generation_config.pad_token_id = model.generation_config.eos_token_id
text = "An attention function can be described as mapping a query and a set of key-value pairs to an output, where the query, keys, values, and output are all vectors. The output is"
inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(**inputs.to(model.device), max_new_tokens=100)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)4. 许可协议
本代码仓库采用 MIT 许可协议。DeepSeek LLM 模型的使用受模型许可协议约束。DeepSeek LLM 支持商业用途。
更多详情请参见 LICENSE-MODEL。
5. 联系方式
如有任何问题，请提交 issue 或通过 service@deepseek.com 与我们联系。