CodeQwen1.5-7B

简介

CodeQwen1.5 是 Qwen1.5 的代码专用版本。它是一个基于 transformer 架构的仅解码器语言模型，经过大量代码数据的预训练。

强大的代码生成能力，并在一系列基准测试中表现出色；
支持长上下文理解和生成，上下文长度可达 64K 个 token；
支持 92 种编程语言；
在文本到 SQL 转换、错误修复等方面表现优异。

更多详情，请参阅我们的博客文章和 GitHub 仓库。

模型详情

CodeQwen1.5 基于 Qwen1.5，这是一个包含不同模型大小的解码器语言模型的系列。它在 3 万亿个代码 token 的数据上进行训练，并包含组查询注意力（GQA）以提高推理效率。

环境要求

Qwen1.5 的代码已集成至最新的 Hugging Face transformers 库中，我们建议您安装 transformers>=4.37.0，否则可能会遇到以下错误：

KeyError: 'qwen2'.

使用说明

对于基础语言模型，我们不建议您将其用于聊天。您可以用其来进行微调，同时也可以用于代码填充、代码生成等，但在设定停止条件时请务必谨慎。

引用

如果您认为我们的工作对您有所帮助，欢迎您引用我们的成果。

@article{qwen,
  title={Qwen Technical Report},
  author={Jinze Bai and Shuai Bai and Yunfei Chu and Zeyu Cui and Kai Dang and Xiaodong Deng and Yang Fan and Wenbin Ge and Yu Han and Fei Huang and Binyuan Hui and Luo Ji and Mei Li and Junyang Lin and Runji Lin and Dayiheng Liu and Gao Liu and Chengqiang Lu and Keming Lu and Jianxin Ma and Rui Men and Xingzhang Ren and Xuancheng Ren and Chuanqi Tan and Sinan Tan and Jianhong Tu and Peng Wang and Shijie Wang and Wei Wang and Shengguang Wu and Benfeng Xu and Jin Xu and An Yang and Hao Yang and Jian Yang and Shusheng Yang and Yang Yao and Bowen Yu and Hongyi Yuan and Zheng Yuan and Jianwei Zhang and Xingxuan Zhang and Yichang Zhang and Zhenru Zhang and Chang Zhou and Jingren Zhou and Xiaohuan Zhou and Tianhang Zhu},
  journal={arXiv preprint arXiv:2309.16609},
  year={2023}
}

当然，我将按照您的要求进行翻译。请您提供需要翻译的英文 Markdown 文本。

简介

CodeQwen1.5 是 Qwen1.5 的代码专用版本。它是一个基于 transformer 架构的仅解码器语言模型，经过大量代码数据的预训练。

强大的代码生成能力，并在一系列基准测试中表现出色；

支持长上下文理解和生成，上下文长度可达 64K 个 token；

支持 92 种编程语言；

在文本到 SQL 转换、错误修复等方面表现优异。

更多详情，请参阅我们的博客文章和 GitHub 仓库。

引用

如果您认为我们的工作对您有所帮助，欢迎您引用我们的成果。

@article{qwen,
  title={Qwen Technical Report},
  author={Jinze Bai and Shuai Bai and Yunfei Chu and Zeyu Cui and Kai Dang and Xiaodong Deng and Yang Fan and Wenbin Ge and Yu Han and Fei Huang and Binyuan Hui and Luo Ji and Mei Li and Junyang Lin and Runji Lin and Dayiheng Liu and Gao Liu and Chengqiang Lu and Keming Lu and Jianxin Ma and Rui Men and Xingzhang Ren and Xuancheng Ren and Chuanqi Tan and Sinan Tan and Jianhong Tu and Peng Wang and Shijie Wang and Wei Wang and Shengguang Wu and Benfeng Xu and Jin Xu and An Yang and Hao Yang and Jian Yang and Shusheng Yang and Yang Yao and Bowen Yu and Hongyi Yuan and Zheng Yuan and Jianwei Zhang and Xingxuan Zhang and Yichang Zhang and Zhenru Zhang and Chang Zhou and Jingren Zhou and Xiaohuan Zhou and Tianhang Zhu},
  journal={arXiv preprint arXiv:2309.16609},
  year={2023}
}

当然，我将按照您的要求进行翻译。请您提供需要翻译的英文 Markdown 文本。