HuggingFace镜像/Jan-code-4b-gguf
模型介绍文件和版本分析
下载使用量0

Jan-Code-4B:一款小型代码调优模型

GitHub License Jan App

image

概述

Jan-Code-4B 是一款基于 Jan-v3-4B-base-instruct 构建的代码调优模型。它旨在成为一款实用的编码模型,您可以在本地运行并快速迭代——适用于日常代码任务,也可作为智能体工作流中的轻量级“工作模型”。

与大型编码模型相比,Jan-Code 专注于可靠地处理范围明确的子任务,同时保持较低的延迟和计算需求。

预期用途

  • 轻量级编码助手,用于代码生成、编辑、重构和调试
  • 智能体设置中的小型快速工作模型(例如,作为生成补丁/测试的子智能体,而大型模型负责规划)
  • 在 Claude Code 配置中替代 Haiku 模型

快速开始

与 Jan 应用集成

Jan-code 针对 Jan 桌面端 进行了优化,可直接集成,在应用中选择该模型即可开始使用。

本地部署

使用 vLLM:

vllm serve janhq/Jan-code-4b \
    --host 0.0.0.0 \
    --port 1234 \
    --enable-auto-tool-choice \
    --tool-call-parser hermes 
    

使用 llama.cpp:

llama-server --model Jan-code-4b-Q8_0.gguf \
    --host 0.0.0.0 \
    --port 1234 \
    --jinja \
    --no-context-shift

推荐参数

为在智能体任务和通用任务中获得最佳性能,我们推荐以下推理参数:

temperature: 0.7
top_p: 0.8
top_k: 20

🤝 社区与支持

  • 讨论:Hugging Face 社区
  • Jan 应用:访问 jan.ai 了解更多关于 Jan 应用的信息

📄 引用

Updated Soon