
Jan-Code-4B 是一款基于 Jan-v3-4B-base-instruct 构建的代码调优模型。它旨在成为一款实用的编码模型,您可以在本地运行并快速迭代——适用于日常代码任务,也可作为智能体工作流中的轻量级“工作模型”。
与大型编码模型相比,Jan-Code 专注于可靠地处理范围明确的子任务,同时保持较低的延迟和计算需求。
Jan-code 针对 Jan 桌面端 进行了优化,可直接集成,在应用中选择该模型即可开始使用。
使用 vLLM:
vllm serve janhq/Jan-code-4b \
--host 0.0.0.0 \
--port 1234 \
--enable-auto-tool-choice \
--tool-call-parser hermes
使用 llama.cpp:
llama-server --model Jan-code-4b-Q8_0.gguf \
--host 0.0.0.0 \
--port 1234 \
--jinja \
--no-context-shift为在智能体任务和通用任务中获得最佳性能,我们推荐以下推理参数:
temperature: 0.7
top_p: 0.8
top_k: 20Updated Soon