✦ local model · experimental page

LycheeAI-coder
1.7B

一个基于 Qwen3-1.7B 继续微调的轻量代码与对话模型。它面向本地运行和日常开发辅助;能力表现会随任务、运行环境与提示方式而变化。

1.7B 参数规模Qwen3-1.7B 基座MLX / GGUFApache 2.0

适合拿来做什么

训练目标覆盖代码生成、简短对话和多语言交流。下面是设计时希望它能更顺手处理的场景,不等同于对每个任务的效果保证。

  • 代码起草与解释覆盖 Python、C / C++、C#、HTML、Java、JavaScript、Swift、Go 等常见语言。
  • 中英粤交流可在中文、英语与粤语对话中切换;实际表达质量需以具体提问验证。
  • 回答节奏控制支持使用 /no_think 请求直接简答,复杂任务仍应自行检查过程与结果。
  • 本地试用提供 MLX 与 GGUF 格式,适合按自己的运行环境选择本地推理工具。

项目说明

  • 当前版本V12(训练迭代的当前发布版本)
  • 发布形式MLX 版与 GGUF 版;具体文件大小与可用运行环境请以下载页为准。
  • 许可项目说明按 Apache 2.0 许可发布;使用前请阅读仓库内随附的完整许可证。
  • 安装方式可使用兼容的本地推理运行时加载;Ollama 示例命令是否可用以对应发布说明为准。

使用指南

从本地导入到程序调用的常用路径。命令中的文件名、端口与运行时行为可能因版本而异,请以对应模型仓库的发布说明为准。

01 · 最短路径

用 Ollama 导入并对话

  1. 先安装 Ollama,并在终端确认 ollama --version 可用。
  2. 从 GGUF 下载页取得量化模型文件与仓库中的 Modelfile
  3. 在两个文件所在目录执行创建命令,再启动对话。
ollama create lychee-coder -f Modelfile
ollama run lychee-coder

若自行写 Modelfile,请把 FROM 改成 GGUF 文件的真实路径;导入成功后可用 ollama list 确认模型名。

02 · 图形界面

用 ChatBox 连接本地 Ollama

在 ChatBox 的模型提供方中选择 Ollama,然后填写本机地址与创建时使用的模型名。

字段建议填写
API 主机http://127.0.0.1:11434
API Key本地 Ollama 通常留空
模型lychee-coder

若客户端无法连接,可尝试把主机改为 http://localhost:11434,并确认 Ollama 服务仍在运行。

03 · Apple Silicon

使用 MLX 版本

Apple Silicon Mac 可使用 MLX 版。先安装 mlx-lm,再从模型页下载对应文件。

pip install mlx-lm
mlx_lm.generate \\
  --model mlx-LycheeAI-coder-1.7b \\
  --prompt "写一个二分查找" \\
  --max-tokens 200
04 · 回答节奏

按需要开关思考

复杂问题可正常提问;如果只需要简短、直接的回复,可把 /no_think 放在消息开头。

/no_think 1 + 1 等于几
写一个函数判断一个数是否为质数

是否展示思考过程、字段命名与实际耗时取决于所用运行时和客户端。无论哪种模式,代码结果都应自行运行和测试。

05 · 程序调用

通过 Ollama 本地 HTTP 接口

Ollama 常见默认端口为 11434。下面示例关闭流式输出,便于直接读取完整结果。

curl http://127.0.0.1:11434/api/chat \\
  -d '{
    "model": "lychee-coder",
    "messages": [{"role": "user", "content": "用 Python 写一个快速排序"}],
    "stream": false
  }'
import requests

response = requests.post("http://127.0.0.1:11434/api/chat", json={
    "model": "lychee-coder",
    "messages": [{"role": "user", "content": "写一个快速排序"}],
    "stream": False,
})
print(response.json()["message"]["content"])
模型能看图或联网吗?

不能。该模型定位为纯文本本地模型,不提供视觉输入或联网检索能力。

回复乱码、跑题或变慢怎么办?

可新建对话、缩短上下文,或降低单次输出长度;不同客户端的上下文设置位置不同。若问题仍存在,请先用一条短提示复现,再检查模型文件与模板是否匹配。

可以商用吗?

项目说明为 Apache 2.0。实际分发与使用时请保留许可证声明,并以模型仓库内的许可文件为准。