✦ local model · experimental page
LycheeAI-coder
1.7B
一个基于 Qwen3-1.7B 继续微调的轻量代码与对话模型。它面向本地运行和日常开发辅助;能力表现会随任务、运行环境与提示方式而变化。
1.7B 参数规模Qwen3-1.7B 基座MLX / GGUFApache 2.0
适合拿来做什么
训练目标覆盖代码生成、简短对话和多语言交流。下面是设计时希望它能更顺手处理的场景,不等同于对每个任务的效果保证。
- 代码起草与解释覆盖 Python、C / C++、C#、HTML、Java、JavaScript、Swift、Go 等常见语言。
- 中英粤交流可在中文、英语与粤语对话中切换;实际表达质量需以具体提问验证。
- 回答节奏控制支持使用
/no_think 请求直接简答,复杂任务仍应自行检查过程与结果。
- 本地试用提供 MLX 与 GGUF 格式,适合按自己的运行环境选择本地推理工具。
项目说明
- 当前版本V12(训练迭代的当前发布版本)
- 发布形式MLX 版与 GGUF 版;具体文件大小与可用运行环境请以下载页为准。
- 许可项目说明按 Apache 2.0 许可发布;使用前请阅读仓库内随附的完整许可证。
- 安装方式可使用兼容的本地推理运行时加载;Ollama 示例命令是否可用以对应发布说明为准。
01 · 最短路径
用 Ollama 导入并对话
- 先安装 Ollama,并在终端确认
ollama --version 可用。
- 从 GGUF 下载页取得量化模型文件与仓库中的
Modelfile。
- 在两个文件所在目录执行创建命令,再启动对话。
ollama create lychee-coder -f Modelfile
ollama run lychee-coder
若自行写 Modelfile,请把 FROM 改成 GGUF 文件的真实路径;导入成功后可用 ollama list 确认模型名。
02 · 图形界面
用 ChatBox 连接本地 Ollama
在 ChatBox 的模型提供方中选择 Ollama,然后填写本机地址与创建时使用的模型名。
| 字段 | 建议填写 |
| API 主机 | http://127.0.0.1:11434 |
| API Key | 本地 Ollama 通常留空 |
| 模型 | lychee-coder |
若客户端无法连接,可尝试把主机改为 http://localhost:11434,并确认 Ollama 服务仍在运行。
03 · Apple Silicon
使用 MLX 版本
Apple Silicon Mac 可使用 MLX 版。先安装 mlx-lm,再从模型页下载对应文件。
pip install mlx-lm
mlx_lm.generate \\
--model mlx-LycheeAI-coder-1.7b \\
--prompt "写一个二分查找" \\
--max-tokens 200
04 · 回答节奏
按需要开关思考
复杂问题可正常提问;如果只需要简短、直接的回复,可把 /no_think 放在消息开头。
/no_think 1 + 1 等于几
写一个函数判断一个数是否为质数
是否展示思考过程、字段命名与实际耗时取决于所用运行时和客户端。无论哪种模式,代码结果都应自行运行和测试。
05 · 程序调用
通过 Ollama 本地 HTTP 接口
Ollama 常见默认端口为 11434。下面示例关闭流式输出,便于直接读取完整结果。
curl http://127.0.0.1:11434/api/chat \\
-d '{
"model": "lychee-coder",
"messages": [{"role": "user", "content": "用 Python 写一个快速排序"}],
"stream": false
}'
import requests
response = requests.post("http://127.0.0.1:11434/api/chat", json={
"model": "lychee-coder",
"messages": [{"role": "user", "content": "写一个快速排序"}],
"stream": False,
})
print(response.json()["message"]["content"])
模型能看图或联网吗?
不能。该模型定位为纯文本本地模型,不提供视觉输入或联网检索能力。
回复乱码、跑题或变慢怎么办?
可新建对话、缩短上下文,或降低单次输出长度;不同客户端的上下文设置位置不同。若问题仍存在,请先用一条短提示复现,再检查模型文件与模板是否匹配。
可以商用吗?
项目说明为 Apache 2.0。实际分发与使用时请保留许可证声明,并以模型仓库内的许可文件为准。