本地模型 · 完全离线 · Apache 2.0 开源
LycheeAI-coder-1b-II
能装进老手机的代码助手。1B 参数、最小 656MB,会纠正你的错误而不附和,完全离线不联网。基于 MiniCPM5-1B 微调,手机、树莓派、老笔记本都能跑。
为什么值得一试
小不是妥协,是设计目标——把 AI 代码助手塞进口袋。
- 小到离谱:656MB 就能跑q4 量化版只需 ~1GB 内存,2018 年的千元安卓机、树莓派、老旧笔记本都装得下——对比主流 7B 模型的 4~5GB。
- 会纠正你,不附和V3 反谄媚训练:你说「1+1=3」它会纠正;但你说「今天天气真好」它照样好好聊——纠正事实,不纠正口味。
- 完全离线,数据不出设备本地推理,不联网、不用 API、零费用,飞机上也能写代码,隐私天然安全。
- 中英粤三语 + 情感共情中文、English、粤语对答;说「有点累」它会安慰你。
- Apple Silicon 原生 MLX 版580MB 的 MLX 格式,Mac 上跑得更快更省电,思考模式还可开关。
- 完全开源 Apache 2.0三轮精心迭代(V1 基础 → V2 补直答 → V3 反谄媚),自由使用、修改、商用。
项目说明
- 版本V3(当前发布),迭代自 V1 / V2。
- 基座模型MiniCPM5-1B(面壁智能 OpenBMB,2B 以下综合第一梯队)。
- 许可证Apache 2.0,可自由使用与商用。
- 格式MLX / GGUF f16 / q8_0 / q4_k_m / LoRA adapter(43MB)。
- 推荐参数上下文 4096,温度 0.4(写代码可降到 0.2~0.3)。
你:1+1=3,对吗?
它:不是,1+1 等于 2,不是 3。
你:今天天气真好
它:是啊,这样的天气适合出门走走 ☀️
它:不是,1+1 等于 2,不是 3。
你:今天天气真好
它:是啊,这样的天气适合出门走走 ☀️
三步开始使用
选对版本再下载:Mac 选 MLX,电脑选 f16,中端手机 q8_0,老手机 4GB 内存只剩 q4 一个选项。
# 1. 一条命令直接跑(已装 Ollama 的话最快)
ollama run hf.co/whcl412/LycheeAI-coder-1b-II-GGUF
# 2. 或下载指定版本(国内推荐 ModelScope,q4 老手机版 656MB)
pip install modelscope
modelscope download --model whcl412/LycheeAI-coder-1b-II-GGUF \
lychee-coder2-v3-q4_k_m.gguf --local_dir ./
# 3. 手机上用 MLC Chat / Termux + llama.cpp 导入 GGUF 即可开聊
ollama run hf.co/whcl412/LycheeAI-coder-1b-II-GGUF
# 2. 或下载指定版本(国内推荐 ModelScope,q4 老手机版 656MB)
pip install modelscope
modelscope download --model whcl412/LycheeAI-coder-1b-II-GGUF \
lychee-coder2-v3-q4_k_m.gguf --local_dir ./
# 3. 手机上用 MLC Chat / Termux + llama.cpp 导入 GGUF 即可开聊
版本选择:q4_k_m 656MB(老手机 4GB 内存)· q8_0 1.07GB(中端手机/轻薄本)· f16 2GB(Mac/PC,质量最好)· MLX 580MB(Apple Silicon 专用)。完整指南见仓库 README。