Bonsai 27B — Bonsai 270亿参数大语言模型

事实

经 1-bit 压缩、手机也能本地运行的约 270 亿参数大语言模型。

人话

Bonsai 27B 是把参天大树盘成书桌盆景：塞进手机口袋，也能答题。

适合聊天、写作、轻推理，模型全程在你设备上跑。

相关概念

• 大语言模型
• 量化
• 边缘人工智能

LLM
它属于大语言模型家族，主要处理文本任务。

Quantization
1-bit 量化把 270 亿参数压进不足 4GB 内存。

Edge AI
压缩后它能在手机、笔记本上本地运行，不靠云端。