
27B 大模型压到 5.9GB:Ternary Bonsai 2 27B Mac 本地实测
PrismML 发布基于 Qwen3.8 27B 的三值模型 Ternary Bonsai 2 27B;在 16GB Mac mini 上可运行 32K 上下文,实测生成速度约 15 tokens/s,并提供 Mac 一键整合包。
TAG
共整理了 1 篇相关实践文章。

PrismML 发布基于 Qwen3.8 27B 的三值模型 Ternary Bonsai 2 27B;在 16GB Mac mini 上可运行 32K 上下文,实测生成速度约 15 tokens/s,并提供 Mac 一键整合包。