Bonsai 团队发布了一款名为 Bonsai 27B 的 27B 参数规模的大型语言模型。该模型能够在移动设备上运行，无需强大的计算资源。这意味着用户可以在自己的智能手机或其他便携式设备上直接使用和评估这个模型，而无需依赖云服务或高性能服务器。这对于研究人员、开发者以及对本地部署有需求的个人来说，提供了一种便捷且经济高效的解决方案。具体细节包括模型的架构、训练数据以及在不同硬件上的性能表现等信息，将在后续发布中详细介绍。
📎 原文：Bonsai 27B: A 27B-Class model that runs on a phone | 来源：Hacker News