2026-09-19 · 来源：{'name': 'SiliconANGLE', 'url': 'https://siliconangle.com/2026/09/18/prismml-launches-bonsai-2-27b-a-high-intelligence-ai-model-so-small-it-fits-on-consumer-hardware/'}
第二代Bonsai 2 27B以Qwen3.8为基础模型,经三分量三值方法压缩而成,体积小到可以在PC和部分高端移动设备上运行。
Prism ML Inc.本周四宣布推出Bonsai 2 27B,这是其超紧凑多模态生成式AI模型的第二代,体量小到足以在PC和部分高端移动设备上运行。9月18日的这次发布,将该公司最新系统送入了AI市场增长最快的细分赛道之一:专为在消费级硬件上本地运行、而非依托数据中心的生成式模型。
该公司表示,其采用了一种三值方法——顾名思义,即使用三种取值——来对基于Qwen3.8 27B的模型进行缩减。底层的Qwen3.8参数量约达560亿,Prism ML需要弥合的体量差距相当可观。通过围绕三分量权重重构网络,这家初创公司称,其在保留远大于此的基础模型多模态生成能力的同时,打造出了Bonsai 2 27B。
对AI算力采购方而言,此次发布凸显了原始规模与本地化之间日益扩大的取舍。紧凑到足以装进个人电脑和高端移动设备的模型,把推理从共享云基础设施转移到企业和消费者已然拥有的机器上——在大型加速器算力依旧昂贵且争夺激烈的当下,这种方案颇具吸引力。“多模态”这一标签同样关键,因为能够处理不止一种输入类型的端侧生成式系统,正在本地助手与边缘部署规划中占据越来越核心的位置。
Bonsai 2以Qwen3.8为起点,也折射出紧凑模型专业厂商中一个更普遍的模式:这些厂商并非从零开始训练前沿规模的系统,而是拿现成的大型基础模型进行工程化压缩,将其裁剪到消费设备能够承载的体量。Prism ML的三分量方法能否在270亿参数级别保留足够的能力,从而在本地推理工作负载上击败竞品小模型,正是企业买家和投资者当下拭目以待的问题。
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅