加州理工学者创办的PrismML致力于开发可在PC和智能手机上运行的高度压缩推理大模型。其最新模型Bonsai 2 27B将阿里巴巴的Qwen3.8 27B压缩至仅5.9GB，内存减少9到10倍。该公司由Databricks联合创始人Ion Stoica担任顾问，并获Khosla Ventures投资，传闻正与苹果洽谈合作。
背景
随着企业寻求减少云端依赖并提升隐私保护，高效设备端AI模型的推进正在加速。LLM压缩与量化已成为业内活跃的研究方向。
- 来源
- TechCrunch
- 发布时间
- 2026年9月18日 06:34
- 评分
- 7.0 / 10