苹果正寻求将更强大的AI能力留在设备端，一家由Khosla Ventures支持的初创公司或许提供了关键拼图。
获Khosla Ventures投资的初创公司PrismML宣称，已成功将一个拥有270亿参数的AI大模型压缩至可在iPhone 17 Pro上本地运行，创下移动端AI模型规模的新纪录。该公司表示，其压缩技术不会造成性能损失，相关开源模型将于下周二正式发布。
据知情人士透露，苹果已与PrismML就如何使用其技术举行了会谈。此前据The Information报道，苹果正积极寻求收购能够帮助其在设备端运行更多AI功能的公司。消息人士称，苹果去年在尝试将内部AI模型压缩至适配iPhone时，曾遭遇性能大幅下滑的困境。
270亿参数全量激活，刷新移动端AI纪录PrismML表示，其压缩的模型为阿里巴巴开发的开源大语言模型Qwen 3.6，参数量达270亿。相比之下，目前主流移动端模型每次仅有数十亿参数处于激活状态。
苹果在今年6月的全球开发者大会上发布的新款设备端模型拥有200亿参数，但采用稀疏架构，每次仅有10亿至40亿参数处于激活状态。PrismML的模型则在运行时保持全部270亿参数同时激活，这一差异被该公司视为核心竞争优势。
PrismML称，该模型能够胜任复杂对话、推理、全自主智能体及软件编程等任务。
数学压缩技术源自加州理工，专利独家授权PrismML是加州理工学院（Caltech）的衍生公司。其CEO Babak Hassibi是该校电气工程学教授，与联合创始人在校期间完成了支撑该技术的数学研究。Caltech持有相关专利，并将其独家授权给PrismML。
该公司的核心技术在于通过一种数学方法，将Qwen 3.6模型的体积从约54GB压缩至不足4GB，压缩比超过90%，且公司声称性能不受影响。
PrismML今年早些时候完成了1625万美元的种子轮融资，Khosla Ventures参与其中。Khosla Ventures创始人Vinod Khosla在接受采访时表示，他对PrismML感兴趣，是因为该公司提供了一种"根本性的突破"。"我们在2018年投资OpenAI时重注押注了Transformer模型，但构建AI的新方式是什么？我们的团队始终在寻找新的路径。"他说。
苹果的设备端AI战略与潜在收购逻辑苹果长期以来将设备端AI作为其隐私与安全承诺的核心支柱，并在很大程度上回避了微软、亚马逊、Meta等科技巨头耗资数千亿美元的数据中心军备竞赛。
然而，苹果在今年6月宣布的迟来已久的Siri重大升级，仍依赖谷歌的Gemini模型，其最先进的功能需要调用运行在谷歌云上的英伟达芯片。这一现状与苹果的设备端AI愿景存在明显落差，也使PrismML的技术对苹果具有潜在的战略价值。
Hassibi预测，未来三年内，用户所需的绝大多数AI计算将在本地完成。"想象一下，也许三年后，你所需要的95%的智能都可以在本地获得——在你的手机、笔记本电脑、家电上——真正需要去云端的，可能只剩最后5%的高端需求，"他说，"我认为这就是人们所看到的前进方向。"
混合架构派提出挑战并非所有业内人士都认同纯设备端AI的路线。初创公司Argmax等采用混合架构，将语音和图像等处理任务在设备端完成，再将信息上传至云端进行更复杂的推理。
混合架构的支持者指出，云端大模型目前仍在以每周更新的速度快速迭代，完全运行在设备端的AI模型将难以享受到最新、最先进云端模型带来的性能红利。这一挑战也是PrismML在商业化路径上需要持续应对的核心问题之一。
PrismML表示，公司计划继续将更大规模的模型——包括万亿参数级别的模型——压缩至设备端运行，届时将进入与OpenAI GPT及Anthropic Claude同台竞技的领域。
免责声明:本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
盛达优配提示：文章来自网络，不代表本站观点。
