苹果正全力推进大模型轻量化，实现 iPhone 本地运行高性能 AI，此举既能削减云端算力成本，也能更好保护用户隐私。而一家今年刚结束隐身运营的小型初创公司表示，其近期成功在 iPhone 上部署了一款参数量远超以往所有移动端模型的大模型。
这家名为 PrismML 的初创企业称，已将中国互联网巨头阿里巴巴开源的大语言模型通义千问 3.6（Qwen 3.6） 完成轻量化压缩，可在 iPhone 17 Pro 本地完整运行。该模型拥有 270 亿参数 —— 参数类似于人脑突触，决定模型可处理数据的复杂程度。反观市面上绝大多数手机端本地模型，单次仅能激活几十亿参数。
万亿参数级别的超大型模型，目前依旧无法在移动设备上运行。但 PrismML 表示，这款在 iPhone 上落地的 270 亿稠密模型，可完成复杂对话、深度逻辑推理、全自动智能体、代码开发等高难度任务。该开源模型将于下周二开放下载。
这一尚未对外披露的技术里程碑，反映行业整体趋势：推动 AI 计算从成本高昂的数据中心服务器，迁移至终端设备本地运行。微软、亚马逊、Meta 等巨头已投入数千亿美元兴建算力中心，应对市场预期的 AI 需求爆发。
但苹果并未跟风投入巨额资金建设算力集群，反而公开主张让 iPhone 尽可能多的 AI 功能脱离云端、在本机运行。苹果认为，端侧 AI 能更好兑现对用户的隐私与安全承诺。
PrismML 首席执行官巴巴克・哈西比在采访中预判，未来绝大多数 AI 计算都将在终端设备本地完成。
“设想三年后的场景：95% 的智能运算都能在你的手机、笔记本、智能家居设备本地完成，仅有 5% 超高算力需求的任务需要调用云端。行业普遍都看好这条发展路径。” 哈西比说道。
哈西比补充，模型轻量化本地部署 “从根本上重塑 AI 产业的成本结构”。
多家头部 AI 投资机构看好这家初创公司的技术路线。OpenAI 首轮投资方Khosla风投（Khosla Ventures）今年初参与了 PrismML 1625 万美元种子轮融资。机构创始人维诺德・Khosla在采访中表示，PrismML 的技术属于 “根本性突破”，因此决定投资。
“2018 年我们投资 OpenAI，重仓 Transformer 架构；如今行业需要全新的 AI 构建思路，我们团队一直在挖掘这类创新方案。” Khosla说。
PrismML 依靠一套独创数学算法，将通义千问 3.6 压缩至原体积零头。常规模型压缩技术普遍会造成性能衰减，但该企业宣称自研轻量化方案不会损害模型效果。他们把原本 54GB 左右的通义千问 3.6 压缩至 4GB 以内。
PrismML 脱胎于加州理工学院，CEO 哈西比是该校电子工程教授，他与联合创始人在校内完成了这套核心数学算法研发。加州理工持有该技术全部专利，独家授权 PrismML 商用。
哈西比透露，PrismML 计划继续压缩更大规模模型，目标覆盖万亿参数级别，对标 OpenAI GPT、Anthropic Claude 等顶级旗舰模型。
PrismML 的技术方案对苹果具备极强吸引力。苹果 6 月全球开发者大会上公布，延期已久的 Siri 全面改版将依托谷歌 Gemini 模型；Siri 高阶功能因模型体量过大，仍需调用谷歌云英伟达芯片算力。
苹果同步宣布，iPhone 部分全新 AI 功能将改为本地运行。苹果自研一款 200 亿参数端侧模型采用稀疏架构，单次仅激活 10 亿至 40 亿参数；而 PrismML 的本地模型可同时完整激活全部 270 亿参数。
《The Information》此前报道，苹果此前自研端侧模型轻量化时遭遇瓶颈：将自有大模型压缩适配 iPhone 后，性能出现大幅下滑。
另有消息称，苹果正在收购能强化端侧 AI 能力的企业，且已与 PrismML 开展技术合作洽谈。
业内还有其他端侧 AI 技术路线。例如初创企业 Argmax，主打本地完成语音、图像预处理，再把处理后数据上传云端执行复杂推理。
这种端云混合方案流行的一大原因是云端大模型迭代速度极快，每周都会更新。支持混合架构的从业者认为，完全本地运行的模型无法同步享用云端最新迭代的顶尖模型能力。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：郭明煜
冠达配资提示：文章来自网络，不代表本站观点。
