查看: 628|回复: 0
收起左侧

[IT业界] 苹果研发AI模型压缩技术:把270亿参数大模型装进iPhone

[复制链接]
anyangmo
发表于 2026-7-15 09:42:52 | 显示全部楼层 |阅读模式
苹果研发AI模型压缩技术:把270亿参数大模型装进iPhone

快科技7月15日消息,据媒体报道,苹果正与硅谷初创公司PrismML进行早期洽谈,后者宣称能将大型AI模型压缩至可在iPhone上本地运行。若技术验证成功,此举将强化苹果的隐私主张,并为其进展缓慢的Siri升级提供关键支撑。

PrismML首席执行官表示,苹果已开始评估其技术。洽谈尚处于早期阶段,前景虽不明朗,但“进展顺利”。

消息发布正值苹果推出iOS 27公测版次日——这是苹果大幅改版Siri后首次面向公众的广泛测试,旨在与OpenAI和Anthropic的AI助手展开竞争。

对苹果而言,将更多AI运算留在设备本地,意味着更低响应延迟、更少云计算成本,以及无需联网即可使用部分功能的能力——这与苹果的核心隐私定位高度契合。

PrismML的公开发布,为普通用户和投资者提供了在实验室之外检验其技术声明的机会。Counterpoint分析师Pathak总结道:

“云端与设备端AI的组合,能够提供更完整、更高效、更注重隐私的AI体验——复杂任务交由云端处理,敏感、时延敏感及隐私相关的任务则在设备端执行。”

PrismML孵化自加州理工学院研究团队,并获得Khosla Ventures支持。该公司于周二公开发布了阿里巴巴开源模型Qwen的压缩版,将原始模型从约54GB压缩至不足4GB,使其全部270亿参数可在iPhone 15及更新机型上直接运行。

目前,PrismML已免费发布两个压缩版本,兼容iPhone、MacBook及搭载英伟达芯片的PC。公司表示,下一个压缩目标是谷歌的开源模型Gemma,随后还将处理需数据中心硬件才能运行的更大规模前沿模型。

PrismML表示,其压缩方案可将原本需8块GPU运行的云端模型缩减至仅需1块,并让原本依赖服务器的模型迁移至手机和笔记本电脑。这虽能降低单一AI任务所需的内存或算力,但不必然导致整体芯片需求下降。






您需要登录后才可以回帖 登录 | 快速注册

本版积分规则

手机版|杀毒软件|软件论坛| 卡饭论坛

Copyright © KaFan  KaFan.cn All Rights Reserved.

Powered by Discuz! X3.4( 沪ICP备2020031077号-2 ) GMT+8, 2026-10-31 12:55 , Processed in 0.026840 second(s), 4 queries , Redis On.

卡饭网所发布的一切软件、样本、工具、文章等仅限用于学习和研究,不得将上述内容用于商业或者其他非法用途,否则产生的一切后果自负,本站信息来自网络,版权争议问题与本站无关,您必须在下载后的24小时之内从您的电脑中彻底删除上述信息,如有问题请通过邮件与我们联系。

快速回复 客服 返回顶部 返回列表