【端侧模型向开发者开放,AI在iPhone上无处不在】
文章图片

文章图片

文章图片

文章图片
6月10日凌晨 , 苹果一年一度的WWDC开发者大会如期而至 。 “Liquid Glass(液态玻璃)” 代表的颠覆性设计革命 , 证明了苹果还是那个在产品美学上独树一帜的苹果 , 可毫无惊喜的Apple Intelligence让不少期待苹果能在AI上弯道超车的用户有些失望了 。
尽管个性化版的Siri短期内没戏 , 但并不代表未来的iOS 26会缺少AI元素 , 因为苹果此次推出的Foundation Models框架 , 可能会让iPhone变成真正的AI手机 。
在Foundation Models框架中 , 苹果向开发者开放了Apple Intelligence端侧大模型的访问权限 , 允许任何App调用苹果的端侧模型来为用户带来智能、离线可用 , 且保护隐私的AI体验 。
根据苹果方面的介绍 , Foundation Models框架原生就支持Swift , 开发者只需三行代码就能轻松访问Apple Intelligence的端侧模型 。 同时工具调用功能同样也内置于这一框架中 , 使得开发者能够更轻松地将AIGC能力直接集成到自己的App中 。
不得不说 , 如今在Apple Intelligence本身还缺乏亮点 , 万众瞩目的个性化版Siri难产的情况下 , 苹果已然找到了将一手烂牌打成王炸的方法 。 允许开发者调用Apple Intelligence端侧大模型 , 事实上是为iOS生态内AI应用的爆发奠定了现实基础 。
随着“AI手机”这一概念在2024年伊始被提出 , 想必已经有不少朋友入手了各大厂商的相关产品 。 可如今的现实 , 却是许多消费者对AI手机并不感冒 , 在美国以旧换新网站SellCell发布的调查报告中就显示 , 有超过7成的受访者认为 , AI功能“不是很有价值”或“几乎没有增加任何价值” , 在提升使用体验上毫无实质性的帮助 。
其实AI手机现在叫好不叫座的原因很简单 , 因为现阶段AI原生应用的供给过于缺乏 , 目前手机上的AI通常来源于第一方应用或是系统级功能 。 而手机厂商提供的AI功能又往往集中在文档总结、内容生成、通话摘要等生产力相关领域 , 缺乏普通用户更需要的娱乐向体验 。
要知道当年的智能手机之所以“智能” , 丰富多彩的App才是关键 。 如果此时此刻要让屏幕前的你列举几款AI应用 , 无外乎就是ChatGPT、豆包、腾讯元宝、DeepSeek、Kimi、可灵 。 其实现阶段手机上的AI已经出现了极强的马太效应 , 由于豆包、ChatGPT的AI浓度爆表 , 可抛开这些 , 手机上的AI又乏善可陈 。
那么问题就来了 , AI应用究竟去哪了呢?如果关注AI产品榜等追踪AI市场变化的机构就会发现一个很有趣的现象 , 那就是出现在相关榜单上的App , 几乎都是来自互联网大厂以及AI七小龙 , 其他团队的产品则芳踪难觅 。
难道是因为AI应用开发者的水平退化了 , 不如当年的iOS/Android开发者?其实这个问题的答案 , 是当下AI应用的开发还完全无法平衡成本与体验 。
“调一次DeepSeek的大模型就花掉几分钱 , 累积起来很容易就能吞掉所有利润” , 有国内开发者在接受媒体采访时这样说到 。 由于AI大模型的核心商业模式就是基于API向希望使用AI能力的开发者兜售Tokens , 因此调用大模型带来的不可控成本 , 就成为了开发者为App添加AI能力时最为头疼的一个问题 。
在苹果此次宣布提供Foundation Models框架之前 , 无论是传统应用嵌入AI能力 , 还是开发新的AI应用 , 开发者除了自研大模型之外 , 就只有通过API调用云端大模型这一条路 。 显而易见 , 自研大模型、乃至微调开源模型都不是普通开发者都能玩转的事情 , 所以接入大模型厂商的API才几乎是唯一的选项 。
但AI大模型与传统的互联网产品不太一样 , 它并没有网络效应 , 成本也不会随着用户规模的提升摊薄 , 而是只有永无止境的线性增长 。 即便当下大模型的API价格进入“厘时代” , 也依然无法让小团队迈过损益分歧点 。 尽管先亏后赚是互联网创业的常态 , 可做AI应用却是前期巨亏 , 但盈利前景却并不明朗 。
Foundation Models框架则解决了API成本这个问题 , iOS开发者可以直接使用Apple Intelligence提供的30亿参数规模端侧模型 , 来为自家的App提供AI能力 。 由于模型是由苹果提供、算力则由iPhone负责 , 所以开发者就只需要想好自家App能借助AI实现哪些功能就行 。
如此一来 , AI应用供给不足的问题在iOS端算得上是迎刃而解 , 苹果这招称得上是实打实地为开发者省钱了 。 当然 , 现在也不用对Foundation Models框架抱有过高的期待 , 毕竟如今苹果的端侧模型还没有那么完善 。
目前 , 开发者的主要疑虑集中在模型性能表现和微调优化上 。 毕竟苹果的端侧模型能否达到云端大模型的性能水平 , 满足复杂AI任务的需求 , 以及开发者是否能像云端大模型那样 , 利用自己的数据集对苹果的模型进行精细化微调 , 现阶段还是未知数 。
此前 , 苹果部署在端侧的Apple On-Device模型其实是“翻过车”的 , 由这一模型支持的Summarization(通知摘要)在去年年末曾出现扭曲媒体报道、生成虚假信息的问题 , 甚至导致苹果方面被迫在iOS 18.3中暂时禁用了通知摘要功能 。
由于端侧模型在预训练阶段输入的参数规模小 , 所以通常在训练时学习到的知识也相对有限 。 由于知识范围相对较窄 , 这类模型在生成内容时 , 往往更倾向于使用已掌握的、相对确定的信息 。 然而对于一些非常复杂的任务 , 端侧模型可能会由于能力有限、而无法准确完成 , 进而产生幻觉 。 因此如何让开发者知晓端侧模型的能力边界 , 这是接下来苹果方面需要解决的一个问题 。
至于说开发者能否利用自己的专有数据集来微调苹果的端侧模型 , 答案大概率会是否定的 。 在解读Apple Intelligence运行机制的博客文章中 , 苹果就强调了负责任的AI原则的应用 , 由于确保用户隐私和数据安全是苹果的首要目标 , 所以他们很难允许开发者对模型进行“魔改” 。
因此“带着镣铐跳舞”或将会是未来开发者调用苹果端侧模型的基调 , 但有总比没有强 , 毕竟隔壁的Android开发者现在想要利用手机的端侧算力还无从下手 。
推荐阅读
- 美光宣布向多个关键客户出样 HBM4 36GB 12Hi 内存
- OpenAI推理大模型再度上新 o3-pro已经上线
- 从“中国硅谷”迈向“全球机器人之都”,深圳做对了什么?
- 字节跳动推出豆包大模型1.6和视频模型Seedance 1.0
- 中美谈判的第二天,人民日报采访了任正非,向美释放两大重要信号
- 苹果AI“暴论”震动AI圈!DeepSeek、Claude等热门大模型只是死记的模式机器?
- 大模型PK高考数学:DeepSeek文心豆包皆满分,差生意外
- 大模型让P图师也失业了?留给人类的职业真不多了
- 小红书开源首个大模型,中文评测超越DeepSeek-V3
- 齐向东:网络安全突围的动力来自生成式人工智能
