
OpenAI很可能会使用博通的3.5D XDSiP封装技术 。
据称 , OpenAI正在博通的帮助下开发一款定制AI加速器 , 此举显然是为了减少对英伟达的依赖 , 并降低其GPT系列模型的成本 。
【请想象,博通给OpenAI打造的芯片】报道称 , 博通首席执行官Hock Tan在周四的财报电话会议上提到的那个价值100亿美元的神秘客户 , 正是Sam Altman的人工智能公司OpenAI 。
虽然博通没有透露其客户的习惯 , 但一个公开的秘密是 , 该公司的知识产权构成了市面上许多定制云芯片的基础 。
Tan在周四的电话会议上对分析师表示 , 博通目前正在为三家XPU客户提供服务 , 第四家也即将加入 。
“上个季度 , 其中一位潜在客户向博通下达了生产订单 , 因此我们已将其定性为合格的XPU客户 , 并且实际上 , 我们已经获得了基于我们XPU的、价值超过100亿美元的AI机架订单 , ”他说 。 “反映在这一点上 , 我们现在预计2026财年的AI收入前景将比我们上个季度所预示的有显著改善 。 ”
一段时间以来 , 一直有传言称OpenAI正在开发一款自研芯片 , 以替代英伟达和AMD的GPU 。 消息人士表示 , 该芯片现在预计将于明年某个时候首次亮相 , 但将主要用于内部 , 而不会向外部客户提供 。
这是否意味着该芯片将用于训练而非推理 , 或者仅仅是它将为OpenAI的推理和API服务器提供动力 , 而不是像谷歌和AWS对其TPU和Trainium加速器那样 , 用于基于该加速器的虚拟机 , 这仍然是一个悬而未决的问题 。
它会是什么样子虽然我们不确切知道OpenAI打算如何使用其第一代芯片 , 但博通的参与为我们提供了一些关于其最终形态的线索 。
博通生产多种构建大规模AI计算系统所需的基础技术 。 这些技术范围广泛 , 从用于在芯片间传输数据的串行器-解串器(SerDes) , 到将单个芯片扩展至数千个所需的网络交换机和共封装光学互连 , 再到构建多裸片加速器所需的3D封装技术 。
OpenAI很可能会使用博通的3.5D XDSiP(eXtreme Dimension System in Package)封装技术 , 并结合上述所有技术中的一部分 , 而XDSiP本身很可能就是加速器的封装方案 。
该架构在许多方面都让人联想到AMD的MI300系列加速器 , 比我们目前从英伟达看到的任何产品都更相似 。 它涉及将先进的计算单元(compute tile)堆叠在包含芯片底层逻辑和内存控制器的基础裸片之上 。 同时 , 封装间的通信通过独立的I/O裸片进行 。 这种模块化的方法意味着客户可以根据自己的需求 , 或多或少地将自己的知识产权融入设计中 , 并让博通来填补其余的空白 。
博通最大的3.5D XDSiP设计将在一个6000平方毫米的封装上支持一对3D堆栈、两个I/O裸片和多达12个HBM堆栈 。 首批产品预计将于明年开始出货 , 这恰好与传闻中OpenAI推出其首款芯片的时间相符 。
除了博通的XDSiP技术 , 如果OpenAI利用博通的Tomahawk 6系列交换机和共封装光学小芯片来进行纵向和横向扩展网络 , 我们也不会感到惊讶 。 然而 , 博通在这两种网络范式中都专注于将以太网作为首选协议 , 这意味着他们不必在所有方面都使用博通的产品 。
缺失的MAC单元虽然博通的3.5D XDSiP似乎是OpenAI首款自研芯片的有力候选方案 , 但它本身并不是一个完整的解决方案 。 这家AI初创公司仍然需要提供 , 或者至少是授权一个配备了性能极高的矩阵乘法累加(MAC)单元的计算架构 , 这种单元有时也被称为MME或张量核心(Tensor core) 。
这些计算单元还需要一些其他的控制逻辑 , 理想情况下还需要一些向量单元 , 但对于AI来说 , 最主要的是一个足够强大的矩阵单元 , 并能接触到充足的高带宽内存 。
因为博通将负责提供几乎所有其他部分 , OpenAI的芯片团队可以完全专注于为其内部工作负载优化其计算架构 , 这使得整个过程远没有那么艰巨 。
这就是为什么云服务提供商和超大规模数据中心运营商倾向于从商用芯片销售商那里授权其大部分加速器设计的原因 。 当你本可以把资源再投资于你的核心竞争力时 , 没有必要浪费资源去重复发明轮子 。
也有可能是苹果?考虑到Altman计划将主要来自他人的数百亿美元资金投入到其“星际之门”(Stargate)计划下的AI基础设施中 , 博通新增的这个价值100亿美元的客户是OpenAI并不令人意外 。
然而 , 这家初创公司并非唯一一家传闻与博通合作开发定制AI加速器的公司 。 去年年底 , 曾有报道称 , 苹果将成为博通的下一个重要XPU客户 , 其芯片代号为“Baltra” , 预计于2026年推出 。
自那时以来 , 苹果已承诺投资5000亿美元并雇佣2万人来增强其国内制造能力 。 在这些投资中 , 包括一个位于德克萨斯州的制造厂 , 该厂将生产基于其自研芯片的、具备AI加速功能的服务器 。
*声明:本文系原作者创作 。 文章内容系其个人观点 , 我方转载仅为分享与讨论 , 不代表我方赞成或认同 , 如有异议 , 请联系后台 。
想要获取半导体产业的前沿洞见、技术速递、趋势解析 , 关注我们!
推荐阅读
- 消息称OpenAI将与博通合作自研AI芯片 预计明年开始量产
- OPPO A6 Pro发布会邀请函来了,抗造又升级了?
- 「我申请当 OpenAI CEO ,收到了一封拒绝信」
- 年轻人生活方式④|“AI搭子”不请假 年轻人有了“数字队友”
- 网易云音乐黑胶邀请官重磅升级 会员赠送天数大幅增加
- 华为nova15Pro曝光:小口径+6300mAh,请叫人家小甜甜
- 剖析苹果邀请函后,我们发现了些没人聊过的新功能
- 苹果发布会邀请函解读:网页源代码暗藏关键细节
- 申请仙界、天界后!华为注册绝界商标
- 你有没有试过,自己去申请一个emoji?
