云南龙网

  1. 首页 > 生活百科 > >

首款2nm SRAM，为AI数据中心带来什么？

芯片ai存储器dram

首款2nm SRAM，为AI数据中心带来什么？

文章图片


本文由半导体产业纵横（ID：ICVIEWS）综合
SRAM广泛用于高性能处理器芯片的缓存 。 如果芯片无需访问外部存储器 ， 其速度甚至可以更快 。
【首款2nm SRAM，为AI数据中心带来什么？】SRAM 已经非常成熟 ， 现在被认为是一种商业“管道”类型的内存 ， 但 Marvell Technology 的最新定制 SRAM 正在展示这种现有内存如何在 AI 数据中心发挥作用 。
显著降低功耗和芯片面积Marvell 声称其定制 SRAM 是业界首款 2nm 定制 SRAM 。 它旨在提升加速基础设施中内存层的性能 ， 提供高达 6Gbit 的高速内存 ， 从而提升定制 XPU（处理器、加速器、GPU）和设备的性能 。 此外 ， 在相同密度下 ， 它还能显著降低内存功耗和芯片面积 。
该公司的 SRAM 比类似密度的标准片上 SRAM 功耗低 66% ， 运行频率高达 3.75GHz ， 这是 AI 集群和数据中心管理其能源足迹和有效冷却组件的关键指标 。
Marvell 首席内存架构师 Darren Anand表示：“Marvell 一直专注于优化 SRAM ， 以适应 AI/机器学习应用 。 这与我们目前的封装和定制高带宽内存 (HBM) 工作具有显著的协同效应 ， 从而为 XPU 上的计算释放了更多的芯片面积 。 ”
“SRAM 有创新的机会”Anand 表示：“Marvell 的 SRAM 不是不断访问 HBM ， 而是将部分工作负载保留在芯片上 ， 并支持 AI 工作负载所需的高带宽和宽 IO ， 从而有可能提高整体设备性能 。 ”
在最先进的节点上 ， SRAM 可以与逻辑芯片集成在同一块芯片上 。 来源：Marvell Technology
他表示：“SRAM 是唯一在个位数工艺节点上可用的存储器 ， 因此也是唯一能够支持近内存计算架构的高性能存储器 。 在这些前沿节点上 ， DRAM 无法在同一块硅片上使用 。 同样 ， NAND 闪存、磁阻 RAM (MRAM)、电阻式 RAM (ReRAM) 和相变 RAM (PCM) 等新兴存储器也无法在这些前沿节点上使用 。 ”
Anand 解释说：“在尖端节点上 ， SRAM 可以与逻辑芯片集成在同一芯片上 ， 从而支持可立即供 XPU 上的处理器和逻辑引擎使用的内存层次结构 。 ” 在这方面 ， 它不同于连接内存和逻辑芯片的典型冯·诺依曼架构 。 近内存计算架构将数据放置在更靠近需要的位置 ， 从而降低了移动数据所需的功耗并增加了带宽 。
他补充道：“典型的 XPU 至少有 30% 的硅片面积专用于 SRAM ， 有些设计甚至超过芯片面积的 50% 到 60% 。 我们正在尝试优化这一点 ， 因为这会对芯片的芯片尺寸和成本产生重大影响 。 ”
“在业界 ， SRAM 正变得像一个基本的 IP‘管道’ ， 这意味着很多地方都需要它 ， 但却缺乏技术创新 。 实际上 ， 在 SRAM 架构中可以实现许多新技术 ， 以优化功耗、带宽和许多其他指标 。 我们并不认为 SRAM 仅仅是一个管道 ， 而是一个创新的机会 ， ”Anand 说道 。
Anand 认为 ， SRAM 面临的最大挑战是面积微缩 。 虽然逻辑单元和存储器都经历了多代的微缩 ， 但 SRAM 单元似乎开始遇到瓶颈 ， 导致过去几代先进节点的微缩停滞不前 。 “逻辑单元继续微缩 ， 但存储器位单元却没有 ， ”Anand 指出 。
Objective Analysis 首席分析师 Jim Handy 表示：“Marvell 的方法实现了节能降耗和速度提升 ， 同时也承认了 SRAM 芯片并非随着工艺制程线性扩展的事实 。 他们只是根据这些工艺制程尺寸对 SRAM 进行了轻微的调整 。 ”
Handy 表示：“SRAM 广泛用于高性能处理器芯片的缓存 。 如果芯片无需访问外部存储器 ， 其速度甚至可以更快 。 事实上 ， 芯片上的所有核心每个周期都能执行一条指令 ， 速度非常快 。 ”
虽然SRAM和DRAM都是随机存取存储器的形式 ， 但是它们的结构上有所不同 。 DRAM代表动态随机存取存储器 。 这种存储器在结构上与SRAM有所不同 ， 因为它使用电容器而不是反相器和晶体管进行存储 。 因此 ， 这种存储器需要刷新并因此发生变化 ， 因此被定义为“动态”的 。 不像SRAM ， 其存储器存储在芯片上 ， DRAM存储在与芯片外部的主板上 ， 因此访问时间更长 。 这导致SRAM是一种比DRAM更快的存储器 。
每种内存在设备中存储的位置也不同 。 DRAM通常用作主要的存储器 ， 因此通常存储在主板上 ， 但是由于SRAM是CPU中常用的存储器 ， 因此最可能在处理器上找到 。
最后 ， 这两种内存在成本方面也有所不同 。 由于SRAM需要更多的功率来运行 ， 因此与DRAM相比 ， 它也是一种更昂贵的内存选择 。 这是SRAM不总是主存储系统的理想选择的另一个原因 。
想要获取半导体产业的前沿洞见、技术速递、趋势解析 ， 关注我们！

    推荐阅读


    上一篇：EcoDataCenter获6亿欧元融资，用于扩建AI数据中心

    下一篇：半导体设备传捷报：盛美上海扩充光刻产品、中微公司发布6大新品