英伟达Groq下代芯片转向3D堆叠DRAM 弃大SRAM

时间：2026年10月20日（韩媒 ZDNET Korea 首报于 10 月 20 日 15:47 韩国时间，IT之家 10 月 21 日 11:24 中文跟进） 地点：韩国首尔（报道首发）；美国山景城（Groq 总部）；美国圣克拉拉（英伟达总部） 人物：Groq 创始人兼 CEO Jonathan Ross（2016 年从谷歌张量处理单元设计团队出走创业）；英伟达（此前以 200 亿美元授权交易实际上收编 Groq）；ZDNET Korea 半导体业界消息人士 A 与 B；Cerebras（晶圆级 AI 芯片公司） 事件详情：ZDNET Korea 10 月 20 日报道，英伟达实际上已经收编的 AI 半导体公司 Groq，正在评估在下一代芯片上导入 3D 封装技术，用堆叠 DRAM 替代现有的大容量 SRAM 设计。报道援引半导体业界关系人 A 的说法称，Groq 打算在下一代芯片中引入 3D 封装，并且堆叠的不是现有 SRAM，而是 DRAM。所采用的方案业界称为 3DS（3D Stacked Memory），即用硅通孔（TSV）把 DRAM 裸片垂直堆叠成高容量封装；在使用 TSV 这一点上与高带宽内存（HBM）类似，但 HBM 聚焦数据传输带宽，3DS 保留标准 DRAM 接口，把重点放在容量扩张上。另一名业界关系人 B 分析认为，随着整个市场都在往更大的芯片方向走，Groq 也很可能是因为 DRAM 在容量上的优势才做出这一选择。Groq 由 2016 年从谷歌张量处理单元设计团队出走的 Jonathan Ross 创立，主打语言处理单元（LPU），以编译器调度、确定性执行和片上 SRAM 高带宽换取极低推理延迟，Groq 3 LPX 机架方案为 256 颗互联 LPU。IT之家 10 月 21 日 11:24 跟进报道称，Groq 当前一代 LPU 采用大容量 SRAM 缓存设计以实现快速解码输出，但 SRAM 存在容量较小、制程升级密度收益有限的问题，在大型模型表现和芯片迭代上存在固有局限。值得注意的是，同样采用大 SRAM 技术路线的 Cerebras 也已预告其下一代 CS-6 将 3D 垂直集成 DRAM。 背景：过去两年，AI 推理的内存墙一直主导着芯片架构选择。HBM 让 GPU 侧带宽节节攀升，但价格与产能同时成为瓶颈，于是业界开始寻找第二条路，用 SRAM 换取确定性执行和超低延迟，Groq 官方给出的指标是单机架 256 颗 LPU、SRAM 带宽 40 PB/s、每用户每秒 1000 tokens，第三方解析则指出 Groq 3 LPU 拥有 500MB 片上 SRAM 与 150TB/s 内存带宽。但 SRAM 的面积效率在先进制程下很难线性提升，靠加大片上 SRAM 去匹配大模型参数量的路越走越窄。与此同时，超大规模客户要的是能装下更大的模型，而不只是更快地读一个小模型，容量而非带宽成了新的短板，这正是本次路线转向的根本动因。3DS 这类 TSV 堆叠 DRAM 的吸引力在于，它不改动 DRAM 本身的接口生态，保留既有兼容性，同时把容量做上去。ZDNET Korea 同时提到，SK 海力士也在探讨把晶圆代工工艺用于 3D 堆叠 DRAM，说明这已不是单点动作，而是存储厂与芯片厂的共同方向。 影响：这条消息的价值在于它给出了一条清晰的技术路线分水岭，SRAM 派正在被容量逼着改道。对英伟达而言，Groq 这条线原本以低延迟推理为卖点，一旦通过 3D 堆叠补上容量短板，其 LPU 在推理市场的定位就不再只是延迟冠军，而是可以在延迟与容量两端同时站住，直接挑战 HBM 供给紧张下 GPU 的溢价能力。对整个 AI 芯片产业，DRAM 堆叠封装一旦成为大模型推理的标准件，先进封装产能、TSV 良率与存储大厂供货能力就会成为新的卡位点，SK 海力士、三星等存储厂在 AI 产业链中的议价权将随之抬升。对国内芯片公司而言，大 SRAM 路线的时间窗口正在收窄，围绕 3D 堆叠 DRAM、先进封装与 HBM 替代的投入需要更早排布。 总结：一家以 SRAM 见长的公司主动准备换掉 SRAM，本身就说明 SRAM 路线的边界。容量墙面前，延迟冠军也得让路，3D 堆叠 DRAM 很可能成为下一阶段 AI 推理芯片的默认内存层。届时真正的稀缺不再是算力峰值，而是封装产能和存储供给。 参考来源： 1. ZDNET Korea：그록, 차세대 칩에 'D램 3차원 적층' 도입 추진…S램 한계 넘는다 https://zdnet.co.kr/view/?no=20261019161431 2. IT之家：消息 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM，放弃大 SRAM 方案 https://www.ithome.com/1/015/760.htm 3. Cerebras 官方博客：Ultrafast Frontier Inference: Cerebras Deep Dive at Hot Chips 2026（CS-6 晶圆级 3D 堆叠 DRAM） https://www.cerebras.ai/blog/ultrafast-frontier-inference-cerebras-deep-dive-at-hot-chips-2026 4. 新浪科技：Cerebras 揭秘CS-6 晶圆级进化：颠覆性3D 堆叠，首次垂直集成DRAM https://finance.sina.com.cn/tech/digi/2026-08-28/doc-inipvrtx8961909.shtml 5. NVIDIA 开发者博客：Inside NVIDIA Groq 3 LPX: The Low-Latency Inference Accelerator for the NVIDIA Vera Rubin Platform https://developer.nvidia.com/blog/inside-nvidia-groq-3-lpx-the-low-latency-inference-accelerator-for-the-nvidia-vera-rubin-platform/ 6. Spheron 解析：NVIDIA Groq 3 LPU Explained（500MB 片上 SRAM、150TB/s 内存带宽） https://www.spheron.network/blog/nvidia-groq-3-lpu-explained/ 7. Groq 官方平台页（256 LPUs 每机架、40 PB/s SRAM 带宽、每用户每秒 1000 tokens） https://groq.com/platform 8. IT之家：效仿AMD X3D 方式堆叠Groq 的LPU 单元 https://www.ithome.com/0/909/137.htm