据 cnBeta.COM 2026年10月21日报道,已被英伟达纳入麾下的 AI 推理芯片公司 Groq 计划在下一代 LPU(语言处理单元)产品中引入 3D 堆叠 DRAM 技术,以替代当前广泛采用的 SRAM 方案,此举意味着未来更侧重提升芯片存储容量,以适应不断膨胀的大型 AI 模型需求,属计划而非已实现的产品变更。现有一代 Groq LPU 采用 500MB SRAM 设计,内存带宽高达 150TB/s,单颗可提供约 1.20 PFLOPs 的 FP8 算力;LPX 机架配置 256 颗此类芯片,总计提供 128GB SRAM 容量和 640TB/s 扩展带宽。该机架由英伟达于今年早些时候公布并纳入 Vera Rubin 生态体系,已于今年 8 月进入全面量产阶段;早期测试显示,在与 NVL72 服务器协同工作时系统可实现每秒 3400 个 Token 的推理速度,创性能纪录。报道称,与 SRAM 相比 DRAM 容量更高但带宽和访问速度较低;3D 堆叠方案可堆叠多层 DRAM 并利用 TSV 硅通孔实现层间连接,与 HBM 实现方式相似,可提高单位面积存储密度、改善能效并减少占用空间。报道还提到,未来 Groq 或许不会完全放弃 SRAM,而是将 DRAM 与 SRAM 产品线并行发展,按应用场景提供差异化方案。原文未说明具体时间表或量产计划细节。
- Related manufacturers
- Groq, 英伟达
- Impact score
- 55 / 100, medium impact