NuAxi
NuAxi半导体贸易情报

AI芯片演进推高内存需求:HBM以垂直堆叠与宽I/O突破带宽瓶颈,三星zHBM正在开发中

发生了什么

三星发布关于AI与AI芯片演进及HBM技术的系列文章第1部分,内容为技术背景介绍。文章说明AI芯片(GPU、AI专用ASIC、CPU)的分工,指出在decode阶段较小batch size下内存带宽可能成为关键性能瓶颈,并介绍KV cache随上下文长度和并发请求增加而增长的数据存储需求。文章回顾GPU传统上使用GDDR提供高内存带宽,但GDDR器件围绕GPU放置在板上,增加内存需要额外空间和布线,提高每引脚数据速率也会增加功耗、散热和信号完整性方面的挑战。HBM通过垂直堆叠与宽I/O接口(经由TSV连接多个DRAM裸片)应对该挑战,带来高带宽、更高容量、更高能效和更小封装面积四方面优势。文章还提到HBM代际演进方向包括堆叠层数从8层提高到12层和16层、更高密度DRAM裸片以及先进逻辑工艺基底下die。三星zHBM目前正处于开发中(currently under development),采用将内存直接堆叠在计算器件之上的3D集成方式以缩短数据路径。文章为信息性内容,三星声明不对其准确性或完整性作任何保证。

影响与信号

低影响影响力评分:0/100

受影响器件与厂商

HBMGDDRDRAMzHBM
HBMAI chipsmemory bandwidthKV cacheTSV3D stacking

来源与时间

来源:Samsung Semiconductor Newsroom · 2026/10/28 · 查看原始来源

查看 NuAxi 完整情报 →

实时定价、供应信号与 AI 分析,为半导体贸易商而生