AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
- Related manufacturers
- AI Chip Makers
- Impact score
- 10 / 100, low impact
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
AI发展推动芯片厂商聚焦系统级设计与生态构建。随着云边端AI快速演进,单纯供应芯片已不足以维持竞争力。
行业战略重心转移对供应链格局的长期影响。
Advantest和Teradyne主导全球市场,但HBM4订单及中国供应商崛起正在重塑格局。中国厂商如TBSTest已获超300套系统订单,并计划2026年占据中国ATE市场近15%份额,挑战80%的进口依赖。HBM4复杂度的提升推动测试需求,Digital Frontier与UniTest合计获得超2800亿韩元订单。
韩国9月出口同比大增83.5%,主要由AI链需求拉动。非AI链出口亦有所修复,但展望四季度,随着同比基数抬升及存储价格涨幅收窄,出口增速上行空间受限。
AI芯片及存储需求,但需警惕价格涨幅放缓。
SK海力士提出构建下一代AI内存生态愿景。随着AI从训练转向推理,数据移动效率成为瓶颈,架构正从处理器中心向内存中心转变。
该战略定位强化了HBM及高速内存在AI基础设施中的核心地位,长期需求前景向好。
文章调查了工程师对FPGA技术的熟悉程度及使用障碍。相比传统微控制器,FPGA被认为更具挑战性。
无具体供需数据,市场情绪分析。
英伟达下一代Rubin Ultra的HBM层数或从16层砍至8层,同时HBF闪存凭借低成本高容量优势试图分食市场。文章指出受限于工艺良率和散热,单纯堆叠HBM难度增加,而HBF虽延迟高但适合非高频数据。
混合存储架构或成远期解,存力产业链话语权面临重构。
Marvell高管指出,推理模型驱动KV缓存需求在过去九个月内增长约10倍,铜连接已逼近性能极限。随着数据中心规模突破物理限制,单机架内存无法满足需求,算力扩张正从单纯芯片竞争转向互连与内存的系统级博弈。
光学互连、定制化SerDes及内存扩展技术成为下一阶段算力扩张核心变量,相关供应商将持续受益。
三星电子为应对美光与闪迪的挖角,正提高绩效奖金及扩大股权奖励,以留住HBM与NAND闪存核心人才。半导体竞争主战场已转向人才争夺,能否抢到关键人才决定下一代存储器市场胜负。
三星薪酬成本上涨对利润率的潜在挤压,以及核心人才流失对产能的潜在风险。
Yole预测数据中心半导体市场2031年将超1.5万亿美元,Capex达1.8万亿美元。AI性能销售重心转向机架级,HBM、先进封装及功率器件成为核心驱动力。
HBM与功率器件需求激增,推动相关供应链价值重估。
Raser Technologies营收超10亿美元,转型AI GPU基础设施。公司起源于地热能源,经历破产重组,现专注于AI算力集群。
Kioxia正推动NAND闪存替代DRAM以应对竞争压力。作为唯一不生产DRAM的头部厂商,其面临美光和YMTC的双重挤压。
该策略对DRAM与NAND市场格局的潜在影响。
ChipAgent完成1.34亿美元A2轮融资,获美光、联发科等投资并部署于120家半导体集团。这反映了AI驱动EDA验证工具需求的激增。
彭博社古尔曼预计iPhone涨价100至200美元,Counterpoint指出1TB NAND成本增300美元。原因包括内存芯片短缺、新相机系统及折叠屏设计成本上升。
NAND Flash 价格,短缺预期支撑需求。
TrendForce预测AI将驱动2027年DRAM需求,维持紧俏与价格坚挺。随着NAND扩产与消费疲软,市场面临分化。
DRAM,关注NAND。
存储芯片营收暴涨5倍,利润增长10倍,主要源于价格上涨而非出货量增加。文章指出客户愿意为每比特数据支付3-5倍的高价,且HBM与DDR5利润率持平,NAND价格同步飙升。
尽管市场存在周期性波动,但供需强劲支撑价格维持高位,预计短期内难以大幅回落。
TrendForce预测NAND闪存供应短缺将于2027年终结,2026年剩余时间仍将维持4-6%的供需缺口。这一转变主要受SK海力士、美光、三星及YMTC等厂商扩产及消费端需求疲软驱动。
随着短缺缓解,价格预期将趋于稳定或下行。
铠侠正加码数据中心AI SSD用NAND闪存供应。文章分析了日本芯片制造商如何利用这一需求增长获利。
供需紧张可能缓解,但缺乏具体数据。
美联储理事沃什成立生产率与就业工作组,评估AI对生产率的影响。尽管AI可能提升生产率,但受油价、逆全球化等因素制约,沃什维持“按兵不动”的时间窗口或较格林斯潘时代更短。
宏观政策不确定性增加,压制芯片需求预期。
三星将1.4nm工艺量产时间推迟至2029年,优先提升2nm良率。此举导致三星在1.4nm节点上落后台积电约一年。
苹果供应链多元化策略,但短期对现货市场影响中性。
Whose chips are really inside the hottest new products? We open them up and show you, one part at a time.
All teardowns| Analog | $0.68 | −5.9% |
|---|---|---|
| Connector | $0.75 | +0.2% |
| CPU | $386.74 | −21.3% |
| DDR4 | $88.40 | −0.2% |
| DDR52026-W13 | $14.89 | −11.2% |
| GPU | $478.20 | +8.2% |
| MCU | $0.68 | −61.7%Unusual |
| MLCC | $0.01 | +54.0%Unusual |
| MOSFET | $0.12 | −82.8%Unusual |
| PMIC2026-W13 | $0.44 | −12.5% |
| SSD/HDD | $288.43 | n/a |