AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载，但与训练不同，它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS，可能无法满足推理的严格限制。
关注
这种转变凸显了对专门为推理设计的芯片的需求。
- 相关厂商
- AI Chip Makers
- 影响评分
- 10 / 100，低影响
推理占大多数数据中心AI工作负载，但与训练不同，它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS，可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
Marvell高管指出，推理模型驱动KV缓存需求在过去九个月内增长约10倍，铜连接已逼近性能极限。随着数据中心规模突破物理限制，单机架内存无法满足需求，算力扩张正从单纯芯片竞争转向互连与内存的系统级博弈。
光学互连、定制化SerDes及内存扩展技术成为下一阶段算力扩张核心变量，相关供应商将持续受益。
ChipAgent完成1.34亿美元A2轮融资，获美光、联发科等投资并部署于120家半导体集团。这反映了AI驱动EDA验证工具需求的激增。
TrendForce预测推理需求将推升SSD POD与HBF。HBM主导了训练时代，但推理需求更多元化。
存储需求结构发生重大转变。
2032年全球AI计算核心IP市场规模将达6.12亿美元，年复合增长率15.2%。报告梳理了行业竞争格局，指出端侧大模型与汽车电子需求推动IP授权市场扩张。
文章提供市场前景预测，未涉及具体价格波动或供应链中断信息。
FPGA在大模型推理任务中展现出优于通用GPU的效率。文章指出FPGA可通过重新配置针对特定模型优化，而GPU作为通用ASIC在特定任务上效率受限。
该技术趋势对AI硬件市场格局的影响。
AI模型扩张推升芯片互连需求，高速SerDes市场竞争加剧，联发科据称以224G SerDes打入谷歌TPU生态，英伟达则向合作伙伴开放NVLink Fusion SerDes IP。SerDes性能正成为ASIC厂商的关键差异化因素，博通与美满电子在该领域持续领先。
此为长期技术竞争动态，对具体元器件现货供应、价格及产能暂无直接影响。
市场传闻英伟达开发SRAM推理芯片引发对HBM/DRAM需求的担忧，韩国股市相关个股一度下跌。机构KIS分析指出，SRAM因成本与密度问题并非HBM/DRAM替代品，而是面向超低延迟场景的差异化选择。
内存层级细分最终可能扩大行业整体市场，而非替代现有需求。
英伟达计划在GTC发布整合Groq LPU技术的推理芯片，OpenAI已同意成为其主要客户。申万宏源报告指出，AI算力主战场正从训练转向推理，催生CPU/LPU/国产芯片突破及海量Token消耗需求。
推理芯片竞争加剧，可能重塑对SRAM、低成本HBM等专用组件的长期需求格局，并为非GPU架构创造机会。
一份未经证实的英伟达LPU供应链名单流传，列出了从代工、SRAM到封装测试的潜在供应商。该名单暗示LPU设计绕开HBM和CoWoS封装，采用片上SRAM和传统封装。
此为未经证实的背景信息，对当前供需与价格无直接影响。
AI芯片初创公司MatX与Axelera周二合计融资7.5亿美元，其中MatX获5亿美元B轮融资，Axelera获2.5亿美元融资。资金将分别用于开发数据中心AI加速器与边缘AI芯片，显示风投对挑战英伟达的兴趣。
此为远期技术竞争，对当前现货市场供需与价格无直接影响。
联发科CEO指出，内存成本已占XPU物料清单约50%，成为关键设计瓶颈。行业正加速探索存内计算等新架构以应对，SK海力士与三星电子推进相关研发。
此为长期成本与技术趋势的结构性市场评论，不构成短期交易信号。
已经到底了