AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
- Related manufacturers
- AI Chip Makers
- Impact score
- 10 / 100, low impact
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
Advantest和Teradyne主导全球市场,但HBM4订单及中国供应商崛起正在重塑格局。中国厂商如TBSTest已获超300套系统订单,并计划2026年占据中国ATE市场近15%份额,挑战80%的进口依赖。HBM4复杂度的提升推动测试需求,Digital Frontier与UniTest合计获得超2800亿韩元订单。
Valve 2026年硬件调查显示,32GB内存装机量首次超越16GB,占比达42.22%。16GB占比则降至37.82%,单月降幅达3.38个百分点。
32GB内存需求,利空16GB市场,预示着消费级DRAM升级趋势加速。
SK海力士提出构建下一代AI内存生态愿景。随着AI从训练转向推理,数据移动效率成为瓶颈,架构正从处理器中心向内存中心转变。
该战略定位强化了HBM及高速内存在AI基础设施中的核心地位,长期需求前景向好。
文章调查了工程师对FPGA技术的熟悉程度及使用障碍。相比传统微控制器,FPGA被认为更具挑战性。
无具体供需数据,市场情绪分析。
英伟达下一代Rubin Ultra的HBM层数或从16层砍至8层,同时HBF闪存凭借低成本高容量优势试图分食市场。文章指出受限于工艺良率和散热,单纯堆叠HBM难度增加,而HBF虽延迟高但适合非高频数据。
混合存储架构或成远期解,存力产业链话语权面临重构。
TSMC北美CEO Sajiv Dalal宣布今年AI基础设施支出达1万亿美元,预计未来几年将大幅增长。这一数据印证了AI向边缘端及各行业渗透,推动对先进制程、Chiplet及HBM等技术的需求。
巨额资本开支将强化先进封装与HBM产能紧缺预期,利好相关供应链。
Marvell高管指出,推理模型驱动KV缓存需求在过去九个月内增长约10倍,铜连接已逼近性能极限。随着数据中心规模突破物理限制,单机架内存无法满足需求,算力扩张正从单纯芯片竞争转向互连与内存的系统级博弈。
光学互连、定制化SerDes及内存扩展技术成为下一阶段算力扩张核心变量,相关供应商将持续受益。
SemiAnalysis 创始人 Dylan Patel 预测云厂商将从单纯出租 GPU 转向按 Token 收费。随着底层软件标准化,单纯卖 GPU 算力的市场将死掉。
只有死磕推理效率的厂商才能在未来生存,这改变了 GPU 算力的商业模式。
TrendForce报告称CoWoS-L技术成熟度高且良率优异,预计2028年前仍是AI芯片主流封装方案。英伟达高端GPU出货量预计2026年同比增长30%,AMD也将于2026年下半年推出MI400/MI450系列。
强劲的AI需求持续推动先进封装产能利用率,利好台积电及英伟达。
A股光通信与半导体板块领涨,费城半导体指数涨3.14%,中际旭创等大票涨超6%。海外GPU云服务商再次涨价,验证AI算力需求强劲。机构资金回流核心科技股,光模块、光芯片等环节景气度回升。
兴证策略团队数据显示,AI内部拥挤度呈现“高低易位”,上游硬件方向拥挤度处于历史绝对低位,中下游软件方向升至较高水平。经前期资金再平衡后,光模块、存储等硬件板块交易情绪低迷,而大模型、AIGC等软件板块资金涌入。
中下游软件板块,利空上游硬件板块,短期资金或继续向高拥挤度方向流动。
中国GPU厂商正从单纯匹配高端加速器性能转向构建大规模集群和软件栈。单纯芯片性能已不足以支撑日益庞大的AI模型训练。
行业重心向生态系统规模转移。
英伟达与Palantir因数据隐私担忧限制Anthropic模型使用,转而采用私有部署方案。此举将推高企业级AI芯片需求。
英伟达GPU出货。
Raser Technologies营收超10亿美元,转型AI GPU基础设施。公司起源于地热能源,经历破产重组,现专注于AI算力集群。
黄仁勋重申英伟达2027财年70%营收增长受限于供应而非需求,并回应了5000亿美元融资平台的质疑。文章指出AI基础设施市场2030年规模将达3-4万亿美元,且算力、电力与数据中心容量是当前核心瓶颈。
供应受限确认了当前的稀缺溢价,强化了AI算力板块的长期投资逻辑。
北美四大云厂商2026年Q2资本开支达1712亿美元,同比增长78.6%,主要受AI算力需求旺盛驱动。这直接利好光模块、GPU及光纤光缆等细分板块。
预计2026年及2027年北美及国产AI算力产业链将持续扩产。
2026年Q2独立显卡出货量环比增长12.2%,笔记本GPU增长16.8%。受游戏本与AI应用驱动,需求逆势走强。
独立显卡需求具备韧性,但需警惕渠道备货带来的库存积压风险。
英特尔服务器市占率预计2030年跌至35.8%,AMD约占31%,Arm阵营占30-35%。AI服务器CPU市场规模将超2100亿美元,其中AI专用芯片占比86%。
英特尔长期份额,利好AMD与Arm AI需求。
亚太关键元件预计下半年AI服务器需求增强,并预测2027年液冷渗透率将达50%。这一增长由ASIC芯片出货量增加及英伟达Vera Rubin平台推动。
液冷技术加速普及将利好相关散热供应商,AI服务器需求复苏预期提升行业景气度。
Whose chips are really inside the hottest new products? We open them up and show you, one part at a time.
All teardowns| Analog | $0.68 | −5.9% |
|---|---|---|
| Connector | $0.75 | +0.2% |
| CPU | $386.74 | −21.3% |
| DDR4 | $88.40 | −0.2% |
| DDR52026-W13 | $14.89 | −11.2% |
| GPU | $478.20 | +8.2% |
| MCU | $0.68 | −61.7%Unusual |
| MLCC | $0.01 | +54.0%Unusual |
| MOSFET | $0.12 | −82.8%Unusual |
| PMIC2026-W13 | $0.44 | −12.5% |
| SSD/HDD | $288.43 | n/a |