AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
- Related manufacturers
- AI Chip Makers
- Impact score
- 10 / 100, low impact
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
Advantest和Teradyne主导全球市场,但HBM4订单及中国供应商崛起正在重塑格局。中国厂商如TBSTest已获超300套系统订单,并计划2026年占据中国ATE市场近15%份额,挑战80%的进口依赖。HBM4复杂度的提升推动测试需求,Digital Frontier与UniTest合计获得超2800亿韩元订单。
Valve 2026年硬件调查显示,32GB内存装机量首次超越16GB,占比达42.22%。16GB占比则降至37.82%,单月降幅达3.38个百分点。
32GB内存需求,利空16GB市场,预示着消费级DRAM升级趋势加速。
SK海力士提出构建下一代AI内存生态愿景。随着AI从训练转向推理,数据移动效率成为瓶颈,架构正从处理器中心向内存中心转变。
该战略定位强化了HBM及高速内存在AI基础设施中的核心地位,长期需求前景向好。
DigiKey工厂未来系列第六季聚焦AI基建与智能制造。文章探讨供应商如何构建下一代工业生产基础。
无具体供需数据,仅为行业背景资讯。
英伟达下一代Rubin Ultra的HBM层数或从16层砍至8层,同时HBF闪存凭借低成本高容量优势试图分食市场。文章指出受限于工艺良率和散热,单纯堆叠HBM难度增加,而HBF虽延迟高但适合非高频数据。
混合存储架构或成远期解,存力产业链话语权面临重构。
iPhone 18 Pro系列开售7天国内销量达130万台,约为iPhone 17 Pro系列的115%。该数据表明消费者对搭载2纳米A20 Pro芯片的高端机型需求强劲。
强劲的终端需求有望支撑移动AP芯片价格及库存健康度。
Marvell高管指出,推理模型驱动KV缓存需求在过去九个月内增长约10倍,铜连接已逼近性能极限。随着数据中心规模突破物理限制,单机架内存无法满足需求,算力扩张正从单纯芯片竞争转向互连与内存的系统级博弈。
光学互连、定制化SerDes及内存扩展技术成为下一阶段算力扩张核心变量,相关供应商将持续受益。
SemiAnalysis 创始人 Dylan Patel 预测云厂商将从单纯出租 GPU 转向按 Token 收费。随着底层软件标准化,单纯卖 GPU 算力的市场将死掉。
只有死磕推理效率的厂商才能在未来生存,这改变了 GPU 算力的商业模式。
TrendForce报告称CoWoS-L技术成熟度高且良率优异,预计2028年前仍是AI芯片主流封装方案。英伟达高端GPU出货量预计2026年同比增长30%,AMD也将于2026年下半年推出MI400/MI450系列。
强劲的AI需求持续推动先进封装产能利用率,利好台积电及英伟达。
A股光通信与半导体板块领涨,费城半导体指数涨3.14%,中际旭创等大票涨超6%。海外GPU云服务商再次涨价,验证AI算力需求强劲。机构资金回流核心科技股,光模块、光芯片等环节景气度回升。
兴证策略团队数据显示,AI内部拥挤度呈现“高低易位”,上游硬件方向拥挤度处于历史绝对低位,中下游软件方向升至较高水平。经前期资金再平衡后,光模块、存储等硬件板块交易情绪低迷,而大模型、AIGC等软件板块资金涌入。
中下游软件板块,利空上游硬件板块,短期资金或继续向高拥挤度方向流动。
中国GPU厂商正从单纯匹配高端加速器性能转向构建大规模集群和软件栈。单纯芯片性能已不足以支撑日益庞大的AI模型训练。
行业重心向生态系统规模转移。
英伟达与Palantir因数据隐私担忧限制Anthropic模型使用,转而采用私有部署方案。此举将推高企业级AI芯片需求。
英伟达GPU出货。
Raser Technologies营收超10亿美元,转型AI GPU基础设施。公司起源于地热能源,经历破产重组,现专注于AI算力集群。
北美四大云厂商2026年Q2资本开支达1712亿美元,同比增长78.6%,主要受AI算力需求旺盛驱动。这直接利好光模块、GPU及光纤光缆等细分板块。
预计2026年及2027年北美及国产AI算力产业链将持续扩产。
iPhone 17系列首年营收创历史新高达1700亿美元,同比增长11%。中国市场表现强劲,营收增长35%。
智能手机芯片需求,苹果定价策略稳固支撑高端元件。
2026年Q2独立显卡出货量环比增长12.2%,笔记本GPU增长16.8%。受游戏本与AI应用驱动,需求逆势走强。
独立显卡需求具备韧性,但需警惕渠道备货带来的库存积压风险。
移动版RTX 5090在处理小模型时性能领先M5 Max,但在长上下文场景下因24GB显存不足而大幅落后。测试显示,当面对超大模型或长上下文时,M5 Max的128GB统一内存优势显现,而RTX 5090受限于显存容量。
消费级GPU显存瓶颈显现;关注:英伟达或推“RTX Spark”应对。
Whose chips are really inside the hottest new products? We open them up and show you, one part at a time.
All teardowns| Analog | $0.68 | −5.9% |
|---|---|---|
| Connector | $0.75 | +0.2% |
| CPU | $386.74 | −21.3% |
| DDR4 | $88.40 | −0.2% |
| DDR52026-W13 | $14.89 | −11.2% |
| GPU | $478.20 | +8.2% |
| MCU | $0.68 | −61.7%Unusual |
| MLCC | $0.01 | +54.0%Unusual |
| MOSFET | $0.12 | −82.8%Unusual |
| PMIC2026-W13 | $0.44 | −12.5% |
| SSD/HDD | $288.43 | n/a |