AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
- 相关厂商
- AI Chip Makers
- 影响评分
- 10 / 100,低影响
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
Valve 2026年硬件调查显示,32GB内存装机量首次超越16GB,占比达42.22%。16GB占比则降至37.82%,单月降幅达3.38个百分点。
32GB内存需求,利空16GB市场,预示着消费级DRAM升级趋势加速。
SK海力士提出构建下一代AI内存生态愿景。随着AI从训练转向推理,数据移动效率成为瓶颈,架构正从处理器中心向内存中心转变。
该战略定位强化了HBM及高速内存在AI基础设施中的核心地位,长期需求前景向好。
英伟达下一代Rubin Ultra的HBM层数或从16层砍至8层,同时HBF闪存凭借低成本高容量优势试图分食市场。文章指出受限于工艺良率和散热,单纯堆叠HBM难度增加,而HBF虽延迟高但适合非高频数据。
混合存储架构或成远期解,存力产业链话语权面临重构。
Marvell高管指出,推理模型驱动KV缓存需求在过去九个月内增长约10倍,铜连接已逼近性能极限。随着数据中心规模突破物理限制,单机架内存无法满足需求,算力扩张正从单纯芯片竞争转向互连与内存的系统级博弈。
光学互连、定制化SerDes及内存扩展技术成为下一阶段算力扩张核心变量,相关供应商将持续受益。
SemiAnalysis 创始人 Dylan Patel 预测云厂商将从单纯出租 GPU 转向按 Token 收费。随着底层软件标准化,单纯卖 GPU 算力的市场将死掉。
只有死磕推理效率的厂商才能在未来生存,这改变了 GPU 算力的商业模式。
TrendForce报告称CoWoS-L技术成熟度高且良率优异,预计2028年前仍是AI芯片主流封装方案。英伟达高端GPU出货量预计2026年同比增长30%,AMD也将于2026年下半年推出MI400/MI450系列。
强劲的AI需求持续推动先进封装产能利用率,利好台积电及英伟达。
A股光通信与半导体板块领涨,费城半导体指数涨3.14%,中际旭创等大票涨超6%。海外GPU云服务商再次涨价,验证AI算力需求强劲。机构资金回流核心科技股,光模块、光芯片等环节景气度回升。
兴证策略团队数据显示,AI内部拥挤度呈现“高低易位”,上游硬件方向拥挤度处于历史绝对低位,中下游软件方向升至较高水平。经前期资金再平衡后,光模块、存储等硬件板块交易情绪低迷,而大模型、AIGC等软件板块资金涌入。
中下游软件板块,利空上游硬件板块,短期资金或继续向高拥挤度方向流动。
中国GPU厂商正从单纯匹配高端加速器性能转向构建大规模集群和软件栈。单纯芯片性能已不足以支撑日益庞大的AI模型训练。
行业重心向生态系统规模转移。
英伟达与Palantir因数据隐私担忧限制Anthropic模型使用,转而采用私有部署方案。此举将推高企业级AI芯片需求。
英伟达GPU出货。
Raser Technologies营收超10亿美元,转型AI GPU基础设施。公司起源于地热能源,经历破产重组,现专注于AI算力集群。
北美四大云厂商2026年Q2资本开支达1712亿美元,同比增长78.6%,主要受AI算力需求旺盛驱动。这直接利好光模块、GPU及光纤光缆等细分板块。
预计2026年及2027年北美及国产AI算力产业链将持续扩产。
2026年Q2独立显卡出货量环比增长12.2%,笔记本GPU增长16.8%。受游戏本与AI应用驱动,需求逆势走强。
独立显卡需求具备韧性,但需警惕渠道备货带来的库存积压风险。
英特尔服务器市占率预计2030年跌至35.8%,AMD约占31%,Arm阵营占30-35%。AI服务器CPU市场规模将超2100亿美元,其中AI专用芯片占比86%。
英特尔长期份额,利好AMD与Arm AI需求。
中信证券研报指出,AI集群互联中GPU/光模块配比将升至1:5,TFLN有望在3.2T时代实现份额跃升。随着MoE模型通信开销占时延高达40%-50%,光互联成为突破功耗墙与网络墙的关键。
TFLN调制器及光模块产业链,材料体系变革将驱动相关厂商未来需求增长。
TrendForce上调2026年AI服务器出货量预测至31% YoY,预计全球九大CSP资本支出将超8867亿美元。北美超大规模云服务商主导需求,加速采购NVIDIA GB/VR平台及自研ASIC,中国CSP亦加大国内AI基础设施投入。
AI服务器及GPU集群需求,NVIDIA及云服务商ASIC产能扩张预期增强。
Epoch AI报告全球超60个超大规模AI数据中心,总算力相当于1200万颗H100。该数据占全球已部署AI算力的27%,美国占据主导地位。
虽然反映需求强劲,但缺乏具体供应链或价格数据,暂无直接交易信号。
7月以来A股AI板块急跌,CPO概念累计下跌超30%,PCB板块累计下跌超36%。此次调整由美股盈利担忧、韩国去杠杆及利率抬升共振引发,估值消化仍需时间。
急跌或近尾声但估值消化未完,需等待财报验证利润分化。
AMD于2006年以54亿美元收购ATI,奠定了Radeon、APU及AI加速器的基础。此次并购打破了CPU与GPU壁垒,开启了融合计算新时代。
该历史并购对当前游戏与AI芯片市场格局的深远影响。