IBM计划部署Nvidia大规模推理集群
IBM与Together AI计划在IBM Cloud部署专用Nvidia推理集群以提升性能并降低成本。此举旨在扩大全球对可扩展AI基础设施的访问并满足实时应用需求。
该合作将推升Nvidia GPU需求,利好相关供应链。
- 相关厂商
- IBM、Together AI、Nvidia
- 影响评分
- 60 / 100,中等影响
IBM与Together AI计划在IBM Cloud部署专用Nvidia推理集群以提升性能并降低成本。此举旨在扩大全球对可扩展AI基础设施的访问并满足实时应用需求。
该合作将推升Nvidia GPU需求,利好相关供应链。
西门子与英伟达宣布合作,将英伟达的CUDA-X和NeMo模型集成至西门子EDA工具中,利用代理AI优化半导体与PCB设计流程。
此为技术趋势与研发里程碑,不直接影响现货价格。
智谱AI注册用户近700万,新启用超5万块国产算力芯片,ARR增长15倍。编程需求爆发推动收入增长,算力瓶颈倒逼Infra效率革命。
国产算力芯片需求,Infra优化提升API毛利率至50%-60%。
AMD收购AI芯片初创公司Taalas,其HC1芯片在TSMC 6nm工艺下实现每秒16,960 tokens的推理速度,性能较Nvidia GPU提升48倍。该技术通过将模型权重直接蚀刻进硅片,旨在提升AI推理效率并降低功耗。
此举强化了AMD在AI硬件领域的竞争力,可能改变未来AI加速器市场的供需格局。
OpenAI将GPT-5.6 Luna的API价格下调80%,输入降至0.2美元/百万Token,输出降至1.2美元。摩根士丹利测算显示,在75%利用率下,每百万Token成本约0.44美元,OpenAI降价后的价格低于成本。
GPU算力供应商面临利润率压缩与价格战压力。
SK集团与英伟达达成5000亿美元合作,SK海力士将供应HBM4。双方将共建AI工厂,SK电信计划建设2GW算力云。
SK海力士HBM需求,长期供应协议确立。
SK海力士参与投资AI推理初创公司Etched,该公司开发基于低电压推理和集群内存架构的推理系统以解决GPU内存瓶颈。
此为战略投资,暂无对现货价格或供应的直接影响。
AMD与Cerebras宣布合作,将Instinct GPU与Cerebras的SRAM加速器结合,打造低延迟推理平台。该组合预计可将每瓦特生成的Token数提升5倍,直接对标Nvidia的Groq LPUs。
AMD及Cerebras的AI芯片需求,对Nvidia构成竞争压力。
Poolside发布118B参数模型Laguna S 2.1,在代码生成测试中表现优异。该模型可在单台NVIDIA DGX Spark上运行,旨在填补西方在开源模型领域的空白。
提振NVIDIA推理硬件需求及开源AI生态。
谷歌研发代号Frozen v2的专用芯片,将Gemini底层架构固化,提效6至10倍。该芯片计划2028年部署,旨在解决算力短缺。
专用推理芯片技术趋势,但短期无供应冲击。
芯展速在WAIC 2026推出AI90方案,将SSD纳入GPU显存体系,首Token延迟降至亚秒级。该方案通过HBM+DRAM+SSD三级存储架构及PT200Z AI SSD(PCIe Gen5/pSLC)实现。
高端SSD及PCIe Gen5存储市场,验证AI推理对高带宽存储的迫切需求。
光电融合芯片相比电芯片延迟更低、功耗更低,有望让每单位Token成本下降50%。未来三五年内,光芯片等新技术落地有望成为降低算力成本的探索方向。
国产算力集群建设,但当前尚未形成具体供应影响。
中信证券指出A股半导体材料设备指数6月相对费城半导体指数超额收益达50.7%。国产AI链目前由情绪和资金驱动,需等待流动性扰动结束、波动率回落及情绪底部。
分析师建议等待波动率回落和情绪底部,以寻找新一轮行情的布局点。
韩日研究人员提出V-Die与MOSAIC架构,将DRAM垂直放置以解决HBM散热问题。V-Die通过液冷将互连提升4倍并降低37%延迟,MOSAIC则利用感应耦合提升30%容量与3倍热导率。
该技术目前仍处于原型阶段,对现货价格无直接影响。
Infinitix与SAINS签署谅解备忘录,将共同推广马来西亚及东南亚的AI基础设施与GPU私有云服务。双方计划建立主权AI与AI云生态系统,基于名为Token Factory的新计算模型。
该合作标志着东南亚AI基础设施需求持续增长,利好相关AI芯片及云服务供应商。
TrendForce预测GPT Token容量将从2022年的4,096激增至2025年的约100万。这一增长迫使HBM与LPDDR、NMC及SOCAMM进行异构集成以应对AI算力需求。
HBM及异构集成技术需求,推动存储芯片供应链扩产。
SambaNova混合计算平台结合H200与SN50 RDUs在MiniMax M2.7基准测试中达到763 tok/s。该架构通过分离预填充和解码任务,旨在延长老旧GPU机队的生命周期。
基准测试验证了SambaNova的技术,但尚未对标准组件的供应短缺或价格变动产生直接影响。
壁仞科技拟配售1.53亿股新股,募资净额约70.38亿港元,重点投入下一代GPGPU产品的商业化与扩产。受益于AI算力需求激增,公司计划将60%资金用于扩大量产规模及供应链安全建设。
扩大量产规模将增加市场供应,可能对GPGPU现货价格形成下行压力。
北京天算星联科技有限公司揭牌成立北京太空算力创新中心,统筹星载AI芯片与太空大模型研发。该中心获工信部政策支持,旨在“十五五”期间构建太空算力原生产业体系。
长期利好星载AI芯片及太空算力基础设施产业链。
Zettabyte 呼吁将 AI 计算衡量标准从原始硬件规格转变为有用工作,AI token 生成量在两年内激增 330 倍。Google 数据显示月度 AI token 生成量从 9.7 万亿跃升至 3.2 千万亿,凸显了 AI 基础设施需求的快速增长。
AI 硬件需求趋势,但缺乏具体的供应或价格数据。
爆款新品里,到底装了谁的芯片?拆开,一颗一颗给你看。
iPhone Duo首版 BOM:37 个器件、12 个品牌、16 个公开 MPN;A20 Pro、C2、N1 与电源/射频链已定位,NAND 品牌待确认。查看完整拆解全部拆解