AI推理芯片占数据中心工作负载多数
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
关注
这种转变凸显了对专门为推理设计的芯片的需求。
- 相关厂商
- AI Chip Makers
- 影响评分
- 10 / 100,低影响
推理占大多数数据中心AI工作负载,但与训练不同,它需要低延迟和可预测性。现有训练芯片侧重于峰值FLOPS,可能无法满足推理的严格限制。
这种转变凸显了对专门为推理设计的芯片的需求。
台湾光通信供应链需求从可插拔收发器扩展至CW激光器、FAU及CPO,传输速率迈向3.2T。该趋势标志着AI基础设施周期进入关键阶段。
未来高端光模块及激光器供应趋紧。
ABI Research指出,在轨数据中心运行GPU一年的成本至少比地面数据中心高一个数量级。文章分析了散热、辐射及太阳能收集等物理难题,导致SpaceX、Google等巨头推进太空计算面临巨大挑战。
短期太空计算商业化进程,但利好地面数据中心GPU需求及供应链稳定性。
AI芯片初创公司MatX与Axelera周二合计融资7.5亿美元,其中MatX获5亿美元B轮融资,Axelera获2.5亿美元融资。资金将分别用于开发数据中心AI加速器与边缘AI芯片,显示风投对挑战英伟达的兴趣。
此为远期技术竞争,对当前现货市场供需与价格无直接影响。
已经到底了