微软正式发布第三代自研AI加速器Maia 300:台积电N2P(2nm增强版)制程,288GB HBM4带宽18TB/s,计划2027年开始量产部署
微软近日正式发布第三代自研AI加速器Maia 300。该芯片基于台积电N2P(2nm增强版)芯粒架构打造,单芯片FP4算力达13.8 PFLOPS,专为长上下文推理、低延迟对话及多步骤智能体任务设计。内存方面,8组HBM4堆栈带来288GB容量,较上一代Maia 200的216GB HBM3提升33%,带宽从7.1TB/s跃升至18TB/s,增幅达2.5倍。芯片采用多芯粒设计:计算芯粒使用台积电N2P工艺,内存与I/O芯粒搭配3nm制程。机架级设计上,单个机架集成96颗Maia 300,整机功耗约167kW,HBM总容量达27.6TB,聚合带宽约1.7PB/s;微软表示机架规模下Maia 300的Token吞吐量最高可达Maia 200的7倍。与英伟达最新GB300机架(72颗GPU、功耗约142kW)相比,Maia 300芯片密度翻倍,每兆瓦推理性能高出约40%。微软将Maia 300定位为Azure及Microsoft 365 Copilot等服务的“主力推理系统”,并计划于2027年开始量产部署,同时将Azure Maia家族扩展至多吉瓦级规模。量产部署目前仍为计划,尚未实施。