NuAxi半导体贸易情报
低精度浮点格式兴起:从32位、16位、8位发展至6位与4位浮点,OCP已于2023年发布相关规范,IEEE P3109标准预计2027年正式化
发生了什么
本文为技术分析文章,讨论低精度浮点格式的兴起。作者引用英属哥伦比亚大学教授Guy Lemieux与纽约大学教授Michael Overton的论文《The Rise of Low Precision Floating Point》指出:尽管32位与64位浮点格式数十年来主导数值计算,深度学习的兴起推动了逐步更小替代格式的发展,从32位到16位、8位,如今甚至出现6位与4位浮点格式。文中说明NVIDIA的TensorFloat-32(TF32)格式于2020年推出,实际仅19个有效位(1.8.10);NVIDIA的NVFP4实现中,每16个4位值组成一个块并配有8位缩放因子,另有一个32位缩放因子作用于整个张量。2023年,开放计算项目(OCP)在AMD、Arm、Google、Intel、Meta和NVIDIA等公司参与下推出了8位、6位和4位格式的规范;IEEE P3109工作组(Guy与Michael均为成员)正在开发更全面的低精度算术框架,预计2027年正式标准化。作者指出16位与8位格式已在AI应用中确立地位,而6位与4位浮点能否普及仍是未决问题。
影响与信号
低影响影响力评分:25/100
受影响器件与厂商
低精度浮点格式(4位/6位/8位浮点)
low-precision floating-pointFP16TF32NVFP4OCPIEEE P3109
来源与时间
来源:EE Journal · 2026/11/18 · 查看原始来源
查看 NuAxi 完整情报 →
实时定价、供应信号与 AI 分析,为半导体贸易商而生