深度求索V4大模型支持华为昇腾AI加速器
深度求索发布V4系列开源大模型,宣称性能对标顶级闭源模型并采用新型混合注意力机制以降低推理成本。新模型扩展了对华为昇腾AI加速器的支持。
此为软件算法进展,未直接改变半导体元器件的供需或价格。
- Related manufacturers
- Huawei
- Impact score
- 10 / 100, low impact
深度求索发布V4系列开源大模型,宣称性能对标顶级闭源模型并采用新型混合注意力机制以降低推理成本。新模型扩展了对华为昇腾AI加速器的支持。
此为软件算法进展,未直接改变半导体元器件的供需或价格。
Kimi发布K2.6开源模型及论文,提出通过混合模型压缩KV缓存,实现预填充与解码跨数据中心、异构硬件解耦的“预填充即服务”架构。此举旨在为大模型推理降本,并为中国AI模型适配国产芯片探索技术路径。
此为远期技术趋势,对当前半导体供应链供需及价格无直接影响。
谷歌发布TurboQuant AI内存压缩技术,可将KV缓存需求压缩至约六分之一,引发内存股抛售,SK海力士与三星电子股价3月26日分别下跌6.23%和4.71%。该技术旨在解决AI推理中的内存瓶颈,但引发市场对DRAM/HBM长期需求的担忧。
此为对潜在需求减弱的短期情绪反应,分析师预计未来五年AI数据中心投资浪潮将完全吸纳此影响。
字节跳动与北航提出SAGE-RL算法,将大模型推理的token消耗压缩约三分之一。该技术通过优化采样策略解决‘过度思考’问题,属于软件层效率提升。
长期看,算法效率提升可能轻微抑制对AI算力芯片的增量需求。
DeepSeek联合北大清华发布DualPath推理系统,离线吞吐量提升1.87倍,在线智能体运行数提升1.96倍。该技术针对大模型向自主智能体演进的负载变革,优化了推理性能。
AI推理硬件需求结构变化,利好高性能AI芯片及存储需求。
DeepSeek联合北大清华发布DualPath推理系统论文,针对Agent场景KV-Cache I/O瓶颈,在1152张GPU集群上实现离线推理吞吐最高提升1.87倍。该研究通过双路径加载与动态调度优化集群存储带宽利用率。
此为软件架构研发进展,未直接影响半导体组件供需或价格。
You've reached the end