亚马逊开源TorchNeuron,打通PyTorch与AWS Trainium
亚马逊宣布推出TorchNeuron,这是一个原生后端,使现有PyTorch代码只需极少代码修改即可直接在AWS Trainium芯片上运行。该工具于PyTorch Conference North America上以Apache 2.0开源许可证进入公开测试阶段(public beta)。其目的是降低AI硬件采用门槛并提供替代计算选择。
- 相关厂商
- Amazon
- 影响评分
- 0 / 100,低影响
亚马逊宣布推出TorchNeuron,这是一个原生后端,使现有PyTorch代码只需极少代码修改即可直接在AWS Trainium芯片上运行。该工具于PyTorch Conference North America上以Apache 2.0开源许可证进入公开测试阶段(public beta)。其目的是降低AI硬件采用门槛并提供替代计算选择。
据10月17日消息(转引Wccftech今日报道),华硕推出旗下首款英特尔 Arc Pro B70 显卡,面向 AI 推理及工作站市场,意味着此前缺席多个世代的华硕再次加入英特尔独立显卡产品阵营。该产品名为 UGen Intel Arc Pro B70 32GB GDDR6,采用英特尔 Xe2 架构的 Big Battlemage GPU,配备 32GB GDDR6 ECC 显存、32 个 Xe 核心和 256 个 XMX AI 引擎,INT8 AI 算力最高可达 367 TOPS,典型板卡功耗 310W;采用双槽设计和涡轮式散热结构,配备 1 个 HDMI 接口和 3 个 DisplayPort 接口,使用 PCIe 5.0 x16 接口,显存带宽为 608GB/s。该卡支持 vLLM、llama.cpp、Ollama、PyTorch、OpenVINO、oneAPI 和 Vulkan 等 AI 框架及工具,最多支持 4 张显卡协同工作,合计提供 128GB 显存。华硕暂未公布该卡具体售价;同类英特尔 Arc Pro B70 显卡的市场价格通常在 1,299 美元至 2,000 美元(约合 8,701 元至 13,397 元人民币)以上,具体取决于产品型号及销售渠道。
Sipeed 宣布了其 MaixStation,这是一款与 Nvidia DGX Spark 和 AMD Ryzen AI Halo 竞争的国产产品,预计 128GB 型号售价约 3,999 美元。公司表示,签现已开放,将在 2026 年底进行 Kickstarter 众筹,众筹结束后三个月内开始发货。NPU 工具链将在 2026 年 10 月底发布。该公告发布于 2026 年 10 月 15 日。
爱芯元智于2026年10月13日在中国国际工业博览会上发布AX8860系列大算力AI芯片。性能方面,在Qwen 27B模型上,其prefill速度比NVIDIA DGX Spark快25%,decode速度快30%。价格方面,Sipeed宣称AX8860整机定价接近DGX Spark的一半,DGX Spark 64GB版起售价4,999美元(约33,522元人民币),128GB版售价为6,950美元(约46,605元人民币)。事件状态为已观察(发布),原文未说明原因。
Intel 提出开放软件蓝图,将开放软件定位为连接 CPU、GPU、数据和业务应用的结缔组织,强调对熟悉框架(如 PyTorch、SGLang、vLLM)的上游贡献,旨在实现“Day 0 准备”,即让新模型通过开发者已有的工具快速可用;Intel 将 Xeon 描述为推理的运营基础,扩展到分离前填充和解码的分离推理,并将微服务和企业代理工具包视为过渡的构建块;文章指出这是蓝图,尚未证明执行。
xAI正在建设全球首个吉瓦级数据中心Colossus 2,预计2025年第三季度其单集群算力容量将超越Meta和Anthropic,并已获得英伟达GPU供货配额。该项目是继孟菲斯超大规模集群后,对高端AI芯片和基础设施的又一次巨额资本投入。
头部AI实验室持续进行吉瓦级基建竞赛,为高端GPU及HBM等核心组件创造了确定性的增量需求。
已经到底了