NuAxi Stream - 实时半导体情报

Taalas硬编码AI模型至芯片，推理速度达1.7万Token/秒

芯片初创公司Taalas完成1.69亿美元融资，推出HC1芯片，通过最后两层金属掩膜将Llama 3.1 8B模型硬编码至硅片，实现每秒超1.7万个Token的推理速度。该技术基于结构化ASIC，定制周期约2个月，但芯片模型固化无法升级。