Taalas硬编码AI模型至芯片,推理速度达1.7万Token/秒
芯片初创公司Taalas完成1.69亿美元融资,推出HC1芯片,通过最后两层金属掩膜将Llama 3.1 8B模型硬编码至硅片,实现每秒超1.7万个Token的推理速度。该技术基于结构化ASIC,定制周期约2个月,但芯片模型固化无法升级。
中性
此为远期技术路径探索,对当前半导体供应链供需及现货价格无直接影响。
- Related manufacturers
- Taalas
- Impact score
- 15 / 100, low impact