九锋网

玄戒O100是小米首颗专为端侧大模型而生的高带宽AI加速芯片

九锋网

小米玄戒这次三芯齐发,不仅是小米的突破,更是中国芯片产业的突破,其中的这个玄戒O100,是小米首颗专为端侧大模型而生的高带宽AI加速芯片,堆料也相当激进。

采用行业首款6nm 3D晶圆级堆叠先进封装,通过WaferonWafer(WoW)技术,将双层高速AI专用内存与NPU垂直堆叠,并采用创新F2F金属层直连结构,相关技术获得多项发明专利。

在封装层面,玄戒O100引入Hybrid Bonding混合键合工艺,拥有258万个物理键合节点,TSV硅通孔孔径仅0.7μm,最小键合间距达到1.4μm。

更核心的是AI近存计算架构:14核高带宽NPU+玄戒高带宽矩阵总线,多核并行处理,最终实现最高1.22TB/s的超高带宽,相比传统旗舰手机提升16倍,端侧大模型推理速度最高可达330TPS。

对于端侧AI来说,很多时候瓶颈并不只在算力,数据能不能足够快地“喂给”NPU同样关键。玄戒O100这次选择从封装、内存和架构一起下手,本质上就是在解决端侧大模型的高带宽需求。

玄戒是“全生态AI算力基座”,三颗芯片面向个人智能终端、端侧AI加速、智能驾驶,能覆盖到人车家全场景需求。现在基座有了,砖瓦也有了,越来越期待这座大厦建成的样子了。