HBM被降维打击！美国发布垂直堆叠3D-DRAM AI芯片：100TB/s带宽、能效超13.5倍

📋总体概括

美国AI芯片初创d-Matrix在Hot Chips 2026上详细展示Raptor 3D-DRAM生成式AI推理加速器，采用台积电N4逻辑裸片与3D-DRAM面对面堆叠架构，把内存直接置于计算芯片下方。单卡配备32GB 3D-DRAM，带宽超100TB/s，远超192GB HBM4约18TB/s的水平；垂直IO实测0.37pJ/bit，单位面积带宽32.6GB/s/mm²约为HBM4和英伟达Rubin R200的20倍，每GB/s功耗2.96mW，较HBM方案改善13.5倍。这一架构直指推理场景内存墙痛点，对HBM路线构成冲击。