消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据新浪财经报道，美光正探索开发「近GPU NAND」架构，将高耐久性NAND闪存模块部署在靠近GPU的位置，面向不需要HBM或常规DRAM那样高带宽、低延迟的LLM工作负载。该方案牺牲一定存储密度（低于传统TLC/QLC NAND），换取更高的I/O速度、带宽和读取速度，目标是让GPU直接访问数百GB的存储池，缓解大模型推理的内存容量瓶颈。若落地，将成为HBM之外的另一条内存扩展路线，也凸显存储大厂在AI算力时代争夺新生态位。