天价内存把大厂逼成垃圾佬！拆退役服务器抠DDR4用

📋总体概括

快科技9月3日消息，谷歌供应链基础设施高级总监Nikhil Cherian透露，AI行业已从算力受限转向内存受限，高性能内存约占单台AI服务器物料成本的75%。为突破内存瓶颈，谷歌在硬件端建立内部回收供应链，专门设计转接器并重新导入退役服务器，拆取DDR4模组供新一代AI服务器降级使用；软件端则优化底层函数库、模型架构和KV Cache压缩，并推出TPU8t/8i两款ASIC，其中TPU8i配备288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。