一台跑不动就上16台！英伟达DGX Spark集群成功跑通Kimi K3：生成速度达38 t/s

📋总体概括

英伟达开发者论坛用户ciprianveg将16台DGX Spark桌面AI工作站组建成集群，通过MikroTik CRS804-4DDQ核心交换机和400G转4×100G分支线缆互联，在Inferact/Kimi-K3-DSpark环境下以分布式方式成功跑通完整Kimi-K3大模型，16000深度下最高生成速度达38 t/s。该测试表明单台DGX Spark已难以承载千亿参数模型，堆节点成为桌面级开发者的现实选择，也侧面反映开源大模型对本地算力需求的膨胀。