资讯
彩云科技:AI团队两次刷新大模型训练速度世界纪录,相关代码已并入官方开源仓库
📋总体概括
AI公司彩云科技宣布,其基础模型算法团队在全球开源竞速项目NanoGPT Speedrun中连续两次刷新大模型训练速度世界纪录,将达标训练时间压缩至1分16秒,相关代码已并入官方开源仓库。支撑纪录的是其两项原创架构创新——DCMHA(可动态组合多头注意力)和MUDD(多路动态稠密连接),分别于2024年和2025年发表于ICML并均入选口头报告。对一家中国AI公司而言,以底层架构创新而非堆算力方式登顶国际竞速榜单,含金量值得关注。
⚡关键信息
- ▸彩云科技团队在NanoGPT Speedrun竞速项目中连续两次刷新大模型训练速度世界纪录
- ▸达标训练时间被压缩至1分16秒,相关代码已正式并入官方开源仓库
- ▸两项纪录基于原创架构DCMHA(可动态组合多头注意力)与MUDD(多路动态稠密连接)
- ▸DCMHA和MUDD分别于2024年、2025年发表于顶会ICML,并均入选口头报告
- ▸NanoGPT Speedrun是全球开源AI技术竞速项目,比拼大模型训练效率
🔥犀利点评
刷Speedrun纪录和做大模型是两回事,但这次彩云的含金量在于纪录靠的是自研架构DCMHA和MUDD,而非调参取巧,且两项工作都过了ICML口头报告这一关——这是比榜单更硬的同行评议。真正的考验在于:注意力机制层面的效率创新能否从1分16秒的玩具规模外推到商用级训练,并把架构优势转化为自家产品的成本壁垒。若只是榜单刷分,热度三天就散。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文 →