微软 MAI-Base-2:2.8T 参数基础模型,16000 卡训 38 天
微软 AI 负责人宣布完成 MAI-Base-2 预训练,并发布技术博客:MoE 架构,总参数约 2.8T、每个 token 激活约 80B;转述称用 16000 张 GB200、38 天、50T token。后训练结果尚未公布。
MaxForAI@MaxForAI原帖
为什么值得留
想了解大模型训练规模与周期的读者,可用它作一个具体参照。
可以从这里开始
读技术博客里数据配比与训练方法一节,记下哪些做法能借鉴到小规模训练。
阅读时留意
后训练结果未公布,基础模型不等于可用产品;『效率是 DeepSeek V4 Pro 的 4—12 倍』是转述者的比较,未核。
OnBalls 导读整理于 2026.10.22。只读存档的帖文、官方引用与同事件其他帖子的文字;技术博客未打开,规模数字依据转述。