X 帖子近期动态

微软 MAI-Base-2:2.8T 参数基础模型,16000 卡训 38 天

微软 AI 负责人宣布完成 MAI-Base-2 预训练,并发布技术博客:MoE 架构,总参数约 2.8T、每个 token 激活约 80B;转述称用 16000 张 GB200、38 天、50T token。后训练结果尚未公布。

MaxForAI@MaxForAI原帖
01

为什么值得留

想了解大模型训练规模与周期的读者,可用它作一个具体参照。

02

可以从这里开始

读技术博客里数据配比与训练方法一节,记下哪些做法能借鉴到小规模训练。

03

阅读时留意

后训练结果未公布,基础模型不等于可用产品;『效率是 DeepSeek V4 Pro 的 4—12 倍』是转述者的比较,未核。

OnBalls 导读整理于 2026.10.22。只读存档的帖文、官方引用与同事件其他帖子的文字;技术博客未打开,规模数字依据转述。

同一方向,继续读

这个方向的精选