X 帖子近期动态

Flint:40B MoE 本地编程模型,速度数字先别全信

Recursive 发布首个模型 Flint:总参数 40B、约 2.5B 激活的 MoE,主打本地编程,采用 Apache 2.0。Pi 称已在其 harness 上做过大量强化训练,并经 Radius 在 Pi 里免费提供。发布方称 MacBook Pro 上可超 125 tokens/s。

Pi@pidotdev原帖
01

为什么值得留

MoE 的激活参数少决定速度快,总参数多通常仍决定要占多少内存。

02

可以从这里开始

查权重的量化版本大小,对照自己电脑的内存,用一个真实的小仓库任务试跑。

03

阅读时留意

速度是发布方给的数字,机型、量化和上下文长度未说明;「同类最佳」是自述,未见独立评测。

OnBalls 导读整理于 2026.10.22。只读收件箱保存的 Pi 帖节选及其引用的 Richard Socher 发布帖节选;未打开模型页和评测,速度数字未复现。

同一方向,继续读

这个方向的精选