AI前沿 | 2026年10月22日：Recursive Flint + Eureka Machine + 40B 端侧编码模型

Tom·Ge

17人浏览 · 2026-10-22 08:43:39

Tom·Ge · 2026-10-22 08:43:39 发布

AI前沿 | 2026年10月22日：Recursive Flint + Eureka Machine + 40B 端侧编码模型

📖 首屏导读 · 本教程配套付费专栏：《大模型工程师修炼手记》 19.9 元（AI 编程 · Agent 实战 · 本文同主题系统课程）· 《AI时代程序员的自我提升》 49.9 元（AI 时代成长方法论）

单篇不过瘾？订阅解锁全量源码、实战与答疑；文末附资料包领取方式 ↓

导读

2026年10月21日，Salesforce 前首席科学家 Richard Socher 创立的 Recursive 发布首个模型 Flint：40B 总参数、每 token 仅激活 2.5B 的开源 MoE 编码模型，在 M4 Pro MacBook 上跑到 125+ tok/s，Apache 2.0 权重免费开放。但真正引爆讨论的不是参数，而是它的出身——Recursive 称其自研的自动化研究系统 Eureka Machine 参与了 Flint 几乎每一个环节，让一支小团队在不到四个月里从零造出世界级编码模型。WIRED 记者的实测结论是四个字："Scary Good"（好得有点吓人）。递归自我改进（RSI），第一次以"可下载权重"的形态摆到了所有人面前。

Recursive Flint 关键数字

1. Flint 是什么：为"本地智能体编程"而生的 40B MoE

Flint 是一个混合专家（MoE）模型，专为在本地硬件上快速跑智能体编码（agentic coding）而设计。

核心规格（据官方博客与模型卡）： - 规模：40B 总参数，每 token 仅激活 2.5B 参数。 - 架构：49 层 pre-norm MoE（2 层稠密 + 47 层 MoE），256 个路由专家取 6 + 1 个共享专家；隐藏维度 2048。 - 注意力：35 层仅看 513 token 的滑动窗口（带 RoPE），另外 14 层看全上下文（不带位置编码）——只有这 14 层为整段序列保留 KV，因此 KV 缓存仅 28 KiB/token。 - 上下文：模型卡配置 262,144 token，官方博客称最长可达 512K，建议保持在 256K 以内效果最佳；知识截止 2026 年 6 月。

这套"大部分层只看局部、少数层看全局"的设计，正是它能"又快又省内存"的关键——每一次前向只需为 14 层维护长序列缓存。

💡 启示：Flint 的架构选择给出了一条清晰的端侧模型优化思路——用混合注意力把"长上下文成本"从每一层压缩到少数层。对做端侧推理、量化部署、长文档编码助手的团队，这是一个可以直接借鉴的结构级降本手段。

来源：Recursive 官方博客（Introducing Flint）、vLLM Blog（Day-0 支持）

2. 性能与速度：端侧 150 tok/s，同级领先

（1）编码基准（均为厂商自报口径，建议独立复测）

基准	Flint	备注
SWE-Bench Pro v2	89.7%	模型卡列出，高于其 Verified 分，需核对官方图表
SWE-bench Verified	74.2%	mini-swe-agent，pass@1 平均（≥5 次尝试）
Terminal-Bench 2.1	54.9%	Terminus 2，检索得到的解计为失败

Recursive 称 Flint 在 SWE-Bench Pro v2、Terminal-Bench 2.1、SWE-Bench Verified 上领跑所有总参数低于 50B 的 MoE 模型，并能与 25–40B 的稠密模型抗衡，同时快 5 倍以上。

（2）端侧速度对比

Flint 端侧推理速度对比

TechCrunch 实测 M4 Pro MacBook Pro 上约 131 tok/s，作为对比，同为端侧模型的 Gemma 4 与 Nemotron 3.5 Lightning 在同机仅 58–69 tok/s。官方更给出服务端口径：在 vLLM 上，单张 GB200 单请求解码约 500 tok/s，即便带 100K 上下文仍约 485 tok/s。

（3）生态与获取方式 权重以 Apache 2.0 在 Hugging Face 免费开放；Day-0 支持 llama.cpp、Ollama、LM Studio、vLLM、SGLang，并提供开源本地引擎 rec（针对 M4 Pro / M5 Pro·Max 优化）。ollama run flint 约 23GB 即可在本地跑起来；也可在 OpenCode、Pi 上免费试用。

💡 启示：一款 40B 模型能"塞进 48GB 内存的 Mac、连本地都能跑"这件事，对数据敏感行业（医疗、金融、法务、政务）意义重大——数据不出本机，也不付 API 费。做私有化部署与端侧 Agent 的团队，应把这类"高能力 + 宽松许可 + 低硬件门槛"的开源模型，纳入正式的选型清单。

来源：Recursive 官方博客、TechCrunch、vLLM Blog、AICoder Newsroom

3. Eureka Machine：一个"AI 造 AI"的公开验证

Flint 最值得写进行业史的部分，是它怎么被造出来的。

（1）Eureka Machine 做了什么 Recursive 的 Eureka Machine 自动化了完整的研究闭环：提出想法 → 实现 → 测试 → 用结果决定下一步试什么，并并行探索多个方向、在既有实验上叠加、组合有前景的想法。官方称，它参与贡献了 Flint 的： - 架构搜索：从"35B 总参 / 3B 激活"的基线出发，探索不同的专家配置与宽度，最终收敛到"40B 总参 / 2.5B 激活"这一速度与编码性能的最优组合； - 量化配方：反常规地把输出层（lm_head）量化为 4 bit，并加了一个离线自蒸馏阶段——让量化模型用"自己从自发现核心集里采样出的回答"、以 16-bit 模型为 teacher 再训练，把训练步数几乎减半，最终 NVFP4 版本在全基准上距 16-bit 版本仅 0.7 分； - 内核优化：为低比特投影、MoE 运算、注意力、prompt 处理生成专用 kernel，并在 M4/M5 上产出融合整个 decode 前向的 Metal megakernel；在 vLLM 上，NVFP4 解码从 4.81ms 降到 1.78ms（2.7×），一次前向的 kernel 数从 1096 降到 346。

（2）"AI 造 AI"到底是噱头还是事实？ Recursive 称 Flint 几乎每一个环节都由 AI 完成并改进，CEO Socher 对 WIRED 表示"希望这能证明我们已经把构建这样一个系统所需的所有步骤都就位了"。但他同时强调：Eureka Machine 目前无法逃脱人类控制——它的目标是让 Eureka Machine 最终实现完整的递归自我改进，但全程由人类监督、可随时叫停。

（3）WIRED 的实测与背景 WIRED 记者 Will Knight 用一台 48GB 内存的 Mac 实测 Flint，用它写了命令行待办工具、一个爬取 RSI 相关研究的程序、以及一个解释 RSI 的简单网站，评价是"又快又强"——"这种体量的模型通常错得让人抓狂或慢得让人受不了，但 Flint 每次都能准确命中我的编码请求"。背景上，Recursive 已从 GV、Greycroft、Nvidia、AMD Ventures 等融资 6.5 亿美元、估值 46.5 亿美元；Socher 联合创始人包括研究"无限学习"的 UBC 教授 Jeff Clune。

维度	事实	需要警惕
自动化范围	架构/量化/kernel/训练配方	"几乎每一个环节"由厂商自述
人力节约	小团队 <4 个月从零造出	仍需人类定义问题与验证
可控性	人类监督、可随时叫停	尚无第三方验证其可控性
基准	多项 SOTA（厂商自报）	SWE-Bench Pro 分高于 Verified，需独立复测
估值	46.5 亿美元	RSI 叙事的资本市场溢价

💡 启示：无论"AI 造 AI"的成色几何，Flint 都已经把一个现实摆上台面——研发流程中那些高度重复、可被验证的环节（调参、写 kernel、搜量化配方），正在成为自动化研究系统的第一批猎物。对工程团队的务实建议是：把"可被自动搜索、可被自动验证"的环节识别出来交给 AI，把宝贵人力留给"定义问题、设定目标、判断结果是否可信"这些无法外包的部分。

来源：Recursive 官方博客、WIRED（Will Knight）、TechCrunch、vLLM Blog

4. 行业含义：RSI 从论文走向"可下载权重"

（1）RSI 的"公开验证"已经发生：以往"递归自我改进"多是论文与立场声明里的概念，Flint 则把它的产物——一个可下载、可本地运行、可复现的模型——摆到了所有人面前。这不代表智能爆炸，但它意味着"AI 辅助研发"的可验证样板已经出现。

（2）美国开放权重重新追近中国开源前沿：Flint 的 40B/2.5B 定位，与同期 Meta 的 Muse Spark Open（816B/42B）、Reflection 的 Beam（501B/23B）一道，让"美国开放权重"重新有了可打的产品。开放模型的高地，正在从"只有中国"变成"中美两线"。

（3）端侧编码模型成为新战场：当一款比 GPT 系小几个数量级的开源模型，能在笔记本上以 125+ tok/s 稳定完成编码任务，"把编码助手私有化到本地"从理想变为可行。这对所有"担心代码与数据外泄"的企业，是一条立即可用、且成本极低的路径。

信号	对工程团队的含义
40B 跑端侧	私有化编码助手门槛大幅降低
Apache 2.0	可商用、可二次开发
混合注意力	长上下文成本可控的结构范式
AI 造 AI	研发流程的可自动化环节需重新盘点
厂商自报基准	独立复测成为采纳前的必要步骤

💡 启示：Flint 的真正冲击，是它把"AI 帮你造 AI"从一句愿景，变成了一个可以下载、可以复现、也可以被证伪的工程事实。行业接下来最需要的，不是更多的豪言，而是独立的复测与可控性验证——这是让 RSI 从"叙事"走向"基础设施"的必经之路。

结语

2026年10月22日，Recursive Flint 讲了一个少见的双线故事：表层是一个 40B 端侧编码模型的开源——高能力、宽许可、低门槛；里层是"AI 造 AI"的一次公开验证——一支小团队借助 Eureka Machine，在不到四个月里完成了本该更庞大的研发工作量。它没有证明智能爆炸，却证明了一件事：递归自我改进的管道，真的开始转了。

💡 今日启示：当一个模型"主要由 AI 造出来"并被允许自由下载，最该被反复追问的不是"它有多强"，而是"它由谁监督、能否叫停、结果可不可复现"。给自动化研发系统设计人类监督点与可验证性，将与模型能力本身同等重要。

来源汇总：Recursive 官方博客（Introducing Flint，2026-10-21）、WIRED（Will Knight，2026-10-21）、TechCrunch（2026-10-21）、vLLM Blog（Day-0 支持 Flint，2026-10-21）、AICoder Newsroom（2026-10-22）。