[鸭哥 AI 手记] 2026-09-13: SWE-2 把账单写进训练目标

懒人包：Cognition 把推理成本直接做进强化学习目标，训出的编程模型 SWE-2 在同一套任务上少走了 58% 的轮次、省下 81% 成本。便宜是模型自己学出来的，靠在外围选更低档位省不下真钱。鸭哥昨天发了 2 篇文章：画得出成本曲线，不等于压得下成本曲线 拆了外围手段为什么推不动成本曲线，以及把账单做进惩罚项的具体机制与失效边界；把知识搬出 GPU：DeepSeek Engram 与模型的第二条稀疏轴 拆了 DeepSeek 把 196B 参数放进主机内存当查找表之后，为什么静态记忆离开计算通路反而让模型推理变强。此外，Google 完成对编程环境团队 Mechanize 的人才收购，头部厂商自 7 月起商建行业安全机构，Mistral AI 完成 30 亿欧元融资。

省钱这件事，模型自己学会了

Cognition 在 9 月 10 日发布了编程模型 SWE-2（官方博客）。基座选用了月之暗面 7 月开放权重的 Kimi K3，总参数 2.8 万亿、每 token 激活约 1040 亿，支持 1M 上下文（Hugging Face），协议是自定义的 Kimi K3 License。

Cognition 自身在 5 月以 260 亿美元估值融资超过 10 亿美元（Cognition Blog），9 月初据报道又完成 20 亿美元 Series E、估值来到 480 亿美元（Techzine）。手握充裕资金的团队，把研发重心直接押在怎么让智能体自己降低交互开销上。

把每个价位上最强的点连成一条线，就是成本-能力边界（帕累托前沿）。平时团队想省钱，常见办法是在提示词里叮嘱省着花、截断思考预算、或者在网关做模型路由，但这几种外围做法只是在这条线上挑更便宜的点，属于向成本妥协；真正把整条线向外推才是优化，外围手段推不动它，只有训练层推得动。

Cognition 把美元开销与执行耗时直接做进强化学习的目标函数，形式记为 R = S - λₑ·C。其中 S 代表任务成败，C 包含调用费用和耗时，惩罚系数 λₑ 锚在基座模型成本-能力曲线的切线斜率上，按思考强度档位分别标定。把扣分写进奖励，模型就自己掂量要不要多试一轮。

按照 Cognition 官方自报的数据，在 FrontierCode 1.1 Main 任务集的 medium 档位下，SWE-2 比前代 SWE-1.7 少走了 58% 的交互轮次，账单降低了 81%。同一套任务里，平均步数从 127 压到 53 步，首次编辑代码的中位步数也从 48 步提前到 18 步。模型减少了盲目试错，带着明确意图直接改代码。

不过这种做法也有清晰的边界。在 Terminal-Bench 4 上，SWE-2 的得分只有 27.3%，落后于 Claude Fable 5.1 的 55.8% 与 GPT-6 Astra 的 57.9%，测试环境不同导致不能直接做因果归因；官方也没做去掉惩罚项的消融实验，步数缩减可能部分来自更强的 K3 基座（官方博客）。鸭哥在 画得出成本曲线，不等于压得下成本曲线 里拆了这套方案的底层机制：线性惩罚怎么防范模型草草交卷、参数 λ 怎样避免低档位偷工减料，以及它在哪些场景会失效。

---

把知识搬出显存，给计算腾出空间

SWE-2 在行为上让模型学会少绕路，DeepSeek 则在架构上把知识搬出计算。9 月 10 日发布的 DeepSeek-V4.1-Flash 采用 MIT 协议开放权重，总架构由 552B 主干网络和 196B 的 Engram 模块构成（Hugging Face）。这 196B 参数不进 GPU 显存，不做矩阵乘法，直接放在主机内存里当查找表。Engram 此前已有专门论文与开源实现（arXiv，GitHub），让静态词组和固定搭配按需查表，不再挤占显存算力。

这种设计把模型容量拆成两条稀疏轴：一条是混合专家 MoE 负责的条件计算，一条是 Engram 负责的条件记忆，一个管算，一个管记，互不抢活。过去大语言模型用昂贵的深度网络反复计算固定事实，把计算通路塞得满满当当。把静态知识搬到查找表之后，浅层注意力网络省下开销，能把算力留给更复杂的上下文推理，就像操作系统用虚拟内存做存储分层。

查表放在主机内存里还不卡顿，靠的是三个工程前提：寻址有确定映射、真实查询符合长尾分布，以及 RDMA 预取能和 GPU 计算重叠推进。实验还发现，参数在计算和记忆之间的分配存在一条 U 型曲线，给记忆分配 20% 到 25% 的容量效果最好。静态回忆本质上是局部确定映射，本来就不该长期占用深度计算。

在 DeepSeek 官方论文自报的评测中，27B 规模的实验模型提升明显：BBH 涨了 5.0 分，ARC-Challenge 涨了 3.7 分，CMMLU 涨了 4.0 分，大海捞针测试从 84.2 升到 97.0 分。这些数字全来自论文自报，且基于 27B 实验模型，目前还没有第三方独立复现。外挂嵌入表的思路正在引来更多团队跟进，比如阿里 8 月底发布的 Qwen3.8-Flash-Next（Qwen Blog），就在 125B 主模型外挂了 51B 嵌入表，官方博客明确写着思路受到 Gemma 3n 与 DeepSeek Engram 等工作的启发。

鸭哥在 把知识搬出 GPU：DeepSeek Engram 与模型的第二条稀疏轴 里拆了外挂记忆反而让推理变强的机制链路：把浅层网络从重复搬运固定搭配中解放出来，注意力才能留给真正的长程推理，文章也给出了查表住进主机内存不卡顿的三个工程前提。这篇分析也是上周探讨服务侧 KV cache 压缩报告的续篇，面对同一份 V4.1 Flash 材料，上周讲服务侧怎么压减 KV 缓存，这周讲架构侧怎么把静态知识搬出计算通路。

---

也值得知道

Google 完成 Mechanize 人才收购：Business Insider 9 月 11 日报道交易已经完成，联创兼前 CEO Tamay Besiroglu 已入职 Google DeepMind。此前传出的谈判规模超过 15 亿美元，最终交易条款未披露，买进的核心资产是面向智能体的强化学习编程环境（Business Insider）。

头部厂商商建行业安全机构：据 The Information 报道，Anthropic、OpenAI 与 Google 自 7 月起持续商谈筹建类似金融业 FINRA 的安全标准机构。近期高管公开发文呼吁放慢前沿模型研发节奏，背后已有数月的私下协调（InvestingLive）。

Mistral AI 完成 30 亿欧元 Series D 融资：本轮融资由 Samsung 领投，投后估值超过 210 亿欧元。这笔交易刷新了欧洲科技公司史上最大单笔股权融资纪录，显示出主权 AI 概念下的强劲资本支持（TechCrunch）。

---

本期由 AI 基于鸭哥已发布文章和公开资料整理生成，请注意甄别幻觉。

订阅本 newsletter：daily.yage.ai