[鸭哥 AI 手记] 2026-09-04: 换 GPT-4o 只加 5.8 分，训练 7B 加 17.2 分

懒人包：Stanford 的 AgentFlow 在同一套骨架下对照了三种改法。换成 GPT-4o 只多 5.8 分，让 7B 在真实工具反馈里训练却多出 17.2 分，差距不在模型大小，在有没有反馈闭环。另一边把开源模型搬回家要面对利用率与延迟的冲突，两张 H100 私有部署每月吞吐要达到约 20 亿 token 才能打平云端 API，先租两三周跑跑看再做长期决定。鸭哥昨天发了 2 篇文章：《换 GPT-4o 只多 5.8 分，训练 7B 却多了 17.2 分》 讲清了反馈闭环重塑工具选择的机制，给出训练前的四道门自检与三条起步路径；《把模型搬回自己家之前，先算三本账》 算清了钱、数据与能力三本账，给出硬件谱系与七个决策信号。

AgentFlow：同一套骨架的三种改法

Stanford 团队拿下 ICLR 2026 Oral 的 AgentFlow（AgentFlow 论文；项目主页），在同一套 agent 编排骨架下，专门对照了决策节点的三种改法。表格里摆着三组对照数据：原版冻结的 Qwen2.5-7B 决策节点，在六个基准上平均只有 38.5 分。换成 2024 年中的 GPT-4o，拿到 44.3 分，多 5.8 分。照抄 GPT-4o 成功轨迹做 SFT，反而跌到 19.5 分，倒扣 19 分。让原来的 7B 在真实工具反馈里在线训练（Flow-GRPO，8 条并发探索路径共享整条路径的成败信号），成绩冲到 55.7 分，净增 17.2 分。增益来自反馈闭环，无关模型大小。把决策从提示词手里拿走，交给权重。

行为上的变化比跑分更说明问题。在 MedQA 评测里，训练前模型 66.2% 的调用都堆在通用 Google 搜索上。训练之后，这一比例降到 10.9%，维基百科搜索从零升到 59.8%。没人写死规则让它换工具，真实反馈自己重塑了它的默认动作。模型没死记硬背更多医学名词，遇到专业问题，直接学会先伸手抓专业工具。

拿真实环境反馈校正行为，开源社区这阵子其实跑出过好几个标杆。WebRL（WebRL 论文）把 8B 模型在 WebArena-Lite 的成绩从 4.8% 提到 42.4%。SWE-Gym（SWE-Gym 论文）用 491 条轨迹让 32B 模型在 SWE-bench Verified 提升 12 到 14 个百分点。Agent Lightning v1.0（Agent Lightning 论文）用 6000 条样本把 9B 模型的 SWE-bench Verified 从 41.8% 提到 56.4%。

不过读这篇论文，几处边界得提前心里有数。对照组拿的是 2024 年中的 GPT-4o。多数基准只随机抽选 100 道题，AIME24 更是只选了 30 题。所有测试数字全来自作者自评，暂无第三方复现。算力账单只披露使用了 8 张 A100，训练总时长和裁判账单均未公布。

想自己动手训决策节点，得先过四道门自检：任务反复发生、成败能自动判定、错误瓶颈在决策节点、环境支持安全重置。落地可以走三条低门槛路径：Unsloth 配 OpenPipe ART、Agent Lightning 零改动接入，或者 LoRA SFT 两阶段切入。四道门自检清单和三条起步路径，鸭哥都放在 《换 GPT-4o 只多 5.8 分，训练 7B 却多了 17.2 分》 里了。骨架归编排，脾气归训练，互不抢活。

---

自建之前先算三本账

两篇其实都在做同一个动作：把站队争论的能不能，换成看条件的什么情况下才行。看完训练节点的准入门槛，把开源模型搬回家又是另一笔账。GPU 云厂商 Lambda 的工程师 Zach Mueller，自费在家里装了六张 RTX 6000 Blackwell 跑开源模型。他在与 Hamel Husain 的对谈里（视频）公开承认不省钱。家用 GPU 实际只跑 40% 到 60% 的时间，他的原话是 "it is training and sharpening my skills. I don't even try and justify it anymore"。卖 GPU 的人亲口推翻自托管省钱的假设，比分数榜单更能说明这笔账复杂。

能跑通不等于该自建。开源模型的可行性早已解决。OpenRouter 上 DeepSeek 周度 token 份额从 1 月的 9% 涨到 6 月的 18%，5 月中旬起稳居平台第一（OpenRouter 博客）。决策不能只看可行性，关键要算清钱、数据、能力三本账。

算钱这本账时，显卡利用率与交互延迟天生打架。在 H100 上跑 Llama 70B，并发从 1 拉到 100 时吞吐涨了 20 倍，首 token 延迟却从 45 毫秒涨到 740 毫秒（实测数据）。为了拉满利用率省钱，终端等第一个字的时间拉长十几倍。按原文作者估算（盈亏平衡计算），两张 H100 私有部署每月实际吞吐要达到约 20 亿 token，才能打平中等价位云端 API。

隐性开销与开源协议变数，又把门槛往上推了一截。算上软硬件维护，自建总开销往往达到硬件账单的三到五倍，单张 RTX 4090 全口径持有成本约每月 104 美元（成本分析）。开源模型本身的授权也有雷点，像 MiniMax M2.7 的 GitHub 仓库 LICENSE 里就写着非商用许可（MiniMax 许可）。

鸭哥在 《把模型搬回自己家之前，先算三本账》 里梳理了租 token、租硬件、自购硬件的三档谱系与七个决策信号。面对硬件投入，最稳妥的做法是先租两三周云端机器，记录真实的 token 吞吐与并发曲线，再决定签长期合同还是买硬件。Zach 的收尾原话是："Otherwise, it's a toy and it's a very expensive toy"。

---

也值得知道

ChatGPT 与 Codex 出现大面积宕机：9 月 3 日上午 10:58 ET 起，15 个 ChatGPT 组件和 4 个 Codex 组件全部降级，Downdetector 峰值报告超 74,000 份。服务已于当日恢复，官方说明仅称 elevated errors 且未公布根因，同日 Claude 和 Grok 也出现服务故障（BleepingComputer 报道）。

Cognition 接近完成新一轮融资：据 Bloomberg 9 月 2 日报道，Devin 母公司 Cognition 接近完成约 10 亿美元新融资，估值从 5 月的 260 亿美元涨到约 470 亿美元。其年化营收从 4.92 亿美元升到 9 亿美元以上，目前谈判尚未关闭，最终条款可能变化（Investing.com 转述）。

美国在 G20 会议反对专项 AI 监管：9 月 1 至 2 日 G20 创新部长级会议上，美国公开反对 AI 专项监管，与欧盟推动新法的路径分开走。Politico 同周披露 Zuckerberg 私下致电反对设立独立 AI 监管机构，双方在监管尺度上的分歧正在扩大（Al Jazeera 报道）。

---

本期由 AI 基于鸭哥已发布文章和公开资料整理生成，请注意甄别幻觉。

订阅本 newsletter：daily.yage.ai