<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>Open Source on Liam Ding（丁洪）</title>
    <link>https://www.liamding.com/tags/open-source/</link>
    <description>Recent content in Open Source on Liam Ding（丁洪）</description>
    <image>
      <title>Liam Ding（丁洪）</title>
      <url>https://www.liamding.com/img/og-cover.png</url>
      <link>https://www.liamding.com/img/og-cover.png</link>
    </image>
    <generator>Hugo -- 0.147.7</generator>
    <language>zh-CN</language>
    <lastBuildDate>Thu, 12 Nov 2026 00:00:00 +0800</lastBuildDate>
    <atom:link href="https://www.liamding.com/tags/open-source/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>代码交给 AI 写了，四个开源项目管“检查”这一步</title>
      <link>https://www.liamding.com/posts/2026-11-12-four-open-source-projects-for-checking-ai-written-code/</link>
      <pubDate>Thu, 12 Nov 2026 00:00:00 +0800</pubDate>
      <guid>https://www.liamding.com/posts/2026-11-12-four-open-source-projects-for-checking-ai-written-code/</guid>
      <description>写代码变便宜了，检查没有。四个开源项目各自在不同阶段放了一个独立的检查者，按它查什么、在哪里会漏来比。</description>
      <content:encoded><![CDATA[<h2 id="问题">问题</h2>
<p>美西时间 11 月 8 日，Node.js 和 Deno 的作者 Ryan Dahl 发帖说：“软件工程这么短时间就转成了 100% AI 写，真让人震惊。”他接着写：AI 写 C++ 比他自己写得还好，但“确认它能正常工作”这个问题“并没有神奇地消失”，“我们只是在以更高的质量交付多得多的代码”。（原文：“It writes C++ better than I ever could, but the problem of making sure it works didn&rsquo;t magically disappear. we are just shipping enormously more volume at higher quality.”）我 11 月 11 日读到时，这条帖子大约有 184 万次浏览。</p>
<p>这正是没有变便宜的那部分工作。模型一分钟能写一千行，可设计对不对、便宜模型有没有照计划做、这次改动有没有开出漏洞，还是得有人知道。</p>
<p>所以这周的开源推荐，是四个各自想接管一部分“检查”的项目。其中三个在我查看时上了 GitHub 趋势榜，第四个是 Google 在 11 月 7 日宣布的。四个仓库我都在 2026 年 11 月 11 日美西下午 3 点左右打开过。</p>
<h2 id="我的结论">我的结论</h2>
<p>四个项目都以某种方式把“检查”和“干活”分开了，其中 EGM 和 Cloudflare 的 skill 把规则写得最明白：检查的 Agent 不能是干活的那个，而且要不带作者的上下文开始。它们的区别在于<strong>什么时候</strong>查：</p>
<ol>
<li>代码还没写：先审设计。</li>
<li>交接的时候：给便宜模型一份计划，每一步都附一条命令和预期结果。</li>
<li>上线之前：找漏洞，再让另一个 Agent 去推翻每一条。</li>
</ol>
<p>挑一个放在你“出错最贵”那个阶段的工具。另外，“全新上下文”要当成一个需要验证的说法，而不是装了插件就自动拥有的功能。</p>
<h2 id="约束条件">约束条件</h2>
<p>比较这几个项目之前要知道：</p>
<ul>
<li>星数和提交日期每天都在变。下面的数字是 2026 年 11 月 11 日从 GitHub API 取的快照，提交日期用 UTC。</li>
<li>我读的是 README、文档和一个 issue，没有安装或运行其中任何一个，所以关于行为的描述都是项目自己的说法。</li>
<li>四个里有两个从 9 月中旬起 main 上就没有新提交。对一个主要由 Markdown 提示词组成的 skill 来说，这不一定代表没人维护，但值得知道。</li>
<li>它们解决的问题不同。这里比的是检查放在哪里、有多独立，不是哪个“最好”。</li>
</ul>
<h2 id="取舍选项">取舍选项</h2>
<table>
  <thead>
      <tr>
          <th>仓库</th>
          <th>许可证</th>
          <th>星数（11 月 11 日）</th>
          <th>main 最近提交</th>
          <th>查什么、什么时候查</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td><a href="https://github.com/google/elephant-goldfish-model">google/elephant-goldfish-model</a></td>
          <td>Apache-2.0</td>
          <td>17,657</td>
          <td>2026-11-11</td>
          <td>设计，在写代码之前</td>
      </tr>
      <tr>
          <td><a href="https://github.com/shadcn/improve">shadcn/improve</a></td>
          <td>MIT</td>
          <td>10,810</td>
          <td>2026-09-12</td>
          <td>计划和执行，在交接时</td>
      </tr>
      <tr>
          <td><a href="https://github.com/cloudflare/security-audit-skill">cloudflare/security-audit-skill</a></td>
          <td>MIT</td>
          <td>70,320</td>
          <td>2026-09-14</td>
          <td>漏洞，每一条都由第二个 Agent 质疑</td>
      </tr>
      <tr>
          <td><a href="https://github.com/openai/codex-security">openai/codex-security</a></td>
          <td>Apache-2.0</td>
          <td>11,676</td>
          <td>2026-11-11</td>
          <td>仓库或 diff 里的漏洞，外加补丁和修复验证</td>
      </tr>
  </tbody>
</table>
<p><strong>Elephant-Goldfish Model：在有人写代码之前先审设计。</strong> 一个支持 Antigravity、Claude Code 和 Codex 的插件。“大象”会话带着项目上下文起草设计文档；“金鱼”审稿人只拿到草稿和它引用的源码，看不到之前的对话，专门找没说出口的假设。取舍由你拍板，批准了设计再动手实现。如果你的 Agent 开不出全新的子 Agent，EGM 会直接停下审稿，而不是在同一个上下文里凑合审。它还有一个 drift report，对比设计文档和当前代码哪里对不上。README 写得很克制：“审稿不能替代测试和人的判断”，并且注明这“不是 Google 官方支持的产品”。</p>
<p>有意思的细节在它自己的文档里。支持页说，审稿人隔离方面的证据比安装测试“更窄”。11 月 11 日仍未关闭的 issue <a href="https://github.com/google/elephant-goldfish-model/issues/237">#237</a>（10 月 30 日提出）报告：在 Codex 上，审稿人仍然会收到项目级和用户级的 <code>AGENTS.md</code>；在 Antigravity 上会收到项目的 <code>AGENTS.md</code> 和 <code>GEMINI.md</code>。文档说，Claude 的审稿适配器设置了不读 <code>CLAUDE.md</code>；对 Codex 和 Antigravity，目前没有经过验证的指令文件排除机制。提 issue 的人认为，这些文件常常写着团队的既定假设（“我们一律用 X”），审稿人一开始就读了它们，就是带着作者的先入之见在审。EGM 自己的建议是：稳定的约定照样写进指令文件，需要金鱼去质疑的假设，单独写成明确的审稿标准。</p>
<p><strong>improve：让计划自带测试。</strong> shadcn 做的一个 skill，用你最强的模型审计代码库，然后写计划交给便宜模型执行。它自己从不改源码，只往 <code>plans/</code> 里写东西。计划的每一步都以一条命令和预期输出结尾；计划会记下写它时对应的 git commit，执行者动手前先查有没有偏移；还写明了 STOP 条件。README 承认它的审计子 Agent 会多报，所以主模型会把每个引用的位置重读一遍再给你看。<code>execute</code> 把便宜模型放进隔离的 git worktree 里干活，然后重跑每条完成标准、读 diff，最多来回改两轮。合并永远由你决定。代价是：main 最近一次提交是 9 月 12 日，而且整件事的质量取决于那些检查命令写得好不好。</p>
<p><strong>Cloudflare 的 security-audit-skill：发现漏洞的 Agent 从不确认自己的发现。</strong> 一个六阶段的审计 skill：先侦察、再搜寻，然后每个候选漏洞都交给一个全新的验证者，由它想办法推翻。结果只有三种结论：<code>confirmed</code>、<code>needs_validation</code>、<code>rejected</code>，再用一个零依赖的 Node 脚本按 JSON schema 检查 <code>findings.json</code>（另一个脚本检查覆盖台账）。README 把规则说得很直白：“检查一条发现的 Agent，永远不是发现它的那个。”它还要求所有构建或运行目标代码的操作都放在操作系统级沙箱里，并关闭外网。文档里有两个数字值得记住。在他们的测试里，单次运行找到的漏洞大约只有多次运行总数的一半。Cloudflare 自己的博客说，把它扩成覆盖 128 个仓库的扫描系统后，最慢的单个仓库跑了 14 小时多，所以全量扫描成了定期清积压，而不是每个 PR 都跑。在那套系统里，每条确认的漏洞都必须附一个补丁。</p>
<p><strong>Codex Security：打包好的版本。</strong> OpenAI 的 CLI、TypeScript SDK 和 GitHub Action。它可以扫整个仓库、指定路径或一段 Git diff（<code>cs scan . --diff origin/main</code>），验证候选漏洞、生成补丁、验证已有的修复，并导出 SARIF、JSON 或 CSV。每周运行的 Action 示例给每次扫描设了约 5 美元的预估上限，发现问题只报告、不让任务失败；README 也说明进行中的请求可能超出上限。它支持 OpenAI、Amazon Bedrock、OpenRouter、Fireworks AI 和 Cheaper Inference，每个提供方都要自己的凭据。部分网络安全类请求和受保护的发现需要 OpenAI 的 Trusted Access for Cyber。这是四个里最活跃的仓库，最近一次提交就在我打开它前几分钟。</p>
<h2 id="证据">证据</h2>
<p>把 Dahl 的问题放在这四个项目旁边，能看出一个规律：</p>
<ul>
<li>每一种检查都会留下事后能翻看的东西：审过的设计文档、带命令的计划、带结论的 <code>findings.json</code>、保存下来的报告。没有一个要你相信一句“看起来没问题”的聊天回复。</li>
<li>在把独立性写成设计目标的项目里（EGM 和 Cloudflare 的 skill），它也是最难验证的一环。EGM 在文档里写了自己的缺口。Cloudflare 的 skill 靠新开一个 Agent 来获得独立性，可新 Agent 有多“新”，取决于宿主让它有多新。README 没有说宿主的指令文件会不会进到那个 Agent。</li>
<li>重复运行很重要。Cloudflare 说，在他们的测试里，一次运行大约只能找到多次运行总量的一半；Codex Security 的 deep 模式会重复跑 standard 扫描再去重。单次扫描只是一次抽样。</li>
<li>星数和这些都对不上。7 万多星的仓库从 9 月起就没变过，README 把它称为后来那套系统演变出来的单仓库起点。四个里最活跃的是 OpenAI 的 codex-security，我打开它前几分钟还有新提交。</li>
</ul>
<p>值得认真对待的反驳。“测试已经在做这件事了”：对你想到要测的行为，是的。这几个都替代不了测试，improve 和 Cloudflare 都依赖仓库自己的测试命令。它们针对的是设计错误和没人写过测试的漏洞。“第二个模型有同样的盲区”：部分成立。所以全新上下文才重要，Cloudflare 的博客也说不同模型找到的漏洞各不相同。“这不就是多烧 token”：是的。问题在于多跑一遍是不是比这个 bug 便宜；Cloudflare 说追加一轮大约只要首轮一半的成本，这是这里最接近答案的数字。</p>
<h2 id="这个结论的边界">这个结论的边界</h2>
<p>如果只是在一个你很熟的代码库里改一小处，人工审一遍加测试通常更便宜，也更快。做完就扔的原型，审设计是多余的。它们真正值回成本的场景是：作者是模型，审稿人的时间最稀缺，而且错误会交到没写这段代码的人手里。</p>
<h2 id="我会怎么改">我会怎么改</h2>
<p>如果这个月要给一个大量用 AI 写的代码库加检查：</p>
<p>第一道检查放在错误代价最高的地方。对多数团队来说，就是设计阶段，赶在模型朝错误方向写出一千行之前。</p>
<p>每次交接都附带一条能判断通过与否的命令，像 improve 的计划那样，执行者不用自己判断是否成功。</p>
<p>每个改动都对 diff 跑安全扫描，再定期做一次全量扫描，而且要预期全量扫描得跑不止一遍。</p>
<p>“全新上下文”这个说法自己测一测。issue #237 的办法很简单：在每个指令文件里放一个标记字符串，让审稿人列出它能看到的所有标记。</p>
<p>最后才看星数。</p>
]]></content:encoded>
    </item>
    <item>
      <title>五个开源 Agent 项目，按它在哪里停下来挑</title>
      <link>https://www.liamding.com/posts/2026-11-05-open-source-agents-judged-by-where-they-stop/</link>
      <pubDate>Thu, 05 Nov 2026 00:00:00 +0800</pubDate>
      <guid>https://www.liamding.com/posts/2026-11-05-open-source-agents-judged-by-where-they-stop/</guid>
      <description>Railway 员工的测试 Agent 探测了别家基础设施之后，我按“在哪里停下来”而不是星数，挑了五个开源 Agent 项目。</description>
      <content:encoded><![CDATA[<h2 id="问题">问题</h2>
<p>美西时间 11 月 2 日，Josh Manders 在 X 上问 Railway：为什么你们的员工在“试图入侵我的基础设施”。他随后列了这段活动做过的事：从应用容器里拿凭据，向平台要所有 secret；试云厂商的 metadata 接口；问集群这些凭据能干什么；猜内部数据库和缓存的名字；把内部网络全部 65,536 个地址扫了两遍端口。15 分钟里大约 24 条命令，是脚本跑的。他说每一次都被挡住了，什么都没拿到。</p>
<p>当事员工 Jake Runzer 回复说没有恶意：他在“跑一些 agent，在同类平台上做注册和 agentic 测试”，已经把这套 harness 停了，也承认它“跑偏了、伸得太远”。Railway 的 @JustJake 说这看起来确实是 agent“脱轨”，以后会禁止对外的非人工测试。</p>
<blockquote>
<p>以上事件细节都来自一方在 X 上的说法和另一方的回复，没有人公开日志。我只把它当作一种失败形态的例子，不是对任何人的结论。</p></blockquote>
<p>我关心的是形态。那些命令大多看起来像“读”：列 secret、查 metadata、扫端口。一个只在“花钱”或“发消息”前问人的闸门，会把它们全部放过去。真正起作用的那道停，是目标方在网络和凭据这一层，而且守住了。</p>
<p>所以这周的开源推荐，是五个各自把“停”放在某个具体位置的 Agent 项目。五个仓库我都在 2026 年 11 月 4 日美西下午 3 点左右打开过。</p>
<h2 id="我的结论">我的结论</h2>
<p>挑 Agent 工具，先看它在哪里停，再对照你的 Agent 最可能怎么出错。星数衡量的是关注度：这里星最多的是只有一个提交的研究原型，唯一管网络出口的项目只有 493 星。</p>
<p>大部分情况四个问题就够了：</p>
<ol>
<li>Agent 能碰到什么（文件、网络、凭据）？</li>
<li>什么算指令，什么只是它读到的资料？</li>
<li>谁可以给它派活？</li>
<li>哪些动作要等人，没人在的时候怎么办？</li>
</ol>
<h2 id="约束条件">约束条件</h2>
<p>比较这几个项目之前要知道：</p>
<ul>
<li>星数和提交日期每天都在变。下面的数字是 2026 年 11 月 4 日从 GitHub API 取的快照，提交日期按 UTC。</li>
<li>五个仓库里有四个是最近五周内创建的。Open Duet 的仓库建于 2023 年，但 README 写的是现在这个“AI 同事”产品。</li>
<li>我读的是 README 和文档，没有安装或运行任何一个，所以关于行为的描述都是项目自己的说法。</li>
<li>它们解决的问题不同。这里比的是“停”放在哪，不是谁“最好”。</li>
</ul>
<h2 id="取舍选项">取舍选项</h2>
<table>
  <thead>
      <tr>
          <th>仓库</th>
          <th>许可证</th>
          <th>星数（11 月 4 日）</th>
          <th>main 最新提交</th>
          <th>停在哪里</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td><a href="https://github.com/strands-agents/box">strands-agents/box</a></td>
          <td>Apache-2.0</td>
          <td>493</td>
          <td>2026-11-04</td>
          <td>Agent 能碰到什么：系统隔离、网络出口、凭据</td>
      </tr>
      <tr>
          <td><a href="https://github.com/KKKKhazix/agent-autoloop">KKKKhazix/agent-autoloop</a></td>
          <td>MIT</td>
          <td>2,424</td>
          <td>2026-11-04</td>
          <td>什么算指令，有副作用的事要发卡片</td>
      </tr>
      <tr>
          <td><a href="https://github.com/deepseek-ai/dsh-superagent-prototype">deepseek-ai/dsh-superagent-prototype</a></td>
          <td>MIT</td>
          <td>18,524</td>
          <td>2026-10-31</td>
          <td>谁能派活，先观察再自动</td>
      </tr>
      <tr>
          <td><a href="https://github.com/Anil-matcha/open-duet">Anil-matcha/open-duet</a></td>
          <td>Apache-2.0</td>
          <td>6,771</td>
          <td>2026-11-04</td>
          <td>哪些动作要审批，按同事分别设</td>
      </tr>
      <tr>
          <td><a href="https://github.com/wangzan101/Mika">wangzan101/Mika</a></td>
          <td>Apache-2.0</td>
          <td>6,604</td>
          <td>2026-11-04</td>
          <td>默认只在花钱前停</td>
      </tr>
  </tbody>
</table>
<p><strong>Strands Box：停在边界上。</strong> 一个用 Rust 写的沙箱引擎。README 说，引擎检查的操作默认拒绝；出口网关检查连接以及 HTTP 方法和路径；MCP 代理检查工具调用；凭据是注入的，Agent 拿不到底层的 secret。策略能看历史：前面读过某个文件，后面的外发请求就可以被拒。每个决定都记成 OTLP JSON。这一层和 Railway 那张清单对得最直接：看不到 secret、连不上 metadata 接口的 harness，想“伸太远”也没东西可伸。代价是它还是预览版，只支持在 Apple 芯片的 macOS 上本地运行，策略也得你自己写。</p>
<p><strong>agent-autoloop：停在“什么算指令”上。</strong> 一个在后台跑命令行编程 Agent 的工具，内核约 1,650 行，没有运行时依赖。删数据、重启服务、花钱、往外发消息之前，它发卡片问人，等待时不占进程。别人写的文字（比如 issue 标题）放进标明“是资料”的文件，不进提示词；想指定工作目录、Agent 或权限的事件直接拒收。Agent 之间来回转交的活，超过 8 层就停。它的 SECURITY.md 说得很直白：这挡不住所有提示注入；普通 Agent 的“只读”权限不等于读不到这台电脑上的密钥，要隔离密钥得用单独的系统账号或容器。暂不支持 Windows，webhook 模板只在本地模拟服务上测过。</p>
<p><strong>DeepSeek 的 dsh-superagent 原型：停在“谁能提要求”上。</strong> README 写明这是仅供参考的研究原型，不是 DeepSeek 官方产品，仓库只有一个提交。值得看的是它的授权文档：每个来源都有准入规则，请求分为明确、推断和不准入三种，机器人不能提明确请求，也不能叫停任务。默认模式是 <code>observe</code>，只记录“本来会接”的活，什么都不接；文档建议看过这些记录之后再切到 <code>auto</code>。代价是它是用来学习的设计，不是拿来部署的东西。</p>
<p><strong>Open Duet：停在动作上，每个同事单独设。</strong> 一个自托管的工作区，里面是有名字的 AI 同事，有四种审批模式：Ask first、Accept edits、Approve for me、Plan only。定时任务从不自己批准动作，在已连接应用里的改动要等审批。它自己列的局限：连接应用只对着一个假的 Composio 服务测过，没测真服务；自托管服务端是实验性的，只支持一个所有者；桌面安装包没有签名。</p>
<p><strong>Mika：只在花钱前停。</strong> 一个 Android 上的 Agent，在隐藏的后台屏幕上操作应用，没有 Mika 服务器，登录、验证码和付款都交还给你。它的模式文档写得很清楚：默认的 Ask 模式只在花钱那一步确认，“发消息、发帖、提交表单、删除和改设置都不问，直接做”。没人在的时候，定时任务会跳过付款那一步并告诉你。这条线清楚、诚实，也很窄：如果你担心的是 Agent 给错的人发了消息，默认设置管不到。</p>
<h2 id="证据">证据</h2>
<p>把 Railway 那张清单对到这几个项目上，缺口就出来了：</p>
<ul>
<li>拿凭据、要所有 secret，对应的是 Box 的凭据注入，以及 autoloop 那句“用单独的账号或容器”。审批卡片抓不到它，因为这些看起来都不像副作用。</li>
<li>metadata 接口和端口扫描是网络读操作。这里只有 Box 的出口网关会去检查。</li>
<li>“在同类平台上做注册和 agentic 测试”是范围问题。dsh 的准入表和“先观察再自动”，就是在 Agent 真接活之前，先看它会接什么。</li>
<li>Open Duet 和 Mika 按动作类型设闸。这对花钱和外发消息有效，对侦察类操作不起作用。</li>
</ul>
<p>表里的星数和这些都对不上。18,524 星的仓库自称原型；493 星的那个，是这里唯一能拦住外发网络请求的项目。</p>
<p>值得认真对待的反对意见：“目标方的防御守住了，说明系统是有效的”：对目标方来说是的，但 Agent 的主人是从一条公开帖子里才知道出事的。“用户真正想要的就是审批闸门”：对消费级 Agent 大概是，Mika 只管钱的默认设置也是说得通的产品选择，只是停的位置不同。“四层都可以叠”：可以，而且有凭据的 Agent 就应该叠。关键是知道你靠的是哪一层。</p>
<h2 id="这个结论的边界">这个结论的边界</h2>
<p>如果 Agent 只在一个用完就扔的代码目录里改文件，审批闸门就够了，网络沙箱是多余的开销。如果是替你在手机上购物的 Agent，钱就是最该先停的地方。这篇针对的是带着凭据、能上网、长时间无人看着跑的 Agent，它最坏的情况是读和扫，而不是买。</p>
<h2 id="我会怎么改">我会怎么改</h2>
<p>如果这个月我要搭一个后台 Agent：</p>
<p>先管能碰到什么。给它单独的账号或容器，凭据注入而不是直接暴露，外发流量默认拒绝。</p>
<p>像 autoloop 那样，别人写的文字不进指令通道，并限制活能被转交多远。</p>
<p>新的派活来源先跑观察模式，看它本来会接哪些。</p>
<p>然后再给有副作用的动作加审批卡片，并像 Mika 的文档那样，写清楚哪些动作是不设闸的。</p>
<p>星数最后再看。</p>
]]></content:encoded>
    </item>
  </channel>
</rss>
