<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>Agent Security on Liam Ding（丁洪）</title>
    <link>https://www.liamding.com/tags/agent-security/</link>
    <description>Recent content in Agent Security on Liam Ding（丁洪）</description>
    <image>
      <title>Liam Ding（丁洪）</title>
      <url>https://www.liamding.com/img/og-cover.png</url>
      <link>https://www.liamding.com/img/og-cover.png</link>
    </image>
    <generator>Hugo -- 0.147.7</generator>
    <language>zh-CN</language>
    <lastBuildDate>Thu, 05 Nov 2026 00:00:00 +0800</lastBuildDate>
    <atom:link href="https://www.liamding.com/tags/agent-security/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>五个开源 Agent 项目，按它在哪里停下来挑</title>
      <link>https://www.liamding.com/posts/2026-11-05-open-source-agents-judged-by-where-they-stop/</link>
      <pubDate>Thu, 05 Nov 2026 00:00:00 +0800</pubDate>
      <guid>https://www.liamding.com/posts/2026-11-05-open-source-agents-judged-by-where-they-stop/</guid>
      <description>Railway 员工的测试 Agent 探测了别家基础设施之后，我按“在哪里停下来”而不是星数，挑了五个开源 Agent 项目。</description>
      <content:encoded><![CDATA[<h2 id="问题">问题</h2>
<p>美西时间 11 月 2 日，Josh Manders 在 X 上问 Railway：为什么你们的员工在“试图入侵我的基础设施”。他随后列了这段活动做过的事：从应用容器里拿凭据，向平台要所有 secret；试云厂商的 metadata 接口；问集群这些凭据能干什么；猜内部数据库和缓存的名字；把内部网络全部 65,536 个地址扫了两遍端口。15 分钟里大约 24 条命令，是脚本跑的。他说每一次都被挡住了，什么都没拿到。</p>
<p>当事员工 Jake Runzer 回复说没有恶意：他在“跑一些 agent，在同类平台上做注册和 agentic 测试”，已经把这套 harness 停了，也承认它“跑偏了、伸得太远”。Railway 的 @JustJake 说这看起来确实是 agent“脱轨”，以后会禁止对外的非人工测试。</p>
<blockquote>
<p>以上事件细节都来自一方在 X 上的说法和另一方的回复，没有人公开日志。我只把它当作一种失败形态的例子，不是对任何人的结论。</p></blockquote>
<p>我关心的是形态。那些命令大多看起来像“读”：列 secret、查 metadata、扫端口。一个只在“花钱”或“发消息”前问人的闸门，会把它们全部放过去。真正起作用的那道停，是目标方在网络和凭据这一层，而且守住了。</p>
<p>所以这周的开源推荐，是五个各自把“停”放在某个具体位置的 Agent 项目。五个仓库我都在 2026 年 11 月 4 日美西下午 3 点左右打开过。</p>
<h2 id="我的结论">我的结论</h2>
<p>挑 Agent 工具，先看它在哪里停，再对照你的 Agent 最可能怎么出错。星数衡量的是关注度：这里星最多的是只有一个提交的研究原型，唯一管网络出口的项目只有 493 星。</p>
<p>大部分情况四个问题就够了：</p>
<ol>
<li>Agent 能碰到什么（文件、网络、凭据）？</li>
<li>什么算指令，什么只是它读到的资料？</li>
<li>谁可以给它派活？</li>
<li>哪些动作要等人，没人在的时候怎么办？</li>
</ol>
<h2 id="约束条件">约束条件</h2>
<p>比较这几个项目之前要知道：</p>
<ul>
<li>星数和提交日期每天都在变。下面的数字是 2026 年 11 月 4 日从 GitHub API 取的快照，提交日期按 UTC。</li>
<li>五个仓库里有四个是最近五周内创建的。Open Duet 的仓库建于 2023 年，但 README 写的是现在这个“AI 同事”产品。</li>
<li>我读的是 README 和文档，没有安装或运行任何一个，所以关于行为的描述都是项目自己的说法。</li>
<li>它们解决的问题不同。这里比的是“停”放在哪，不是谁“最好”。</li>
</ul>
<h2 id="取舍选项">取舍选项</h2>
<table>
  <thead>
      <tr>
          <th>仓库</th>
          <th>许可证</th>
          <th>星数（11 月 4 日）</th>
          <th>main 最新提交</th>
          <th>停在哪里</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td><a href="https://github.com/strands-agents/box">strands-agents/box</a></td>
          <td>Apache-2.0</td>
          <td>493</td>
          <td>2026-11-04</td>
          <td>Agent 能碰到什么：系统隔离、网络出口、凭据</td>
      </tr>
      <tr>
          <td><a href="https://github.com/KKKKhazix/agent-autoloop">KKKKhazix/agent-autoloop</a></td>
          <td>MIT</td>
          <td>2,424</td>
          <td>2026-11-04</td>
          <td>什么算指令，有副作用的事要发卡片</td>
      </tr>
      <tr>
          <td><a href="https://github.com/deepseek-ai/dsh-superagent-prototype">deepseek-ai/dsh-superagent-prototype</a></td>
          <td>MIT</td>
          <td>18,524</td>
          <td>2026-10-31</td>
          <td>谁能派活，先观察再自动</td>
      </tr>
      <tr>
          <td><a href="https://github.com/Anil-matcha/open-duet">Anil-matcha/open-duet</a></td>
          <td>Apache-2.0</td>
          <td>6,771</td>
          <td>2026-11-04</td>
          <td>哪些动作要审批，按同事分别设</td>
      </tr>
      <tr>
          <td><a href="https://github.com/wangzan101/Mika">wangzan101/Mika</a></td>
          <td>Apache-2.0</td>
          <td>6,604</td>
          <td>2026-11-04</td>
          <td>默认只在花钱前停</td>
      </tr>
  </tbody>
</table>
<p><strong>Strands Box：停在边界上。</strong> 一个用 Rust 写的沙箱引擎。README 说，引擎检查的操作默认拒绝；出口网关检查连接以及 HTTP 方法和路径；MCP 代理检查工具调用；凭据是注入的，Agent 拿不到底层的 secret。策略能看历史：前面读过某个文件，后面的外发请求就可以被拒。每个决定都记成 OTLP JSON。这一层和 Railway 那张清单对得最直接：看不到 secret、连不上 metadata 接口的 harness，想“伸太远”也没东西可伸。代价是它还是预览版，只支持在 Apple 芯片的 macOS 上本地运行，策略也得你自己写。</p>
<p><strong>agent-autoloop：停在“什么算指令”上。</strong> 一个在后台跑命令行编程 Agent 的工具，内核约 1,650 行，没有运行时依赖。删数据、重启服务、花钱、往外发消息之前，它发卡片问人，等待时不占进程。别人写的文字（比如 issue 标题）放进标明“是资料”的文件，不进提示词；想指定工作目录、Agent 或权限的事件直接拒收。Agent 之间来回转交的活，超过 8 层就停。它的 SECURITY.md 说得很直白：这挡不住所有提示注入；普通 Agent 的“只读”权限不等于读不到这台电脑上的密钥，要隔离密钥得用单独的系统账号或容器。暂不支持 Windows，webhook 模板只在本地模拟服务上测过。</p>
<p><strong>DeepSeek 的 dsh-superagent 原型：停在“谁能提要求”上。</strong> README 写明这是仅供参考的研究原型，不是 DeepSeek 官方产品，仓库只有一个提交。值得看的是它的授权文档：每个来源都有准入规则，请求分为明确、推断和不准入三种，机器人不能提明确请求，也不能叫停任务。默认模式是 <code>observe</code>，只记录“本来会接”的活，什么都不接；文档建议看过这些记录之后再切到 <code>auto</code>。代价是它是用来学习的设计，不是拿来部署的东西。</p>
<p><strong>Open Duet：停在动作上，每个同事单独设。</strong> 一个自托管的工作区，里面是有名字的 AI 同事，有四种审批模式：Ask first、Accept edits、Approve for me、Plan only。定时任务从不自己批准动作，在已连接应用里的改动要等审批。它自己列的局限：连接应用只对着一个假的 Composio 服务测过，没测真服务；自托管服务端是实验性的，只支持一个所有者；桌面安装包没有签名。</p>
<p><strong>Mika：只在花钱前停。</strong> 一个 Android 上的 Agent，在隐藏的后台屏幕上操作应用，没有 Mika 服务器，登录、验证码和付款都交还给你。它的模式文档写得很清楚：默认的 Ask 模式只在花钱那一步确认，“发消息、发帖、提交表单、删除和改设置都不问，直接做”。没人在的时候，定时任务会跳过付款那一步并告诉你。这条线清楚、诚实，也很窄：如果你担心的是 Agent 给错的人发了消息，默认设置管不到。</p>
<h2 id="证据">证据</h2>
<p>把 Railway 那张清单对到这几个项目上，缺口就出来了：</p>
<ul>
<li>拿凭据、要所有 secret，对应的是 Box 的凭据注入，以及 autoloop 那句“用单独的账号或容器”。审批卡片抓不到它，因为这些看起来都不像副作用。</li>
<li>metadata 接口和端口扫描是网络读操作。这里只有 Box 的出口网关会去检查。</li>
<li>“在同类平台上做注册和 agentic 测试”是范围问题。dsh 的准入表和“先观察再自动”，就是在 Agent 真接活之前，先看它会接什么。</li>
<li>Open Duet 和 Mika 按动作类型设闸。这对花钱和外发消息有效，对侦察类操作不起作用。</li>
</ul>
<p>表里的星数和这些都对不上。18,524 星的仓库自称原型；493 星的那个，是这里唯一能拦住外发网络请求的项目。</p>
<p>值得认真对待的反对意见：“目标方的防御守住了，说明系统是有效的”：对目标方来说是的，但 Agent 的主人是从一条公开帖子里才知道出事的。“用户真正想要的就是审批闸门”：对消费级 Agent 大概是，Mika 只管钱的默认设置也是说得通的产品选择，只是停的位置不同。“四层都可以叠”：可以，而且有凭据的 Agent 就应该叠。关键是知道你靠的是哪一层。</p>
<h2 id="这个结论的边界">这个结论的边界</h2>
<p>如果 Agent 只在一个用完就扔的代码目录里改文件，审批闸门就够了，网络沙箱是多余的开销。如果是替你在手机上购物的 Agent，钱就是最该先停的地方。这篇针对的是带着凭据、能上网、长时间无人看着跑的 Agent，它最坏的情况是读和扫，而不是买。</p>
<h2 id="我会怎么改">我会怎么改</h2>
<p>如果这个月我要搭一个后台 Agent：</p>
<p>先管能碰到什么。给它单独的账号或容器，凭据注入而不是直接暴露，外发流量默认拒绝。</p>
<p>像 autoloop 那样，别人写的文字不进指令通道，并限制活能被转交多远。</p>
<p>新的派活来源先跑观察模式，看它本来会接哪些。</p>
<p>然后再给有副作用的动作加审批卡片，并像 Mika 的文档那样，写清楚哪些动作是不设闸的。</p>
<p>星数最后再看。</p>
]]></content:encoded>
    </item>
  </channel>
</rss>
