AI Builders Digest · 2026-09-19
X / Twitter
Vercel CEO Guillermo Rauch 抛出了今天最硬的一组数据:Vercel AI Gateway 上开源模型的 token volume 占比今天可能创下纪录,开源 78.4%,闭源只有 21.6%。他补充说,按花费(spend)看故事不一样,但今天第 3 和第 4 名分别是 Moonshot AI 和 DeepSeek,把 Z.ai 加进来,三家的合计支出已经超过了排第 2 的 OpenAI。他特意标注:这是各家 provider(主要在美国)跑这些模型推理的支出,不是直接流向开源权重实验室的收入。他另外连着两条都在讲 Jev,说 adoption 的数据和 anecdote 都令人震惊,人人都在用,并把这波热度归因于"AI 太贵太慢"的时代情绪,大家急着优化、把 AI 塞进更多场景。 https://x.com/rauchg/status/2101186741042663579 https://x.com/rauchg/status/2101116978677285241 https://x.com/rauchg/status/2101079472732848510
Box CEO Aaron Levie 认为 Jev 对企业 agent 极其有用:workflow 里的瞬间判断、数据分类、judgment calls,以及上百种类似场景都能用上。他给了一个 Box + Jev 的 demo:从 Box 拉出一份事故报告,判断它是否面向客户、严重程度如何,把文件移进 escalate、monitor 或 review 三个文件夹之一,并写入一条 metadata template。整个过程近乎瞬时、成本近乎为零。他说可以想象这用在保险理赔、合同管理、贷款审批、安全审查、客户日志分析里,是一类全新的 AI 用例。 https://x.com/levie/status/2101007708044574906
Anthropic Claude Code 团队的 Thariq 宣布 Claude Code 开始支持 AGENTS.md:从 2.1.277 版本起,如果某个文件夹里没有 CLAUDE.md,Claude 会检查并使用 AGENTS.md,这个行为可以在 /config 里开关。他还透露 AGENTS.md 的支持正是构建在 Claude Code mods 之上的,这是即将推出的 harness 自定义方式;这个 mod 是内置的,但用户之后也能自己构建定制版本的项目指令,并附上了源码链接。 https://x.com/trq212/status/2101009392611278961 https://x.com/trq212/status/2101009393731223817 https://x.com/trq212/status/2101009395052343462
Every CEO Dan Shipper 为 Jack Cheng 的 demo 被指"造假"打抱不平:X 上确实有夸张的 AI demo,但说 Jack Cheng 的作品是假的让人难过,他是自己共事过的最聪明、最智识诚实、最讲究 craft 的人之一,那个 demo 既真实,也是对未来一次有意思的窥探。 https://x.com/danshipper/status/2101155521818476693
Peter Yang 说 Meta 的 Muse 是他至今试过最好的个人 agent,替他在有线电视和电话账单上一年省了 800 多美元,对免费 AI agent 来说价值感"离谱"。他分享了新视频,展示 10 个 favorite use case,包括个性化晨间新闻、习惯追踪,以及让 Muse 打电话替他跟客服砍价。他还贴出一份 Muse 与 Comcast 谈判、一年省下 288 美元的 phone transcript,感叹大多数公司的客服热线还没准备好迎接 agent。 https://x.com/petergyang/status/2101033599319613533 https://x.com/petergyang/status/2101083891507593576
fpv ventures 合伙人 Nikunj Kothari 展示了一份 Jev 的实测数据:在某个多条件评测里给 3000 份儿童零食打分,28 秒完成,花费 0.11 美元。他还顺手做了一个叫 Jevable 的网站,把 X 上所有好玩的 Jev demo 汇集起来、支持按分类筛选,并开放 + 按钮让大家提交自己的项目。 https://x.com/nikunj/status/2101006585481073093 https://x.com/nikunj/status/2101077053567332618
OpenClaw 的 Peter Steinberger 分享了一个 agent 编排的实况:最酷的部分是 roboclaw 跑在团队服务器上、活跃在 Discord、能跟 gpt-live 对话,并且知道自己同时在处理的所有 session,团队开会时就能直接问它当前和历史 session 的 context。他还提到一个 hot tip:打开 home sidebar,让你的 claw 重新整理 session,保持井然有序。 https://x.com/steipete/status/2101141707375227372 https://x.com/steipete/status/2101139037801283997
Builder Zara Zhang 给了一句很锋利的判断:当你消费的大多是垃圾时,很难不生产垃圾。想修输出,先修输入。 https://x.com/zarazhangrui/status/2101123389528457596
SPC 普通合伙人、Bevel Health 联合创始人 Aditya Agarwal 感慨 AI 是一个轮回:所有旧的东西都变成了新的。 https://x.com/adityag/status/2101097330107875437
OpenAI 的 Thibault Sottiaux(Codex & ChatGPT) 透露他们今天在和 Romain Huet、Sam Altman 一起打磨 keynote,最难的部分是怎么把这么多好东西讲清楚,因为内容密集到有点夸张。他说下周就会放出一些东西,不让大家等太久,也很期待展示未来几个月这些新工作如何拼到一起。 https://x.com/thsottiaux/status/2101157729037586694
Podcast
The Takeaway:扩散模型之于 inference,就像当年 transformer 之于 training——谁在 inference 时更并行,谁就赢下最终的经济账。
Stefano Ermon 是斯坦福教授、扩散模型的奠基人之一(与杨松在 2019 年提出 score-based generative models),如今是 Inception 的联合创始人兼 CEO。他的判断很反直觉:整个行业在文本和代码上几乎一边倒押注自回归架构,但他认为真正的分水岭在 inference 端。
他给出的论证链条干净得不像话。2017 年 RNN 到 transformer 的转折,本质是让 training 从串行变成并行,这是 LLM 得以成立的前提。但到了 inference,自回归模型依然是串行的:生成第 10 个 token 之前必须先生成前面所有 token,这个负载严重 memory bound,大部分时间耗在 weight 的内存搬运上,算术量极小,跟 GPU 的天性不匹配。而扩散模型 coarse-to-fine、一次并行输出多个 token,它的 inference 负载跟 training 负载在形态上高度相似,天然吃满 GPU。用他的话说,“the bitter lesson is that the more parallel solution is the one that is eventually going to win”。
这不是纸上推演。Inception 的 Mercury 模型在 benchmark 上已与 frontier labs 的速度优化版模型(Haiku、flash、mini/nano 系列)质量相当,但显著更快,而且已经在生产环境服务客户。语音 agent 公司 OpenCall 原本用 Cerebras 定制芯片来换速度,后来直接切到 Mercury,因为软件层面的并行加速能在 NVIDIA GPU 上拿到同样的速度,而 GPU 可得性更高、成本更低。
几个细节值得记下来。Inception 只有约 50 人,但 Stefano 说瓶颈更多是算力而不是人,agent 让他们的小团队产出远超人数。扩散模型在可控性上也有结构性优势:自回归模型必须等整个对象生成完才能用 reward function 打分,而扩散模型从第一步粗粒度开始就能被外部约束和 reward 引导,这在自回归架构上根本做不到。他甚至抛出两个尚未验证但已有学术证据的方向——扩散模型可能更 data efficient(加噪去噪本质是一种数据增强),也可能在 intelligence 上反超。他估算了 OpenRouter 上的任务分类,大致 20% 到 30% 的 workload 对延迟极其敏感,这是一条清晰的下界。
对做产品的人来说,最实用的一句是:他们把所有东西都做成 backward compatible,API 不变、OpenAI 兼容、text in text out,所以客户换架构几乎不需要改技术栈。这大概也是他敢在自回归的天下里下注的底气。
https://www.youtube.com/@NoPriorsPodcast
Generated through the Follow Builders skill: https://github.com/zarazhangrui/follow-builders