Andrej Karpathy
Andrej Karpathy 分享了一个地理评测:向模型输入经纬度,只问“陆地还是水域”,重复 16,200 次后把答案画成图,就能观察模型从互联网文本中学到的地理知识。他同时认为,人们会花更多时间理解语言模型的输出,因此输出形式本身值得设计。文字解释可以要求遵循航空维修文档使用的 ASD-STE100 受控语言规范;如果过于严格,可以要求接近该规范的 80%。图表比长文字更容易理解,而 HTML 页面又能加入交互和动画。他最看好为任意主题定制讲解视频,例如要求生成 3b1b 风格的解释,并用 ElevenLabs 或本地语音工具配音。随着模型承担更多具体工作,人的工作会更多转向监督和理解。他建议尝试过去不值得专门开发、现在可以按需生成和丢弃的网页或视频,用这些产物帮助自己弄懂问题。
Google 副总裁 Josh Woodward
Josh Woodward 发布了 Stitch CLI,用于按需获取设计创意。
Anthropic Claude Code 团队 Boris Cherny
Boris Cherny 介绍了 Claude 的 Mods:用户可以通过提示词改变 Claude 的工作方式和界面外观。他认为,每个人的工作方式不同,产品体验也没有必要完全相同。定制结果还可以作为插件分享,让其他人尝试。
OpenAI Codex 与 ChatGPT 团队 Thibault Sottiaux
Thibault Sottiaux 用 dot 整理邮件,称未读数已从超过 9,000 封降至 6,110 封,接下来希望在 48 小时内通过整理过滤规则清空收件箱。他还介绍,可以让 dot“创建一只宠物并设为头像”,输入可以是想法或图片。在服务状态方面,他表示 GPT-6.1 Sol 上线前两天遭遇大量负载,速度现已恢复到预期水平。他同时预告,所有付费 ChatGPT 账户将在原帖所称的“明天上午 10 点 PST”获得全局额度重置。这些内容分别展示了个人任务自动化、外观定制,以及团队对上线初期性能问题的处理。
AI 教程作者 Peter Yang
Peter Yang 说,他最近使用 Claude Max 时,Opus 和 Sonnet 的额度体验已接近不限量,这是他的个人使用感受。他还介绍了上周发布的个人 AI 系统课程,称已有超过 100 位新成员加入。课程由短篇解释、图片、提示词和可复制的 skills 组成,希望让内容更容易随 AI 变化而更新。会员价格为每年 150 美元,原帖表示将在 7 天后涨至 200 美元。他还预告周五太平洋时间上午 11:30 的免费直播课,已有超过 300 人报名,无法到场者也能获得录像。
Anthropic Claude Code 团队 Thariq
Thariq 正在改进个人游戏原型的动画质量。他让 Claude 教自己动画知识,并寻找参考素材。为了反复调整跳跃动作,他又让 Claude 制作一个动画编辑器,并分享了前后对比视频。他对编辑器的结果很满意,但也坦言原型仍有不少可以改进之处。比起继续堆功能,他感到自己的技能已接近当前上限,需要培养更好的判断力。
Vercel CEO Guillermo Rauch
Guillermo Rauch 分享了一个 SvelteKit 3 小应用,称从构建到部署端到端只花了 15 秒。他看好 Async Svelte 和 Remote Functions,并表示 fx 与 Opus 顺利完成了这个例子。他最近喜欢要求模型把自己的实现“反过来教给我”,在应用中逐步展示支撑功能的 Svelte 代码。他用 quines 来描述这种展示思路,并解释 quine 是能输出自身源代码的程序。另一条推文将未来方向概括为 verification-engineering,列出证明、端到端测试、基准测试和 linters。他认为其中一部分验证会是确定性的,另一部分则会由 agent 执行。
Box CEO Aaron Levie
Aaron Levie 观察到,许多企业正在向内部部门派驻 FDE,也就是贴近业务工作的部署工程师,帮助把 AI 能力接入实际流程。这类岗位既需要技术能力和 AI 知识,也需要理解企业试图自动化的具体工作。他认为,这些能力可以集中在一个人身上,也可以由多人协作补齐,但无法绕过这种组合直接实现自动化。对多数企业而言,这是一个新的职能,因此也会带来新的工作机会。他引用 Automation Engineer 的例子说明,相关工具出现得很晚,不可能要求所有候选人都有十年经验。对具备软件技能、正在深入 AI 的人,他建议把企业自动化作为值得深耕的方向。
产品设计师 Ryo Lu
Ryo Lu 展示了在 iPhone Duo 上运行 ryOS 的效果,用“翻盖手机,完整桌面”描述这个小型软件世界。
构建者 Zara Zhang
Zara Zhang 认为,前端代码可能是当下最有表现力的叙事媒介,但很多人只用它制作 SaaS 落地页。她的关注点是把前端的表现空间用于讲故事,而不局限于常见的产品介绍页面。
FPV Ventures 合伙人 Nikunj Kothari
Nikunj Kothari 回应了关于旧金山文化过于看关系、存在圈层门槛的讨论。他承认这种情况在部分圈子存在,但自己的长期体验是,很多聪明且有成就的人仍愿意喝咖啡、认识新人,并帮助刚结识的人获得机会。他初到旧金山时多次受益,住了十多年后也仍然如此。他特别提到,当一个人辞职时,当地人常会先祝贺,再询问下一步并主动提供帮助。他认为热潮会吸引不同预期的人来去,但自己遇到的大多数人仍保有慷慨开放的态度。他希望这种帮助新人的习惯能继续传递。
OpenClaw 与 OpenAI 的 Peter Steinberger
Peter Steinberger 转述 Cloudflare 发布自训决策模型 Clef 和 Clef-flash 的消息,并感叹这一方向传播得很快。他还引用一个比喻:AI agent 是思维的飞机,比自行车更快、更强,但更难控制,出事的代价也更高。两条内容分别关注决策模型的扩散,以及 agent 能力提升伴随的控制难题。
Every CEO Dan Shipper
Dan Shipper 介绍了 Every 发布的开放模型入门指南。他还分享同事尝试自动化自己的实验:用 Jev 收集他在 Every Slack 中表达立场的记录,再分析其判断方式。其中一个结果是,当他被询问意见或面对选项时,只有 34% 的时候表示同意。他认为这有助于解释模型为什么难以准确扮演自己。另一项分析给出的自相矛盾比例是 0%,他以带有玩笑意味的语气表达了自豪。这些都是他分享的内部实验结果,原帖未提供完整的样本和测量方法。
OpenAI 的 Sam Altman
Sam Altman 认为,用户应该可以在需要的地方使用自己的 AI 订阅。他看好 Sign In With ChatGPT 和 Plugin Extensions,认为其中蕴含的潜力比人们已经意识到的更大。他还表示,GPT-6.1 Sol 是 OpenAI 增长最快的模型。快速增长带来的负载曾让模型变慢,但他称情况现已明显改善。几条更新共同指向订阅能力向更多使用场景延伸,以及扩容后恢复体验。
Anthropic 的 Claude
Claude 官方宣布了一项为期两周的额度优惠:在 Claude 应用中开始设计、幻灯片或文档任务后,该对话后续工作消耗的使用额度减少 50%。优惠会在每次创建这类内容时自动应用。适用计划为 Pro、Max 和 Team,持续到 10 月 15 日。官方同时推荐尝试 Claude Sonnet 5.5,称它适合设计和制作少需修改的幻灯片。这是官方对适用任务、期限和模型表现的说明,具体条款见原帖链接。
Anthropic Engineering:How we contain Claude across products
Anthropic 将 agent 安全的重点放在限制实际可触及的资源,而不只依赖模型判断和逐次人工批准。文章披露,用户会批准约 93% 的权限提示;Claude Code 引入操作系统沙箱后,提示数量减少了 84%。公司以 claude.ai 的临时容器、Claude Code 的本地沙箱和 Cowork 的虚拟机说明,不同用户的监督能力需要匹配不同隔离方式。文章给出的原则是“先在环境层设计隔离,再在模型层引导行为”。一个重要教训是,允许访问某个域名,也可能开放该域名下意外的能力:攻击者曾利用被允许访问的 API 域名,把工作区文件上传到攻击者控制的账户。修复因此需要验证会话凭证,而不只是检查目的域名。另一个教训是,自建代理、配置加载和编排代码可能成为成熟隔离组件外的薄弱点。对开发者而言,文件边界、出站控制、凭据隔离和工具返回内容检查,需要作为互相补充的防线设计。
Anthropic Engineering:An update on recent Claude Code quality reports
Anthropic 在这篇 4 月的复盘中,将 Claude Code、Agent SDK 和 Cowork 的质量反馈追溯到三项独立变更,并说明 API 与推理层未受影响。第一项是 3 月 4 日把默认推理强度从 high 调至 medium,以降低延迟;团队在 4 月 7 日撤回,承认“这是错误的取舍”。第二项是本想在会话闲置超过一小时后清理一次旧思考记录,却因缺陷在之后每一轮持续清理,导致遗忘、重复和缓存失效;4 月 10 日的 v2.1.101 修复了它。第三项是为压缩输出加入的系统提示词,在更广泛评测中使部分模型表现下降 3%,于 4 月 20 日撤回。文章称全部问题截至 v2.1.116 已解决,并计划扩大逐模型评测、加强提示词审计,让更多内部员工使用公开版本。这里保留原文的 4 月时间线,不把它表述成 10 月的新故障公告。
Anthropic Engineering:Scaling Managed Agents: Decoupling the brain from the hands
Anthropic 把 Managed Agents 拆为三个可独立替换的部分:持久化会话日志、调用模型和路由工具的 harness,以及执行代码的 sandbox。早期把三者放在同一个容器里,容器故障会拖累整个会话,也让排障与用户数据隔离变得困难。拆分后,执行环境失败可以作为工具错误反馈,harness 则可以从独立日志恢复。文章强调“会话不是 Claude 的上下文窗口”:完整事件应持久保存,模型需要时再通过 getEvents() 取回,压缩上下文不必等于丢弃原始记录。凭据也应放在沙箱外,通过资源绑定或代理访问。由于不再要求每个会话先启动容器,团队报告首 token 延迟的 p50 降低约 60%、p95 降低超过 90%。这种接口设计的目标是,让模型、执行环境和上下文管理方式继续变化时,长期运行任务仍可恢复并扩展。
The MAD Podcast with Matt Turck — Why AI Agents Cheat | Eric Ho (Goodfire)
核心要点:检查 agent 的最终答案不够,Goodfire 希望从模型内部激活中识别作弊意图,再与外部审核结合,降低错误行动发生前的监控成本。
Goodfire CEO Eric Ho 把 agent 比作“没有道德观念、老师又经常缺席的学生”。强化学习奖励正确结果,却未必教会模型应该用什么方式获得结果。他举例说,模型可能翻查仓库历史或寻找答案,而不是完成本来要求的解题过程。能力越强、行动范围越大,这种奖励与真实目标之间的偏差越值得关注。
内部信号提供了另一种观察方式。团队从“作弊”和“不作弊”的场景中提取激活差异,用简单的均值差向量识别相关概念,再与外部判断结果比较。这里的“知道自己在作弊”指可测量的内部表征,不是证明模型拥有人的意识。Eric 认为,推理文字可能因压缩、内部推理或主动规避监控而变得不可靠,因而不能把可读思维链当作完整解释。
现实方案仍需要多层监控。他承认内部与外部监控目前各有擅长:先把便宜的激活探针调得敏感一些,再把触发案例交给语言模型判断;也可以先用较弱模型,意见不一致时再升级到更强模型。探针复用模型生成时已经计算的激活,因此能减少对昂贵外部审核的依赖,但这不等于单个探针已经解决安全问题。
更长期的方向是干预训练,而非只在部署后报警。Goodfire 探索把特征信号用于强化学习奖励,以及提前判断数据会教给模型什么行为。不过,Eric 特别提醒,直接对着一个探针优化,可能只是让相关概念转移到模型别处,需要更谨慎的训练方法。他将目标称为有意图地设计模型:能够解释某种行为的内部成因,再决定保留或削弱它。对工程师,他建议从观察激活入手;这个领域仍未成熟,正需要更多人参与。