何时打开:你要判断"AGI 啥时候来 / Scaling Law 边际递减不递减 / Software 3.0 自然语言编程是不是未来 / 该不该信 2027 AGI"。本 wiki 把 4 派(Karpathy / Aschenbrenner / 国内三派之争 / 王凯+Embiricos)在 AGI 主题上的视角融合。
一句话核心:所有派都同意 LLM = OS / Software 3.0(自然语言编程),但 AGI 时间表分歧 3-15 年差距。Aschenbrenner 押 2027,李开复押"Scaling Law 已变慢",朱啸虎押"可控核聚变之前不信 AGI",Karpathy 押"Agentic Decade 2025-2035",Embiricos 押"AGI 瓶颈 = 人类打字速度而非算力"。
0. 4 派"AGI"立场
| 视角 | 来源 | 立场 | 时间预判 |
|---|---|---|---|
| 暴力美学派 | 王凯 收藏 / 2024-2026 AI 前沿论文与报告精读 §一 Aschenbrenner | "AGI by 2027 is strikingly plausible" | 2027 |
| Software 3.0 派 | Karpathy · Software in the era of AI(Software 3.0)(Karpathy 2025-06) | "Agentic Decade 缓慢 10 年演进" | 2032-2035 成熟 |
| 国内三派之争 | newtype AI 商业、行业与投资观察 §3 | 朱啸虎 / Cohere Aidan / 李开复 | 2030+ / 看可控核聚变 |
| 打字速度瓶颈派 | Lenny's Newsletter / 2026 AI 时代组织运营三人谈(Anthropic + OpenAI) Embiricos | "AGI 瓶颈 = 人类打字速度,不是 GPU 算力" | 几年后 |
1. 跨作者共识(5 条)
1.1 LLM = OS(Karpathy + 老黄共识)
Karpathy · Software in the era of AI(Software 3.0) §2.1:LLM = 新型操作系统:
| 1960s 主机时代 | 今天的 LLM 时代 |
|---|---|
| Unix / Multics 等 OS | GPT-5 / Claude 4.5 / Gemini / Grok |
| 集中式大型机 | 远程 API / 数据中心推理 |
| 通过电报机分时访问 | 通过 ChatGPT 网页 / API 访问 |
| 个人电脑(70 年代末)还没来 | "个人 LLM 革命"几年内会来 |
| 闭源 IBM / 开源 Linux | 闭源 OpenAI / 开源 Llama, Mistral |
老黄 2024-05 帖 227 印证:
- 内存管理 = 上下文窗口
- 文件系统 = 对话历史 + 知识库
- 驱动程序 = Function Call
- 用户界面 = 自然语言交互(替代 CLI / GUI)
1.2 Software 1.0 / 2.0 / 3.0 三段论
Karpathy · Software in the era of AI(Software 3.0) §1 核心:
| 范式 | 写程序的方式 | 编写者 | GitHub 类比 | 现状 |
|---|---|---|---|---|
| Software 1.0 | 写代码(C / Python / ...) | 程序员 | github.com | 70 年传统范式 |
| Software 2.0 | 调神经网络权重(写数据集 → 优化器跑出权重) | ML 工程师 | Hugging Face(权重的 GitHub) | 2017-2022 主导 |
| Software 3.0 | 写自然语言提示词,LLM 直接执行 | 任何人 | (尚无统一仓库,Prompts as code) | 2023- 主导,5 年内全栈渗透 |
3 个并存:今天的软件工程师必须熟练在三者之间切换,知道每个范式各自的优点和缺点,以及何时使用哪种。
Karpathy 自己的经历:特斯拉自动驾驶把 1.0 代码(车道线检测、信号灯识别)逐步替换成 2.0 神经网络;现在 3.0 时代,连 stitching(把 2.0 输出粘起来)都开始被自然语言提示词替代。
1.3 LLM 心理学:类人但有"认知缺陷"
Karpathy · Software in the era of AI(Software 3.0) §3:
| 类人特征 | 缺陷 |
|---|---|
| 有百科知识,海量 token 训过的"博学者" | 幻觉:无 ground truth 时编故事还自信 |
| 有上下文理解、推理、写代码 | 无长期记忆:刚说过的事,跨 session 全忘 |
| 能多模态对话、扮演角色 | 算术 / 计数 / 几何空间感知:经常错 |
| 能整理 / 总结 / 翻译 | 顺从性偏见(sycophancy):用户说啥它都附和 |
| 能执行 step-by-step 推理 | 知识截止后的世界完全不知道 |
Karpathy 给开发者的建议:
- 不要把 LLM 当成"绝对可靠的程序":它是"博学但精神有点不稳定的实习生"
- ground truth、计数、几何、严格逻辑这些 1.0 代码能搞定的事,还是用 1.0 搞
- 提示词不是命令,是"对实习生交代任务"——上下文越足、要求越具体,完成度越高
- 不要相信单次输出。用 evals + 自动复核机制
1.4 Iron Man Suit 4 原则(半自主产品共识)
Karpathy · Software in the era of AI(Software 3.0) §4.3 Karpathy 总结 LLM App 4 原则:
- 上下文管理:不要把所有信息塞进 prompt;让用户决定要塞什么、什么时候塞、塞到什么深度
- 多 LLM 编排:用便宜模型做 first pass,贵模型做 verify;用工具型模型做检索,用推理型模型做规划
- GUI ≠ chat box:不要让用户用聊天框做所有事;做出 GUI,把"自主性"做成可视化滑动条(像 Photoshop 的图层透明度)
- 快速验证循环:UI 必须让用户能在 5 秒内判断 LLM 的输出对不对;时间越长,产品越死
Iron Man Suit vs Robot 类比:
| 维度 | 全人工 | 半自主(Iron Man Suit) | 全 Agent(Robot) |
|---|---|---|---|
| 决策权 | 100% 用户 | 用户大方向 + LLM 细节执行 | 100% LLM |
| 信任要求 | 0 | 中等 | 极高 |
| 当前可行 | 是 | 是 | 否 |
| Karpathy 推荐 | ❌ 浪费 LLM | ✅ 黄金区域 | ❌ Demo 跑得动,产品化死 |
Embiricos 印证(Lenny's Newsletter / 2026 AI 时代组织运营三人谈(Anthropic + OpenAI)):Mixed-Initiative(混合主动)—— Tesla 自驾是 mixed-initiative software 的好例子,赋能人类同时提供辅助。Codex 设计也朝同样方向。
1.5 Vibe Coding = 软件已转向自然语言编程
Karpathy · Software in the era of AI(Software 3.0) §1 + newtype · AI Coding 实战与工具栈演化 §9:
"你不需要'会写代码'才能创业。学会用自然语言精确表达需求 + 调优提示词,就能让 LLM 写代码、给你交付软件。"
但1.0 没有死。关键判断:何处用哪个:
- 性能瓶颈、确定性、安全性高的部分 → 1.0
- 模糊需求、自然语言交互的部分 → 3.0
- 大量训练数据但无法显式建模的部分 → 2.0
详见 AI Coding 工具栈演化(跨作者主题综合) + Vibe Coding 与独立开发(跨作者主题综合)。
2. 显式分歧(3 条 —— 不抹平)
2.1 分歧 1:AGI 时间表(2027 vs 2030+ vs 2035)
| 视角 | 时间预判 | 关键论据 |
|---|---|---|
| Aschenbrenner(2024-06 / 165 页) | AGI by 2027 strikingly plausible | GPT-2→GPT-4 = 学前儿童→聪明高中生 4 年。compute 0.5 OOM/year + 算法效率 0.5 OOM/year + unhobbling = 2024→2027 再来 4-5 OOMs |
| 王凯(暴力美学派) | AGI 2035 前 | 偏 Aschenbrenner / 站在 AGI 视角看当下 / "假设 2035-01-01 AGI 到达" |
| Karpathy(2025-06) | Agentic Decade 2025-2035 | "不要被'Agent 元年'忽悠 / Agent 不是 2025 元年,是未来 10 年缓慢演进 / 2032-2035 成熟期" |
| 李开复(2025-01) | Scaling Law 在变慢 | "只有大厂能继续做超级大模型 / 2025 加速商业化也加速淘汰" |
| 朱啸虎(2024-03) | 可控核聚变实现前,不相信 AGI | "OpenAI 技术迭代曲线还比较陡峭 / 开源比非开源落后一年" |
| Cohere Aidan(2024-10) | 通用 + 垂直并存 | "Scaling Law 依然成立,并在相当长时期内有效。但大多数公司业务还撑不起 GPT-4 级别的部署成本" |
| Embiricos(2026-05 OpenAI) | 几年后,大公司跟进 | "明年(2026)— 早期 adopter 看到 agent self-sufficient。达到 AGI = 生产力增长 feedback 到 AI labs 时" |
Aschenbrenner 引言(2024-06):
"By 2025/26, these machines will outpace college graduates. By the end of the decade, they will be smarter than you or I; we will have superintelligence, in the true sense of the word."
"Hundreds of millions of AGIs could automate AI research, compressing a decade of algorithmic progress (5+ OOMs) into 1 year."
反对意见:Yann LeCun / Gary Marcus 批为 线性外推谬误 —— OOMs scaling 假设可能在数据 / 算法 / 物理上撞墙。
真分歧:赌时间窗口的根本差异:
- 2027 派 → 押"Intelligence Explosion / fast takeoff"
- 2030+ 派 → 押"Scaling Law 边际递减"
- 2035 派 → 押"Agentic Decade 10 年缓慢演进"
- "永远不来"派 → 押"可控核聚变 / 物理极限"
2.2 分歧 2:AGI 真正的瓶颈是什么?
| 视角 | 立场 |
|---|---|
| Aschenbrenner | 算力 + 算法效率(OOMs counting)/ trillion-dollar cluster |
| 李开复 | Scaling Law 边际递减(够小、够快、够便宜、够厉害) |
| Embiricos(OpenAI Codex) | 人类打字速度 + 多任务管理速度(不是 GPU 算力!) |
| Karpathy | 从 Demo 到产品(在 LLM 时代不是 10x 难度,是 1000x 难度) |
| 老黄综合 | 模型在吃应用,LLM = 完整应用 |
Embiricos 原话:
"The current underappreciated limiting factor is literally human typing speed or human multitasking speed."
译:当前被严重低估的限制因素,就是人的打字速度、或者人的多任务处理速度。
人类需要:
- 写 prompt
- 手动验证 AI 工作(code review)
- 多任务管理
展望:达到 AGI = 当生产力增长 feedback 到 AI labs 时(生产力增长反馈回 AI 实验室时,触发递归加速)。
2.3 分歧 3:Software 3.0 是否已经普及?
| 视角 | 立场 |
|---|---|
| Karpathy | 3.0 主导,5 年内全栈渗透 —— "你不需要会写代码才能创业" |
| 老黄实战(newtype · AI Coding 实战与工具栈演化 §10) | 必须有编程思维,不必有编程经验 —— "不要相信那些 UP 主说零基础也可以开发" |
| 王凯实战(王凯 AI Coding 实操：从 Cursor 到 Claude Code 终端工作流) | 2026 起 token 消耗百倍 —— Claude Code 终端为主,浏览器只看信息 |
| 小红书 vibecoding 实战 | 0-80 vs 80-100 生死线 —— 80→100 才是产品真正可用 |
| Vibe Coding 清洗预言(老黄) | AI 编写的代码里可能有很多隐藏的坑 —— 体量小没事,复杂后爆炸 |
真分歧:Software 3.0 是不是已经"端到端可用":
- Karpathy 立场:自然语言编程已主导,1.0 没死但 3.0 占主流
- 实战派立场:3.0 让 0→80 快,但 80→100 还要 1.0 + 编程思维
3. Aschenbrenner Situational Awareness 详解(独家)
王凯 收藏 / 2024-2026 AI 前沿论文与报告精读 §一:
3.1 5 大章节核心论断
| Chapter | 核心 |
|---|---|
| I. Counting the OOMs | GPT-2→GPT-4 = 学前儿童→聪明高中生 4 年。2024→2027 再来 4-5 OOMs = 同等跳跃 |
| II. Intelligence Explosion | 数亿 AGI 自动化 AI 研究,把 10 年算法进步压缩到 1 年(5+ OOMs in 1 year)。人类级 → 超人级会发生在 1 年内 |
| IIIa. Trillion-Dollar Cluster | $10B → $100B → $1T compute clusters / 美国电力产量本十年末增加几十个百分点 |
| IIIb. Lock Down the Labs | 美国 AI 实验室安全是个笑话 / 正在把 AGI 关键秘密免费送给 CCP |
| IIIc. Superalignment | 控制比我们聪明得多的 AI 是未解的技术问题 |
| IIId. The Free World Must Prevail | 超智能 = 决定性经济军事优势 |
| IV. The Project | 2027/2028 会有某种政府 AGI 项目 / "in a SCIF, the endgame will be on" |
3.2 王凯应用
反复在帖子中被引用作为"AGI 视角看当下"的源头:
- 王凯 AI 时代决策系统 "站在 AGI 视角看当下" —— 直接来自这份论文的思维方式
- 王凯 AI 行业判断与大公司竞争格局观察 "三个 Scaling Law 之争" —— 对应论文 "counting the OOMs"
- 王凯 RSI AI 投资策略与"好资产 好价格 好波动"框架 "拷问 Claude AI 时代价值" —— 用 Aschenbrenner 时间表作为压力测试
3.3 关键句子(原文)
"By 2025/26, these machines will outpace college graduates."
"Hundreds of millions of AGIs could automate AI research, compressing a decade of algorithmic progress (5+ OOMs) into 1 year."
"The most extraordinary techno-capital acceleration has been set in motion."
4. Karpathy Agentic Decade(2025-2035)详解
Karpathy · Software in the era of AI(Software 3.0) §5:
4.1 时间预判
2025 — "打孔卡时代" —— 你能做 Demo,但跑不动复杂任务
2026-2028 — "小型机时代" —— 专业 Agent 在窄场景跑得动(代码、客服、合规)
2028-2032 — "PC 时代" —— 多 Agent 编排成熟,大量企业 deploy
2032-2035 — "成熟期" —— Agent 跟当年的 SaaS 一样普及
含义:不要把全部时间和钱压在"2025 一定要做出 AGI Agent",会撞墙。
对应:做半自主产品(suit),让你的产品在每个阶段都受益,而不是赌"完全自主的那一天"。
4.2 不要做"Agent Demo 上瘾者"
Karpathy 在 OpenAI 内部反复看到:
- 团队做出一个 Agent Demo
- 在 Twitter / 内部演示 hyped 起来
- 但落地到产品 1000x 难度
- 最后悄悄死掉
反例:Devin / AutoGPT / GPT Researcher 这些 Demo 火爆但实际产品没人付费 —— 因为承诺了"全自动",但全自动的鲁棒性极差。
5. 老黄 Scaling Law 三派之争详解
5.1 朱啸虎(2024-03 / 现实主义)
"现在 OpenAI 技术迭代曲线还比较陡峭,开源肯定比非开源落后一年甚至一年半。但等非开源技术迭代曲线缓慢下来,开源会上去的。"
核心判断:
- 大模型已经价格战(2023 年初千万部署 → 6 月五百万 → 年底一百万都不要)
- Midjourney 守不住,因为 to C 太低频
- 可控核聚变实现前,不相信地球能真正 AGI
5.2 Cohere CEO Aidan Gomez(2024-10 / 务实派)
"Scaling Law 依然成立,并在相当长时期内有效。但现实是,大多数公司业务还撑不起 GPT-4 级别的部署成本。"
接下来很长时间趋势 = 通用 + 垂直并存:
- 先用通用大模型做原型设计
- 跑通了再做垂直微调
5.3 李开复(2025-01 / 进化派)
"1. Scaling Law 在变慢。 2. 只有大厂能继续做超级大模型,创业公司成功概率极低。 3. AI 应用需要的模型是够小、够快、够便宜、够厉害,不一定最大最通用。 4. 超级大模型(如 Claude 3.5 Opus)如做不到便宜可以不发布,留在内部作为'老师'带'学生'。 5. 2025 AI 加速商业化也加速淘汰。"
金句:"机会来临时,要勇敢做决策,机会消失时也是。"
5.4 老黄综合判断(2025-03-27)
"国内不少人认为,即使模型不行,也还可以拼应用。但现在的情况是,模型正在进化成一个完整的应用,吃掉各种垂直赛道和传统岗位。"
→ 模型 = 应用,不是分开的。这是 LLM = OS 的进一步延伸。
6. 模型演化时间线印证(老黄 newtype-model-bench)
newtype 模型评测、微调与硬件演化 —— 505 帖 2024-2026 完整时间线:
2024-04 Cohere Command R+
↓
2024-05 GPT-4o + Claude 3.5 Sonnet
↓
2024-07 OpenAI AGI 5 等级(行业标准)
↓
2024-09 OpenAI o1(慢思考)
↓
2024-11 Mac mini M4 集群跑 Qwen 32B 18 tok/s
↓
2025-01 DeepSeek R1 APP(国民级)
↓
2025-03 Gemini 2.5 Pro
↓
2025-05 Claude 4(SWE-bench 72.5%)
↓
2025-08 GPT-5 + Claude Code Sub-agents
↓
2025-10 Anthropic Claude Skills
↓
2025-11 Kimi K2 Thinking + Gemini 3 Pro + Claude Opus 4.5
↓
2025-12 GPT-5.2(首次达到人类专家水平)
↓
2026-01 OpenCode 黑卡 $200 + Anthropic Cowork + NVDA 收 Groq $200 亿
↓
2026-04 Anthropic 要身份验证 + GitHub 暂停 Copilot 注册(算力扛不住信号)
↓
2026-05 Claude Opus 4.7
关键节点对照 Aschenbrenner OOMs:
- 2024→2026 已发生 ~2 OOMs(compute + 算法效率)
- 2026→2027 还需 2-3 OOMs 才到 Aschenbrenner 预测的 AGI
- 当前实际节奏 快于 Aschenbrenner 中性预测(LeCun 派批评者已被部分打脸)
7. Foundation Models 学术基础(老黄独家)
Foundation Models for NLP(Springer 教科书精读) —— Springer 开放教材 436 页(Paaß + Giesselbach 2023-02 arXiv:2302.08575):
8 章结构:
- Ch1 经典 NLP 基础
- Ch2 三大 PLM 架构(BERT / GPT / Transformer)+ 训练 / 正则 / 不确定性 / 可解释性
- Ch3 改进 6 大方向(RoBERTa / ELECTRA / T5 / PaLM / MoE / few-shot / CoT)
- Ch4 GLUE / SuperGLUE / BIG-bench
- Ch5 IE 信息抽取
- Ch6 文本生成(QA / 翻译 / 摘要 / 对话 LaMDA)
- Ch7 多模态(ViT / DALL-E 2 / NÜWA / GATO / DNABERT)
- Ch8 5 大危害 + Grounding + Fast/Slow Thinking + Planning
Why 学术基础重要:
- 反复读会知道"GPT 不是凭空出现"
- BERT vs GPT 架构差异决定了能力边界
- MoE / CoT / few-shot 是 Scaling Law 之外的算法进步
8. 怎么选 —— 按身份的 AGI 视角路径
| 你是谁 | 主用方法 | 起点 |
|---|---|---|
| 投资人 / 关注估值 | Aschenbrenner 2027 + 王凯 AGI 视角 | Situational Awareness 165 页 / 站在 2035 回看 / 不做主流做配套 |
| AI 创业者 | Karpathy Agentic Decade + Iron Man Suit | 不做 Robot 做 Suit / 4 原则(上下文 + 编排 + GUI + 验证) |
| 产品经理 | Karpathy LLM 心理学 + Embiricos | 把 LLM 当"博学不稳定实习生" / Mixed-Initiative 设计 |
| 想理解 Scaling Law | 老黄三派之争 | 朱啸虎 vs Cohere vs 李开复对照读 |
| 想理解 Software 3.0 | Karpathy 三段论 + 老黄 LLM=OS | 1.0/2.0/3.0 切换 / 何处用哪个 |
| 想看模型演化时间线 | newtype-model-bench 505 帖 | 2024-2026 完整拐点 |
| 学术基础 | Foundation Models 436 页 | BERT/GPT/Transformer + MoE + CoT + few-shot |
通用纪律(任何身份):
- 不要把 LLM 当绝对可靠程序(Karpathy LLM 心理学)
- 不要做 Agent Demo 上瘾者(Karpathy)
- 做 Suit 而非 Robot(Iron Man 4 原则)
- 5 秒内验证输出(快速验证循环)
- 站在 AGI 视角看当下(王凯 / 不做主流做配套)
- 关注模型 / 算法 / unhobbling 三种 OOMs(Aschenbrenner)
- 可控核聚变前的 AGI 仍然可能(反朱啸虎的 hedge)
9. 引用清单
主要原始 author wiki:
- Karpathy · Software in the era of AI(Software 3.0) —— Karpathy 2025-06 演讲完整中文 / Software 1.0/2.0/3.0 / LLM=OS/Utility/Fab / Iron Man Suit / Agentic Decade
- 王凯 收藏 / 2024-2026 AI 前沿论文与报告精读 §一 —— Aschenbrenner Situational Awareness 165 页 / AGI by 2027 / OOMs / Trillion-dollar cluster
- newtype AI 商业、行业与投资观察 §3 —— Scaling Law 三派之争(朱啸虎 / Cohere / 李开复)+ 老黄综合
- newtype 模型评测、微调与硬件演化 —— 505 帖 2024-2026 模型演化时间线
- Foundation Models for NLP(Springer 教科书精读) —— Foundation Models for NLP 436 页学术基础
- 王凯 AI 行业判断与大公司竞争格局观察 §5 —— 王凯三派立场 / 偏暴力美学派 / AGI 2035 前
- 王凯 RSI AI 投资策略与"好资产 好价格 好波动"框架 —— 站在 AGI 视角看当下 / 拷问 Claude AI 时代价值
- Lenny's Newsletter / 2026 AI 时代组织运营三人谈(Anthropic + OpenAI) Embiricos —— AGI 瓶颈 = 人类打字速度 / Mixed-Initiative / 生产力 feedback 触发递归加速
相关主题 wiki(本系列):
- AI 行业判断与公司竞争(跨作者主题综合) —— AI 行业判断(Batch 2)
- AI 投资与估值(跨作者主题综合) —— AI 投资估值(本批 Batch 4)
- AI Coding 工具栈演化(跨作者主题综合) —— AI Coding 工具栈(Batch 2)
- AI Agent 架构与多 Agent 编排(跨作者主题综合) —— Agent 架构(Batch 2)
History
- 2026-05-18:Topic-dimension wiki 首发。从 8 份 author wiki 综合改写。显式标注 3 条分歧:AGI 时间表(2027 vs 2035)/ 真正瓶颈 / Software 3.0 是否已普及
来源与关联资料
- Karpathy · Software in the era of AI(Software 3.0)
- newtype AI 商业、行业与投资观察
- newtype 模型评测、微调与硬件演化
- Foundation Models for NLP(Springer 教科书精读)
- 王凯 收藏 / 2024-2026 AI 前沿论文与报告精读
- 王凯 AI 行业判断与大公司竞争格局观察
- 王凯 RSI AI 投资策略与"好资产 好价格 好波动"框架
- Lenny's Newsletter / 2026 AI 时代组织运营三人谈(Anthropic + OpenAI)
- AI 行业判断与公司竞争(跨作者主题综合)
- AI 投资与估值(跨作者主题综合)
- AI Agent 架构与多 Agent 编排(跨作者主题综合)
- Claude Code 工作流(跨作者主题综合)