构建信号SIGNAL TO BUILDEnglish站主登录 ↗
← 知识整理
AI 技术与工程 ／ 知识整理 · 中文

AI Agent 技术架构演进 2025(深度研究报告)

2026-01 newtype 整理的 AI Agent 技术架构演进研究报告。基于 2024-10 至 2026-01 的论文 + Anthropic/OpenAI/Google/Microsoft 官方博客 + 开源项目 + 真实部署案例。涵盖 6 大演进 / 4 种多 Agent 编排模式 / Google 8 大基础模式 / 记忆管理(MemoryOS 3 层 + 向量库选型)/ 工具调用 + MCP 标准化 / 推理框架(ReAct → ToT → GoT → WoT 演进)/ 推理模型 LRM / 生产 7 层架构 / 主流框架对比(LangGraph/CrewAI/MAF/AutoGen/LlamaIndex/ADK)/ Morgan Stanley + Klarna + BBVA + Rakuten 真实部署案例 / 2026 趋势预判 / 合规与治理 / 生产清单。是 [[newtype-agent-architecture]](黄益贺帖子级判断)的"研究报告级"补充。

资料来源：Newtype · 本站发布：2026-09-26 · 笔记更新：2026-05-16

AI 工程Agent 工作流模型与评测

何时打开:你要做 Agent 产品、给老板讲"Agent 这赛道值不值",或者写技术方案找 reference。本 wiki 不是"帖子萃取",是 newtype 整理的研究报告级别资料,基于 8 轮 Tavily+Exa 并行检索、覆盖 2024-10 至 2026-01。

跟 newtype · Agent 架构与多 Agent 编排 的区别:前者是黄益贺 2024-2026 帖子级别的判断;本 wiki 是 2026-01 时点完整的产业图景 —— 技术栈 + 框架对比 + 真实部署案例 + 趋势预判。两者互补而非替代。

一、Agent 6 大演进(2024-2025)

核心趋势:Agent 在 2025 年完成了从"实验性玩具"到"企业级基础设施"的跨越。

演进维度 2024 状态 2025 状态 关键事件
架构模式 单一 ReAct loop 4 大编排模式(Supervisor/P2P/Hierarchical/Event-Driven) 各大厂落地多 Agent
记忆系统 仅 session 内 跨 session 持久记忆(MemoryOS 3 层) MemoryOS 论文(2025-06)
工具调用 每家自定义协议 MCP 标准化 Anthropic 推 MCP(2024-11)
推理框架 ReAct 单一 ReAct → ToT → GoT → WoT 演进 GoT 论文(2023) + LRM 商用(2025)
生产部署 Demo 阶段 企业级部署(Morgan Stanley 98% 采用) LangGraph 1.0 / MAF 发布
协议生态 无标准 MCP + A2A 双协议并存 A2A 项目进 Linux Foundation

二、多 Agent 编排:4 种核心模式

Google ADK 团队总结了 4 种基础多 Agent 编排模式,被业界广泛采用。

2.1 Supervisor(监督者)

      ┌──────────┐
      │Supervisor│
      └────┬─────┘
       ┌───┼───┐
      ↓    ↓    ↓
    Agent1 Agent2 Agent3

特点:中心化决策,Supervisor 路由任务。 适用:任务边界清晰、Agent 专业化分工(客服 → 路由到 billing/技术支持/退款 Agent)。 实现:LangGraph、CrewAI 都默认支持。 问题:Supervisor 成瓶颈;高并发时延迟累积。

2.2 P2P Swarm(对等蜂群)

Agent1 ←──→ Agent2
   ↕    ╲╱    ↕
Agent3 ←──→ Agent4

特点:Agent 之间直接对话,无中心 Supervisor。 适用:协作型任务(多个 Agent 一起写一篇论文,各管一节,互相交叉评审)。 实现:OpenAI Swarm、AutoGen。 问题:难以预测和调试;容易出现死循环。

2.3 Hierarchical(层级)

        ┌─────┐
        │ CEO │
        └──┬──┘
     ┌─────┼─────┐
   ┌─VP─┐ ┌─VP─┐ ┌─VP─┐
  ┌┴┐ ┌┴┐ ┌┴┐ ┌┴┐
  Worker × N

特点:多层级 Supervisor + Worker。 适用:大型复杂任务(Devin 风格的 Engineering Agent,有 Architect / Coder / Reviewer 三层)。 实现:CrewAI、Microsoft Agent Framework。 问题:层级深 = 延迟累积;每一层都可能丢信息。

2.4 Event-Driven(事件驱动)

       ┌─────────┐
       │ Event   │
       │ Bus     │
       └────┬────┘
       ┌───┼───┐
       ↓   ↓   ↓
    Agent1 Agent2 Agent3
    (订阅 (订阅 (订阅
    EventA) EventB) EventA+C)

特点:Agent 订阅事件,触发后异步处理。 适用:实时系统(交易、监控、告警)。 实现:Kafka + Agent / Temporal + Agent。 问题:状态管理复杂;事件顺序不可控。

2.5 Google ADK 的 8 大基础编排模式

Google ADK 在上述 4 种基础上,推荐 8 种实战模式:

  1. Sequential(顺序流水线)
  2. Parallel(并行汇总)
  3. Loop(循环迭代直到达标)
  4. Router(基于内容路由)
  5. Fork-Join(分发-汇总)
  6. Map-Reduce(大数据分块处理)
  7. Reflexion(自反思自纠正)
  8. Hierarchical Plan-Execute(规划-执行分离)

三、记忆管理:MemoryOS 3 层架构

2025 年最关键的论文之一:MemoryOS(arXiv:2506.06326)提出 Agent 应当有 3 层记忆系统。

3.1 三层架构

层级 全称 类比人脑 存储介质 生命周期
STM Short-Term Memory(短期记忆) 工作记忆 内存 / context window 当前 session
MTM Mid-Term Memory(中期记忆) 海马体 Redis / 关系数据库 数天-数周
LPM Long-term Personal Memory 大脑皮层 向量数据库 + KV 永久

3.2 信息流转

新信息进入 → STM
   ↓ (session 结束 / 重要性高)
重要的进入 MTM(结构化存储)
   ↓ (跨 session 验证 / 长期价值)
持久化的进入 LPM(向量化 + index)

3.3 关键设计原则

  • 不是所有信息都进 LPM —— 用 LLM 自动判断重要性,只持久化关键事实
  • 遗忘是特性 —— STM 自动 decay,MTM 周期清理,LPM 只保留用户验证过的
  • 可解释性 —— Agent 能告诉用户"我记得 X 是因为你上次说 Y"

3.4 向量数据库选型对照

向量库 优势 适用场景
Pinecone 托管、稳定、Filter 强 企业生产
Weaviate 多模态、自带 GraphQL 复杂查询
Qdrant Rust 写,本地部署强 私有部署
Chroma 简单、上手快 原型 / 小项目
Milvus 大规模(10B+ 向量) 大数据
pgvector(Postgres 插件) 跟现有 PG 集成 已有 PG 基础设施

选型决策树:

  • 千万级 + 已有 PG → pgvector
  • 千万级 + 新建 → Pinecone(托管省心)/ Qdrant(本地)
  • 亿级 → Milvus(分布式)
  • 多模态 → Weaviate
  • 原型 → Chroma

3.5 Mem0:简化版的 Memory 框架

Mem0(arXiv:2504.19413)是 MemoryOS 思路的开源实现,2025 年快速崛起:

  • 单 API:mem0.add() / mem0.search() / mem0.update()
  • 自动用 LLM 提取事实、去重、合并冲突
  • 跟 LangGraph / CrewAI / OpenAI / Anthropic 即插即用

四、工具调用与 MCP 标准化

2024-11 Anthropic 推出 MCP(Model Context Protocol),2025 年成为事实标准。

4.1 MCP 解决的核心问题

之前:每家 LLM 厂商有自己的 function calling 格式;每个工具都要为不同 LLM 写 N 个适配。 MCP 之后:工具只用 MCP 一种格式实现,所有支持 MCP 的 LLM 都能调用。N × M 适配变成 N + M。

4.2 MCP 生态(截至 2026-01)

类别 数量 / 状态
官方 MCP servers 50+(GitHub、Slack、Notion、Postgres、Filesystem、...)
社区 MCP servers 1000+
支持 MCP 的客户端 Claude Desktop、Claude Code、Cursor、Continue、Zed、...
不支持(但有适配) OpenAI、Google Gemini(通过 mcp-bridge)

4.3 MCP vs 传统 Function Calling

维度 Function Calling MCP
协议 各家自定义 统一(JSON-RPC)
工具描述 LLM-specific schema 通用 Tool schema
双向通信 单向(LLM → tool) 双向(server 可主动 push 资源)
资源 只支持工具调用 工具 + 资源(Resources)+ 提示模板(Prompts)
跨进程 直接函数调用 stdio / SSE / WebSocket

4.4 ReAct + Tool Routing

ReAct(Reasoning + Acting)是基础工具调用循环:

while not done:
    thought = LLM.think(context)
    action = LLM.choose_tool(thought)
    observation = tool.execute(action)
    context.append(thought, action, observation)

Tool Routing(2025 优化):工具太多时,先用便宜模型从 100 个工具里选 top-5,再用贵模型推理:

  • 减少 prompt token(只塞 5 个 tool description,不塞 100 个)
  • 提高精度(贵模型在小集合里选准)
  • 降低成本(便宜模型做路由)

五、推理框架演进:ReAct → ToT → GoT → WoT

2022-2025 推理范式经历 4 代演进。

5.1 ReAct(2022)

Reasoning + Acting 交替:

Thought1 → Action1 → Observation1 → Thought2 → ...

优点:简单,工具调用透明。 缺点:单线推理,无回溯。

5.2 Tree of Thoughts(2023)

多分支推理 + 评估:

Thought_root
   ├─ Branch1 (score: 0.7)
   ├─ Branch2 (score: 0.9) ← 选这条
   └─ Branch3 (score: 0.5)
       └─ ...

优点:可以试多条路、选最优。 缺点:计算成本高(N 倍 token)。

5.3 Graph of Thoughts(2023)

有向无环图,可合并分支:

A ─→ B ─→ D
 ╲       ╱
  C ────╯

优点:复杂问题可以"重用中间结果"。 缺点:实现复杂,debug 难。

5.4 Workflow of Thought(2025)

显式工作流定义 + LLM 填空:

workflow:
  - step: gather_requirements
    agent: PM
  - step: design_architecture
    agent: Architect
    depends_on: gather_requirements
  - step: implement
    agent: Coder
    parallel: true
    branches: [frontend, backend, db]
  - step: review
    agent: Reviewer

优点:可预测、可监控、可重试单步。 缺点:灵活性降低(类似 Airflow 但比 Airflow 灵活)。

5.5 哪种用在哪

场景 推荐
简单工具调用 ReAct
数学 / 逻辑题 ToT(GPT-4 / Claude 内置)
复杂规划(代码生成) GoT
企业流程(审批、SOP) WoT

六、推理模型(LRM)兴起

2024-2025 LLM → LRM(Large Reasoning Model)演化:

  • OpenAI o1(2024-09)→ o3(2025-Q1)
  • DeepSeek R1(2025-01)
  • Anthropic Claude 4 Opus / Sonnet 4.6 with extended thinking
  • Google Gemini 2.5 Deep Think
  • xAI Grok 4 Heavy

LRM 跟 LLM 的差异:

  • 训练时引入"chain of thought"作为强化学习信号
  • 推理时显式输出 thinking tokens(内部"草稿纸")
  • 对复杂问题(数学、代码、规划)精度大幅提升
  • 但简单问题 ROI 不高(20x 算力换 5% 精度)

对 Agent 的影响:

  • 复杂 Agent 任务用 LRM(规划、调试)
  • 简单 Agent 任务用普通 LLM(工具调用、查询)
  • 混合架构(混编):Planner 用 LRM,Executor 用普通 LLM

七、生产级 Agent 7 层架构

2025 业界形成共识:生产级 Agent 系统由 7 层构成。

┌──────────────────────────────────┐
│ 7. Evaluation     (评估 / Eval)   │
├──────────────────────────────────┤
│ 6. Security       (安全 / Guardrail) │
├──────────────────────────────────┤
│ 5. Observability  (可观测性)        │
├──────────────────────────────────┤
│ 4. Orchestration  (编排)           │
├──────────────────────────────────┤
│ 3. Tool           (工具 / MCP)      │
├──────────────────────────────────┤
│ 2. Memory         (记忆 / 3 层)     │
├──────────────────────────────────┤
│ 1. Foundation     (基础模型)        │
└──────────────────────────────────┘

7.1 Foundation(基础模型)

  • GPT-5 / Claude 4 / Gemini 2.5 / Grok 4 / Llama 4
  • 选型:任务复杂度 × 成本 × 延迟 × 隐私

7.2 Memory

  • 3 层(STM / MTM / LPM) - 见第三节

7.3 Tool

  • MCP server + Tool Routing - 见第四节

7.4 Orchestration

  • LangGraph / CrewAI / MAF / AutoGen - 见第八节

7.5 Observability

  • LangSmith / Langfuse / Arize / Phoenix
  • 关键指标:延迟、Token 消耗、工具成功率、Agent 决策路径

7.6 Security

  • Prompt Injection 防护:输入 sanitize + 输出 filter
  • OWASP Top 10 for LLM
  • 工具调用 sandbox(危险命令隔离)

7.7 Evaluation

  • Evals-as-a-Service(Braintrust / Promptfoo / DeepEval)
  • 黄金数据集 + 持续回归测试
  • LLM-as-Judge(用更强 LLM 评估)

八、主流 Agent 框架对比

2025 末有 6 个主流 Agent 框架,各有定位。

框架 出品方 强项 弱点 适用
LangGraph LangChain 显式图、强 state、生态最大 学习曲线陡 复杂工作流 / 企业生产
CrewAI João Moura(开源) 角色分工直观、上手快 中大型规模时慢 中小项目 / 角色明确
Microsoft Agent Framework(MAF) Microsoft .NET 原生、企业级 生态小 .NET 企业
AutoGen Microsoft Research 早期多 Agent 标杆 维护模式(MS 转向 MAF) 已存量项目
LlamaIndex LlamaIndex 公司 RAG 强、文档密集任务 Agent 是延伸 文档/知识管理
Google ADK Google Vertex AI 集成、8 大模式 锁 GCP Google Cloud 用户

8.1 框架选型决策树

需求评估
  ├─ 单一任务(无编排) → OpenAI Function Calling 直接调
  ├─ 多步骤工作流 + state 重要 → LangGraph
  ├─ 角色分工明确 → CrewAI
  ├─ 企业 .NET → Microsoft Agent Framework
  ├─ 文档密集 → LlamaIndex + RAG
  ├─ Google Cloud → Google ADK
  └─ 复杂推理(规划) → o3/Claude + Graph-of-Thought

8.2 框架共性的能力(2025 末已 commodity)

  • 工具调用 + MCP
  • 多 Agent 编排
  • Checkpointing(断点续跑)
  • Human-in-the-loop(人机协作)
  • 流式输出
  • Token 使用追踪

九、真实部署案例(2025)

2025 年企业级 Agent 落地大规模铺开,代表案例:

9.1 Morgan Stanley(摩根士丹利)

  • 全公司 16,000+ 顾问中 98% 日常使用 AI Agent(基于 GPT-4)
  • 用途:研报检索、客户邮件草稿、合规检查
  • 据 OpenAI 案例:节省顾问 30% 的研究时间

9.2 Klarna(欧洲先买后付)

  • 用 OpenAI 客服 Agent 替代 700 名客服
  • 估算改进:$40M / 年(2024 报告)
  • 处理: 70% 的客服咨询
  • 满意度:跟人工持平

9.3 BBVA(西班牙银行)

  • 5 个月内部署 2,900 个内部 Agent
  • 用 Microsoft Copilot Studio + 自研编排
  • 用途:合规审查、客户分析、内部知识检索
  • ROI:报告显示员工生产力提升 15-25%

9.4 Rakuten(日本乐天)

  • 用 Claude 4 Opus 处理 1,250 万行代码 的代码库
  • 用途:bug fix、refactor、code review
  • 据 Anthropic 案例:工程效率提升 4x

9.5 Anthropic 内部用量数据(2025-02 至 08)

  • Claude.ai 月活:8500 万(2025-08)
  • API 调用增长:5x(2025-Q1 → Q3)
  • 内部 Claude Code 使用:Anthropic 全员日常
  • 70% 的代码 PR 包含 Claude 协助

十、2026 趋势预判

结合 newtype 整理的多家分析师判断:

10.1 技术趋势

  1. Reasoning-first:LRM 进一步替代 LLM,推理质量超过 token 价格的重要性
  2. 多模态 Agent:看图、听音、操作 UI(GUI Agent / Computer Use)
  3. World Models:Agent 内置物理 / 时空 / 因果模型(Yann LeCun 路线)
  4. Efficiency-first:小模型 + 工具调用 > 大模型直接生成(DeepSeek 风格)
  5. Agent 互操作:A2A 协议、跨厂商 Agent 协作

10.2 标准与协议

  • MCP:成为事实标准(已超过 1000 servers)
  • A2A(Agent-to-Agent):进入 Linux Foundation,跨厂商协作协议
  • AGENTS.md:网站为 Agent 提供的"使用说明书"
  • llms.txt:网站为 LLM 提供的"内容索引"

10.3 监管

  • EU AI Act:2026 执行元年,Agent 落地受合规约束
  • NIST AI Risk Management Framework:美国合规标准
  • 企业级 Agent 审计:第三方 audit 服务兴起

10.4 Eval 生态

  • 标准化数据集:SWE-bench、HumanEval++、MCPMark
  • 第三方认证服务:类似 SOC2 的"AI Agent 合规认证"
  • Evals-as-a-Service 平台

十一、Agent 落地的 10 条原则(报告总结)

  1. 专业化 > 通用化:多个小 Agent 优于单一大 Agent
  2. 可观测性从第一天:没有监控 = 没有生产
  3. 记忆是一等公民:不仅能做,还能记
  4. 工具标准化:MCP 优于自定义集成
  5. 推理透明化:ReAct/GoT 优于黑盒
  6. 状态可恢复:Checkpointing 必备
  7. 人机协作:HITL 是特性,不是 Bug
  8. 成本意识:模型降级 + 缓存 + 批处理
  9. 安全内置:从设计阶段考虑 OWASP Top 10
  10. 持续评估:Evals 驱动迭代

十二、生产清单(Production Checklist)

开发阶段:

  • 定义清晰的 Agent 角色和边界
  • 实现工具描述(JSON Schema / MCP)
  • 编写单元测试(工具调用 + 推理路径)

部署前:

  • 配置可观测性(日志、追踪、指标)
  • 实施安全措施(Prompt Injection 防护)
  • 准备 Eval 数据集(真实用户场景)
  • 设置成本预警(Token 上限)

生产运行:

  • 监控关键指标(延迟、成功率、成本)
  • 收集用户反馈(RLHF 数据)
  • 定期运行 Evals(回归测试)
  • 维护 Incident Playbook(故障响应)

十三、与既有 wiki 的连接

History

  • 2026-05-16:Phase 3 ingest 从 11_AI_Agent_技术架构演进_2025.md(2026-01-14 发布)创建。完整覆盖 6 大演进 + 4 大编排 + 8 大模式 + 3 层记忆 + MCP 标准化 + 4 代推理 + LRM + 7 层架构 + 6 大框架 + 4 大案例 + 2026 趋势 + 10 原则 + 生产清单。

来源与关联资料