札记
Agent
从 Agent(智能体)和工作流的分界讲起,到工具调用、循环控制、检索与记忆,再到协议授权和评估。
十二篇主线按理解的顺序排列:先是 Agent 是什么、大模型能做和不能做什么,再是结构化输出、工具调用和三种经典范式,然后是让循环停下、检索、记忆和多 Agent,最后是协议授权和评估。每篇的演示都是不联网的模拟程序,场景是一个虚构的告警值班助手。
- 01
Agent 是什么:环境、感知、行动,和工作流的分界
Agent(智能体)是在环境里感知、再行动去达成目标的系统。今天说的 Agent,多半是大模型加工具加一个循环。它和工作流的分界不在用没用模型,而在下一步由谁决定:写在代码里的是工作流,由模型看了结果再定的是 Agent。
- 02
从规则到大模型:做决定的知识由谁写进去
早期的 Agent 靠人把知识写成符号和规则;强化学习和预训练让知识改成从奖励和文本里学出来。今天的 Agent 是模型加工具加循环,规则没有消失,只是挪到了模型的边界上。
- 03
大模型能做什么、不能做什么:token、上下文、采样和幻觉
模型每次调用只做一件事:看着上下文里的 token,一个接一个地预测下一个。它只知道这次调用看得见的内容和训练时学到的东西,输出带着随机性,不确定时也会给出一个通顺的回答。Agent 的很多设计,都是为了补这几个缺口。
- 04
让输出能被程序接住:结构化输出、schema 校验、拒答与截断
Agent 里模型的输出要交给程序处理,所以要按约定的结构生成,再一层层检查:为什么停下、语法、schema、业务规则。结构化输出能保证大多数情况下的格式,但拒答、截断和业务上的对错,仍然要应用自己处理。
- 05
工具调用:模型提出,应用执行
工具调用里,模型只负责提出调用哪个工具、传什么参数,执行的是应用。在提出和执行之间,应用要检查工具在不在允许名单上、参数对不对、有没有权限,写操作先问人。工具返回的结果同样不可信,里面可能藏着指令。
- 06
三种经典范式:ReAct、Plan-and-Solve、Reflection
ReAct 边想边做,下一步看上一步的结果;Plan-and-Solve 先写完计划再执行,路径可预期,但对意外不敏感;Reflection 先出答案再检查修改,有没有用取决于检查的依据来自哪里。三者是写在模型外面的三种控制流,可以组合使用。
- 07
让循环停得下来:state、上限、stop reason、guardrail 和人工确认
模型说“完成了”只是循环结束的一种方式。其余的结束方式要由应用写出来:把一次运行写成显式的 state,在每轮开始前检查步数和预算,识别重复动作,用 guardrail 拦住不该放出去的内容,写操作停下来等人确认。每一种结束都要有一个程序能分支的 stop reason。
- 08
检索增强生成:先找依据,再带着来源回答
模型参数里没有的知识,可以在回答前从外部资料里找出来放进上下文。这条链路分两段:事先加载、切分、建索引,回答时检索、带来源生成,找不到依据就拒答。答错的时候,先分清是没检索到,还是检索到了却没照着说,两种问题的修法不同。
- 09
记忆与上下文工程:每次调用放进什么
模型不记得上一次调用。所谓记忆,是应用存下信息,每次调用前挑一部分重新放进上下文。上下文是有限的预算,放得越多,模型越容易漏看,费用也越高。长任务要清理旧的工具结果、记笔记、压缩历史;跨会话的长期记忆还要决定写什么、何时写、怎样取回。
- 10
多 Agent 与框架:拆的是职责,不只是角色名
多个 Agent 可以分开上下文、工具和任务,也会带来重复调查、信息遗漏和协调成本。先判断任务能否独立拆分,再选集中管理或交接控制。框架负责运行与连接,分工、授权和结果验收仍要明确写出来。
- 11
MCP、A2A、ANP:连接能力,不等于授予权限
MCP 规范应用怎样接入工具与上下文,A2A 规范独立 Agent 怎样交换消息和任务,ANP 面向开放网络里的身份、发现和协作。它们减少接入方式的差异,却不替服务端决定谁能做什么。发现、认证、授权和人工确认需要分开处理。
- 12
评估 Agent:不只看答案,还看过程和结果
能跑完一个演示,不等于能稳定完成任务。评估要固定输入和环境,分别检查答案、实际结果、权限与成本,用 trace 找到失败位置。公开基准提供参照,自己的任务集决定系统是否适用。一次成功和反复成功,也需要不同的统计方式。