本章立足于工程实践搭建起理解与构建 AI Agent 的基础框架。可以用公式直观概括Agent 大脑 眼睛 手脚LLM 作为大脑是决策核心上下文作为眼睛决定 Agent 能够获取、观测到哪些信息工具作为手脚决定 Agent 具备哪些执行能力。三大组件缺一不可。其中代表感知能力的上下文属于决定性要素。上下文由两部分组成静态前缀系统提示词 工具定义、动态轨迹对话与任务执行历史。消融实验证明移除任意组件都会造成 Agent 性能显著衰退。ReAct 循环的本质就是持续追加任务轨迹驱动大模型一步步推进目标任务。Harness 是 Agent 系统构建的核心竞争力。当前大模型能力逐步走向商品化不同方案之间的核心差距不再是基础模型而是 Harness。Harness 围绕上下文与工具搭建各类约束、校验、纠错机制保障 Agent 可靠稳定地完成任务。面向生产环境的 Agent 系统Harness 绝大多数代码都用于实现这套运行保障体系而非仅仅实现上下文加载与工具调用。落地选型顺序建议先优化提示词 → 再搭建工作流 → 最后引入自主 Agent这套路径能够最大限度降低系统不可预期行为带来的风险。不同编排模式适配不同业务场景不存在万能、普适的最优架构。安全属于顶层架构问题。护栏机制、人工介入、行为对齐Alignment令模型行为匹配人类真实意图必须在项目初期纳入设计不能等到上线前临时增补安全补丁。安全风险覆盖模型、上下文、工具、多智能体协作、社会影响五大层面。下一章将深入讲解 Harness 最核心模块上下文工程。而 Agent 思想在强化学习领域的学术溯源、传统强化学习与现代 LLM Agent 的详细对比安排在第七章展开。下文思考题用于引导读者深挖本章核心概念。深度思考 · 思考题解答1. 如果你只能给一个 Agent 系统增加一项能力——更强的模型、更丰富的上下文、还是更多的工具你会选哪个在什么条件下你的选择会改变优先选择更丰富的上下文理由上下文是Agent的感知边界。缺少充足信息时更强的模型没有足够依据做出正确判断再多工具Agent也不知道何时、如何调用。完整的信息输入是合理决策的前提。切换选择的边界条件1当信息充足但模型本身推理能力存在瓶颈复杂逻辑无法拆解此时优先升级更强模型2当感知信息充足、模型推理足够但是缺少执行手段目标任务需要大量外部操作此时优先扩充工具集。2. ReAct 循环中Agent 的每一次 LLM 调用都会看到完整的历史轨迹。随着轨迹增长这种设计的成本是二次方增长的。有没有办法在不丢失关键信息的前提下打破这个二次方可以通过分层摘要、滚动窗口、关键信息持久化等手段缓解核心思路是避免每次都传入全部原始轨迹滑动窗口机制保留近期原始交互久远历史使用结构化摘要替代原始对话记忆分层短期记忆保存原始消息送入上下文中长期记忆压缩为结构化要点、事件结论事件边界摘要任务阶段性完成后自动总结本阶段关键动作、结果、约束丢弃详细过程向量检索记忆不把全部历史塞入上下文根据当前任务实时检索相关历史片段实现按需加载关键信息标记区分核心结论与过程日志仅将影响后续决策的信息持续保留。注意不存在零损耗方案所有压缩手段都会带来少量信息损失需要业务场景权衡准确率与成本。3. “模型即 Agent”范式意味着模型在工具调用决策上越来越自主。但本章论证了 Harness 工程的重要性反而在增加。这两个趋势如何共存Agent 框架未来的核心价值体现在哪些方面共存逻辑模型自主解决**“能不能想到调用工具、怎么调用”Harness 负责约束、校验、兜底、容错、安全、可观测**。模型自主性提升意味着模型犯错、越权、不合理调用工具的可能性同步提升恰恰更加需要 Harness 作为外部防护层不能完全信任模型输出。模型负责创造力与自主规划Harness负责可控性。未来Agent框架核心价值标准化记忆、上下文管理、轨迹压缩能力统一的工具鉴权、参数校验、风险管控护栏异常检测、循环识别、失败重试、终止策略可观测、调试、回放能力打通人工接管、人机协同流程业务规则与模型解耦实现模型迭代时业务逻辑稳定。4. 消融实验中“工具结果反馈”的缺失导致 Agent 陷入无限循环。在生产环境中除了工具结果缺失还有哪些情况可能导致 Agent 无限循环你会设计怎样的检测和终止机制容易引发无限循环的场景工具返回模糊、矛盾、不完整信息模型反复重试相同调用任务目标不可达成需求冲突、资源不存在Agent持续尝试无效动作模型陷入局部思路重复执行一模一样的工具调用序列缺少状态判别反复在两个动作之间来回切换提示词缺少终止条件定义模型不知道何时任务完成外部系统状态缓慢变化Agent不断轮询查询。检测与终止机制全局最大轮次限制设置ReAct循环调用次数硬上限动作重复检测识别短周期内完全一致/高度相似的工具调用触发预警状态收敛判断连续多轮没有产生有效新信息强制终止目标可达性预判持续无法推进目标时主动终止并请求人工介入轮询冷却策略针对查询类工具增加间隔与最大查询次数终止分级轻度循环提醒模型自检严重循环直接截断任务。5. 本章用感知、行动、策略三个维度分析了五个 Agent 产品。请选择一个你日常使用的 AI 产品用这三个维度进行分析并思考它的架构设计是否合理。如果由你来设计这个 AI 产品有哪些改进空间选取产品豆包智能体通用对话Agent感知上下文感知范围为当前对话窗口历史具备基础短期记忆缺少跨会话长期记忆、外部信息主动获取能力行动工具内置联网搜索、代码执行、文件解析等工具动作空间开放但工具调用校验较弱策略规划/决策依靠LLM原生能力自主判断是否调用工具无外置复杂规划模块缺少循环保护。合理性分析面向普通C端用户足够轻量化、上手简单但是面向复杂长任务容易失控、容易循环。改进空间增加分层记忆区分短期对话与可持久化长期记忆增加Harness层检测无效循环、限制高频工具调用增加任务状态感知能够主动识别任务是否已经完成细化工具风险护栏高风险操作增加确认机制。6. 如果你要设计一个专门处理航班订票的客服系统你会选择工作流模式还是自主 Agent 模式有没有可能在同一个系统中混合使用两种模式基础结论混合架构最优航班订票存在大量标准化强约束规则证件格式、退改政策、舱位规则、支付流程同时存在大量开放式咨询需求。标准化核心流程选航班→填写乘客信息→确认订单→支付、退票、改签采用工作流模式流程固定、风险可控、便于合规开放式咨询行李规定、签证关联问题、航班延误政策、复杂场景特殊申请使用自主Agent。混合实现方案系统设置调度层首先识别用户意图标准化业务流转入确定性工作流无法匹配固定流程的复杂、个性化请求交由自主Agent处理Agent遇到需要发起订票、改签等关键操作时切回受严格管控的工作流执行防止模型违规修改订单、绕过业务规则。7. 护栏部分提到了工具风险评级。如果一个工具在大多数情况下是低风险的但在特定参数组合下变为高风险如 delete_file 删除普通文件 vs 删除系统文件你会如何设计动态风险评估设计动态分级风险引擎不使用静态标签基础风险等级给工具分配基础风险值参数风险规则库配置参数黑名单、路径正则、资源范围限制运行时实时校验收到模型工具调用参数后结合目标对象、参数取值、操作类型动态计算实时风险风险分级响应低风险直接放行中风险日志审计、增加二次确认高风险直接拦截拒绝执行上下文辅助判断结合当前任务目标判断操作意图是否合理动态学习与告警频繁触发临界高风险参数组合自动更新规则并通知运维。简言之风险 工具基础风险 参数风险 任务上下文风险运行时实时计算而非预先固定。8. 本章的 Agent 产品表格中所有 Agent 的动作空间都是“开放式”的。一个受限的动作空间比如只能从预定义选项中选择在什么场景下反而优于开放式受限动作空间更合适的场景强合规、高风险业务金融交易、票务下单、数据删除、权限变更禁止模型构造任意参数业务流程高度标准化所有合法操作可提前枚举模型可靠性不足容易生成错误、非法工具参数需要极简调试、可预测系统行为方便测试与审计面向ToB客服、自助办理系统不允许模型创造未定义操作。优势更容易搭建护栏、减少异常调用、结果可预期缺点是灵活度不足难以处理未知场景。简单总结追求可控、安全、合规优先时受限动作空间优于开放式追求探索、复杂开放任务适合开放动作空间。9. 人工干预机制要求 Agent 能“优雅地移交控制”。但在实践中用户可能不在线、响应很慢、或者给出模糊的指令。此时 Agent 应该怎么办分层处理策略移交前清晰汇总当前任务状态、可选方案、需要人类做出的决策降低人类理解成本用户不在线/长时间无响应设置超时策略区分任务类型高风险操作任务暂停持续等待不自动执行低风险查询类任务设定等待时限超时后终止任务或使用保守默认策略用户指令模糊Agent主动生成澄清问题结构化列出选项引导人类明确意图避免自行猜测兜底策略多次澄清仍然无法获得有效指令时主动终止任务输出任务中断报告保留现场便于后续恢复。核心原则不确定时绝不擅自执行高风险动作宁可暂停、终止不要自主冒险决策。10. 引言指出“好的设计原则应该穿越模型的迭代周期”。试举一个你认为可能会随模型进步而过时的当前 Agent 设计原则并说明理由。待淘汰原则示例依靠大量人工编写详细系统提示词约束模型行为理由当前LLM指令遵循、复杂规则理解能力有限工程上极度依赖冗长系统Prompt写入全部业务规则、边界约束。随着模型持续迭代模型可以直接读取外部结构化规则库不再需要把所有规则塞进上下文长提示词带来高昂token成本、上下文拥堵问题未来模型可以动态加载外部业务规范支持规则热更新修改业务逻辑不需要重写、调试提示词。长远来看硬编码海量规则到系统提示词的手段会逐步弱化取而代之的是外部规则引擎轻量化提示词。因此“通过超长系统提示词完成行为约束”这条实践原则会随着模型能力增强慢慢过时。