Agent 运行时:循环、状态与可观测性
更新于 2026-11-09
Agent 运行时的本质是一个「决策—执行—观察」循环:模型给出下一步动作(调用工具、检索、写入),运行时执行动作并把结果回填到上下文,直到满足终止条件或触发预算上限。和一次性问答相比,差异在于运行时承担了循环控制、工具编排和失败处理。
工程上更容易出问题的是边界:单步超时、整体预算(步数、令牌、耗时),以及工具失败后的重试与幂等。常见做法是把单个动作设计成幂等,把长任务拆成可恢复的小步骤,并在每次状态变更后落一条可追踪的事件。
可观测性决定排障效率:每一步的输入摘要、工具名与耗时、模型返回的结束原因都应该能回放,否则线上出现任务卡住时只能靠猜。
学习笔记:先定终止条件和预算,再写提示词。没有预算的循环,最后都会变成不可控的长尾任务。