从 Demo 到生产系统¶

单元 31｜难度：综合｜前置：Agent 主线全部内容｜目标：把所有能力组织为一套可上线架构

Demo¶

用户输入
  → LLM
  → 调用一个工具
  → 返回答案

生产系统必须回答：

模型输出使用明确 Schema；解析成功之后仍要做业务校验。语法合法不代表操作合理。

模型只提出工具名和参数，后端负责身份、权限、参数、配额、幂等与真正执行。

任务、步骤、输入、输出、重试次数和版本写入可恢复存储。Redis 可保存运行视图，数据库保存关键事实。

只有适合重试的错误才重试；重试必须有上限、退避和幂等保护。必要时切换模型、走固定流程或转人工。

外部发送、删除、支付、控制设备等高风险操作必须设置审批或策略引擎。

记录 task_id、trace_id、模型、Prompt 版本、工具参数、响应、耗时、Token、成本和最终结果。

使用固定案例集检查结构化成功率、工具选择、参数、任务完成率、延迟、成本与人工接管率。

最小权限、租户隔离、数据脱敏、Prompt Injection 防护、沙箱和审计。

固定、可枚举、高风险的步骤优先使用确定性工作流。只有需要理解自然语言、动态选择工具或处理开放问题的局部节点使用 Agent。

成熟表达：

生产系统通常是确定性工作流包裹少量 Agent 节点，而不是让模型自由控制整个系统。