第 52 问
企业 AI 应用与传统 Web 应用有什么不同?一个模型调用升级为生产应用,需要补齐什么?
调用一次模型并返回文字,只需要很少代码。把它放进企业流程,难度会突然上升:输入不可控、输出有概率、工具会失败、权限会变化,用户还可能把它用于设计之外的任务。
生产级 AI 应用是一组包住模型的不确定性控制。模型负责理解和生成,外层系统负责身份、状态、数据、权限、执行、评测、监控和接管。
从里到外补齐五层
层次 核心能力 缺失后的结果
模型与知识 理解任务、检索证据、生成建议 回答无依据或不稳定
任务状态 记录步骤、参数、结果与重试 超时后重复执行或从头再来
身份与权限 识别人和系统、限制数据与工具 越权读取或动作失控
执行与恢复 参数校验、确认、幂等、撤销 错误直接进入业务系统
评测与运营 回归、监控、接管和责任 上线后无法发现与修复漂移
一个聊天页面接上模型,只完成了最里面的一层。
输入和输出都不能默认可信
用户可能遗漏字段、混入错误内容或提出越权请求。系统要检查身份、任务类型、数据范围和参数,必要时补问、拒绝或转人工。
模型生成的工具参数还要经过程序校验与权限判断。执行以后读取业务系统真实状态,确认动作是否发生,不能只相信 AI 说“已经完成”。
长任务一定要有状态
系统要知道做到哪一步、用过哪些证据、哪些动作已经提交、失败是否允许重试。网络超时只表示没有及时收到结果,不能据此重新执行一次付款或发信。
任务状态还要允许人接手。接管者需要看到已有证据、已执行动作、失败原因和下一步选项,不能重新翻完整对话猜测。
失败路径本身就是产品功能
无证据怎样拒答,工具失败怎样降级,成本超限怎样停止,高风险动作怎样批准,系统停用怎样回收权限,这些都应该在上线前设计并测试。
第 57 问会进一步展开统一执行入口里的参数、状态、重试和撤销。本篇只建立从模型到生产应用的完整分层。
AI 应用的生产门槛,体现在坏输入、坏答案和坏状态出现时,系统仍然可控。
本问行动:把你们的应用放进五层表,任何只写着“以后再补”的一层,都可能在真实上线后变成生产事故。