第 33 问

企业应该保留哪些审计证据?AI 操作怎样实现跨系统追溯和事故重放?

第 33 / 100 问流程重构、人机分工与组织协作

出问题以后,团队常常能找到一堆日志,却回答不了几个基本问题:谁发起任务,AI 当时看到了什么,调用了哪个工具,改了哪条数据,为什么没有被拦住。

日志很多,事故仍然无法重放。

工程追溯要围绕一条任务链,把身份、输入、版本、决策、工具调用、系统结果和人工介入串在一起。 记录的目标是还原真实过程,不是证明系统很忙。

先给一次任务一个统一编号

员工在对话入口发起任务,AI 经过多个步骤调用工单、订单或消息系统。每个系统各自生成日志,如果没有统一任务编号,事故发生后只能靠时间戳猜顺序。

统一编号需要贯穿:发起身份;使用的数据、知识和规则版本;模型与应用版本;AI 提出的动作;人工批准或拒绝;工具调用与返回状态;重试、撤销和转人工;最终业务结果及后续修正。

一次“创建退款草稿”怎样重放

先查任务编号,确认发起人和当时权限。再恢复当时的订单状态、知识版本与参数,核对 AI 提出的退款对象和金额。随后查看执行系统是否收到请求、是否返回成功、是否因超时发生重复调用。最后检查人工有没有批准、拒绝或修改,以及真实业务状态怎样变化。

这条链能帮助团队把错误定位到数据、规则、模型理解、工具接口、权限配置或人工判断。只保存提示词和回答,无法看到这些关键环节。

重放必须在隔离环境进行

恢复当时版本和输入后,按原顺序模拟关键步骤。涉及付款、发信、设备控制等外部动作时,要使用模拟接口或只读模式,避免事故被重演一次。

重放结果需要进入修复、回归评测和责任复盘。找到“模型答错了”只是开始,还要回答为什么监控没发现、权限为什么允许、接管为什么没有发生。

保存更多也会制造风险

日志可能包含个人信息、客户数据、商业秘密和系统安全细节。应当根据任务风险决定粒度,并设置访问、脱敏、保存和删除安排。

具体法定保存义务来自法律、行业规则、合同和内部风控。保存什么、保存多久,应依据任务风险与适用要求确定。本篇只处理系统怎样具备跨系统还原能力。

审计证据的价值,在于出事后能够还原事实、修复系统、明确责任。

本问行动:挑一次跨系统操作,从发起人一路追到最终业务状态;中间任何一步只能靠猜,就是当前最该补的日志。

第 4 章

试点、评测、验收

与失败退出

解决试点与验收:技术可行、产品可用、业务有效和生产可控分别需要什么证据。