第 16 问
哪些场景只适合 AI 辅助,哪些可以自动执行?
同一个模型,生成会议摘要可以直接交给员工修改,决定是否退款却不能照搬。差别主要来自动作风险,以及企业处理剩余错误的能力。
自动执行是一条用运行证据换权限的阶梯。模型更强,只能说明能力提高;企业还要证明错误可发现、可接管、可恢复。
四级权限对应四种责任安排
级别 AI 可以做什么 人承担什么 适合的起点
信息与草稿 查询、归纳、生成草稿 判断、修改并提交 新场景或标准尚未稳定
建议与确认 给出建议、依据和拟执行动 明确确认后才执行 边界较清楚但后果需要人承
作 担
有限自动执行 在白名单范围内完成动作 处理异常、抽检与接管 错误可及时发现且可恢复
长流程自动运行 连续调用多个工具完成任务 监控、审计和处置少量例外 长期稳定并经过故障验证
企业应该从低权限起步。这里的级别针对一个具体场景,不代表某套 AI 系统获得了全公司通行证。
权限能否升级,看五类证据
第一,错误影响。它会不会造成资金、法律、客户权益或生产安全后果?
第二,可逆性。动作能否撤销,恢复需要多久,受影响的人怎样得到补救?
第三,可检测性。系统能否及时发现失败、重复执行和异常结果?
第四,任务边界。输入、输出、例外和停止条件是否已经稳定?
第五,接管能力。异常发生时,具体由谁接手,他能否看到完整上下文?
内部排版这类错误容易发现、容易撤销的任务,可以较快升级。低频但后果严重的审批,即使平均准确率很高,也应长期保留人工确认。
升级、保持和降级都要有条件
权限升级前,需要用稳定评测集和真实运行记录证明:严重错误没有突破底线,人工接管可用,监控与恢复经过测试。
用途扩大、模型更换、数据分布变化或严重事故发生后,要重新评估。人工接管持续增加、异常无法定位或恢复时间变长时,权限还要降级,不能只升不降。
人工确认也可能是假的
界面默认勾选 AI 建议,员工推翻时要写长说明,绩效又只看处理速度,所谓人工最终决定很容易沦为形式。
企业要观察修改与推翻原因、审核时间、漏检结果,并确认员工拒绝 AI 后不会受到不合理惩罚。真正的确认权必须包含“拒绝”和“暂停”。
本篇回答一个业务场景应该采用哪一级自动化。第 56 问会继续讨论系统层面的具体权限,包括读、草拟、提交和批准分别怎样授权。
AI 每多走一步,都要有新的证据证明企业接得住。
本问行动:选一个正在运行的场景,写清它当前位于哪一级,以及升到下一级还缺哪项证据。