第 82 问
影子 AI 应该怎样治理?为什么公网问答、内部知识库和可执行 AI 智能体需要不同规则?
员工使用企业没有正式批准的 AI 工具,原因往往很现实:正式工具不好用,审批太慢,业务又需要结果。全部封禁很难持续,全部放开则会让数据和权限失控。
影子 AI 治理要经过发现、分级、替代、收口和持续监控。管理强度取决于数据、用户、动作能力和失败影响,不能只按模型品牌审批。
三类能力使用三套规则
类型 主要风险 基础控制 高风险信号
公网问答 员工输入敏感内容、输出被 数据规则、获批工具、输出 客户资料、个人信息、商业秘
直接对外使用 复核 密进入未知服务
内部知识库 越权检索、旧版本和错误知 文档权限、版本、引用、知 高风险制度无人负责,答案无
识扩散 识所有者 法追溯
可执行 AI 智能体 修改数据、对外行动、批量 独立身份、最小权限、批准、 共享账号、高权限凭证、不可
错误 限流和撤销 逆动作无接管
同一产品也可能跨越三类能力。今天只用于问答,明天接入企业工具以后,就要重新分级。
发现以后先确认真实用途
采购与报销、单点登录、网络和终端记录、数据防泄漏、员工申报与访谈,可以帮助建立清单。
发现工具后先看它处理什么任务、使用哪些数据、是否对外输出、能不能执行动作。低风险个人辅助、高敏资料处理和生产自动执行,处置方式完全不同。
分级处置,而非一刀切
低敏试验可以迁入获批公网工具;内部资料转到受控企业环境;高风险动作只能通过登记并验收的生产智能体。已经造成敏感数据外流或越权的工具,需要立即停止、调查并处理残留数据。
审批速度也要与风险匹配。低风险试验流程过重,会让需求继续转入更隐蔽渠道。
治理还要提供可用替代。员工绕开正式工具,可能暴露了流程、性能或能力缺口。只处罚使用者,无法让真实业务需求消失。
第 54 问负责建立全量 AI 资产注册库。本篇处理其中未登记工具被发现以后,怎样按风险迁移、停止或收口。
影子 AI 治理的水平,不看封了多少网站,而看企业是否看见真实需求,并给它一条安全可用的路。
本问行动:给最近发现的影子工具标上问答、知识库或可执行,再决定它该迁移、限用还是立即停止。