078 · 内容、数据与 AI 合规

科技伦理审查适用事实与跨部门材料准备

第 78 / 162 篇免费阅读

能帮做什么

同一套教育 AI,原来帮助老师备课,后来要给学生能力打分;巡检机器人原来提示异常,后来可以自主处置。模型名称没有变化,使用对象、决策影响和控制权限已经变了。法务仅看开发合同,很难掌握这些事实。

WorkBuddy 可以读取项目方案和各部门说明,整理伦理审查适用事实、材料缺口和变更问题,帮助项目负责人向专业人员说明情况。哪些活动需要审查、适用什么程序,由有权专业人员及审查机构确认,不能把所有 AI 项目直接列为同一类。

准备什么

准备项目目的、实施地区、研发或试点阶段、承担与合作单位、模型及系统版本、预期用途和实际使用场景、适用人群、数据来源、测试计划与报告。再补人工干预、退出控制、用户告知、投诉纠错、日志范围、监测和应急方案。

已经取得审查文件的,提供文件和批准范围,以及当前拟变更内容。只提供获准处理的材料和脱敏说明,无须为了判断项目是否涉及特殊人群,上传整批患者、学生或员工的真实记录。

具体怎么做

第一步:把项目介绍转成实际行为

先让 WorkBuddy 建立事实卡,写清系统接收什么、输出什么、影响谁、谁作最终决定。“辅助决策”“提升效率”等笼统说法继续拆解。例如系统是给招聘人员提供信息,还是自动淘汰候选人,两种情况必须分别记录。

第二步:标记需要专业判断的影响

围绕特殊群体、生命健康、心理情绪、重大权益、公众传播和自主控制等线索列问题。标记线索并不等于确认必须审查,也不能因为项目称为内部工具就直接排除适用。活动性质、实施范围和风险事实不足时,先补这些事实。

第三步:把缺口交给能回答的部门

业务说明客户怎么用,产品说明功能和人群,研发说明模型及权限,数据人员说明来源和样本,安全人员说明控制、日志及应急。法务整理适用与责任问题。每项缺口都写明所需材料,例如“是否能人工中止自动处置,请研发提供机制说明及已有测试记录”,避免只写“完善伦理风险管理”。

第四步:将变更与已有审查范围对应

对已获审查的项目,比较人群、用途、数据、模型版本、权限和运行环境。原来内部测试、现在对外试点,或原来建议、现在自动执行,都应列为变化事实,交专业人员判断后续报告或审查要求。已有备案、合同条款或免责声明,不能直接当作本次伦理程序已完成的证明。

可直接交给 WorkBuddy 的完整要求

请依据我提供的项目方案、场景与人群说明、算法模型和数据材料、测试报告、人工干预控制、日志应急及既往审查文件,整理科技伦理审查适用事实与跨部门材料草稿。以本次项目版本和阶段为范围,不读取真实人员明细,不代替伦理委员会审查。

输出四部分:一是适用事实卡,列活动性质、实施地区、项目阶段、承担和合作主体、模型系统版本、输入输出、用途、人群、可能影响、最终决策者和既往审查范围;二是材料缺口及分工表,按业务场景、模型机制、数据来源与代表性、测试、告知、干预退出、投诉纠错、日志追溯、监测应急分别列现有证据、位置、具体问题、所需材料、建议提供部门和状态;三是变更表,比较当前与原批准范围的人群、用途、数据、版本、权限和环境;四是提交法务及伦理专业人员确认的问题。

区分已确认事实、业务设想、材料未提供与专业待判。只标记特殊群体、生命健康、心理行为、重大权益、公众传播、自主控制等风险线索,不自动认定必审或豁免。区分控制设计、测试报告和实际执行证明,不把总准确率当全部群体都适用,不把合同约定当技术有效。引用文件名和位置,不编造结论、承诺或审查记录,不替机构选择程序,不申请、不签署、不批准测试或上线。

得到什么

得到能用于内部沟通的事实卡、材料缺口、变更表和专业待问事项。例如:“项目方案写只辅助老师,客户使用说明拟直接生成学生分层结果;需业务确认实际用途,研发说明人工调整及纠错方式,专业人员判断适用和办理路径。”

怎么检查

核对人群、用途和自动化权限是否来自真实材料;检查业务承诺与技术能力是否一致;控制方案有没有相应测试或执行证据;当前项目是否超出既往审查范围。材料齐全与审查通过是两种状态,输出应清楚区分。

异常处理与人工决定

客户用途不明先补说明,人群测试缺失交领域专家,控制措施仅停留在设计时交研发和安全人员验证。法务与伦理专业人员判断适用及程序,委员会或合格受托机构负责审查,企业授权人员按要求安排项目活动。WorkBuddy 整理材料,不替任何部门背书,也不签发伦理审查文件。