为负责任的 AI 项目提供清晰、以来源为依据的实用洞见。

搜索 AI 战略、自动化或治理……
切换菜单

负责任的 AI 治理

建立团队维护得起的 AI 清单与风险分级方法

以每项实际工作中的 AI 用途为记录单位,用后果、自主程度、规模和敏感度评定固有暴露,再按最高实质等级安排相称审核;同时把控制证据、变更触发、退役记录及适用义务分别管理,让新加坡企业既看清整体组合,也不把内部等级误当成法律分类。

同事们围在长木会议桌旁,把没有文字的文件夹和纸张分批放入胶带划分的不同审核区域。

可维护的 AI 清单首先是一层治理路由,而不是企图把每份评估、测试报告和批准文件塞进同一张表。想象一个原本只替客服人员起草回复的助理:供应商没有变,但当它获准读取身份证明、处理退款和自动发送消息时,已成为风险路径不同的用途。清单必须让这类变化及时改变审核路线,并让业务负责人说得清系统为何存在、能做什么、影响谁,以及何时必须停下来重审。

可直接采用的五项原则

  • 按工作流程和行动情境中的一项 AI 用途建档,不只登记模型或供应商。
  • 发现记录保持精简;只有等级或明确升级条件要求时,才链接更深入证据。
  • 暂定等级取后果、自主程度、规模和敏感度中的最高实质评级,不以平均值冲淡严重暴露。
  • 数据、权限、目的、负责人、依赖、规模、控制、事件或义务实质改变时,重新开启记录。
  • 内部等级只安排治理工作,不决定任何法律或监管分类。

AI 清单究竟应该登记什么?

一名女子在会议桌上把空白流程卡放进松散排列的卡片网格,旁边分开放着不同颜色的文件夹。

每项记录应对应明确流程、目的、用户群和输出至行动路径中的一项 AI 用途,而非仅登记产品、模型或供应商。NIST 指出清单可支持维护、事件响应、单项及组合查询;OECD 则从人员、情境、数据、模型、任务与输出描述系统,因此审核对象应是边界明确的实际用途。

  • 用途、受影响方、输入敏感度、行动权限、部署范围或负责人有实质差异时,拆成不同记录。
  • 同一模型若分别总结内部会议和影响客户账户处理,应按不同数据、后果与行动路径建档。
  • 共享供应商、模型、数据源、应用、评估、控制、事件和批准资料以链接管理;用途记录另说明负责人、状态、监督、权限及下游行动。

哪些字段够用,又不会把登记变成长问卷?

一名戴黑手套的女子把带空白标签的薄文件夹放进浅黑色接收盘,旁边整齐叠着厚重的证据活页夹。

采用两阶段记录:负责人先维护精简发现字段;等级或升级条件需要时,再链接深入评估、验证、供应商审查、测试、控制证据、事件、批准和监测计划。NIST Playbook 与英国记录标准涵盖的资料更广,以下只保留发现、问责和路由所需内容。

  • 用途身份与负责人:记录稳定编号、名称,以及承担结果责任和能够修改、暂停或停止用途的业务与技术负责人。
  • 目的与对象:说明流程、用途和禁止边界,并分开记录操作系统的用户及可能受结果影响的人或群体。
  • 资料与行动:记录输入类别、来源和最高敏感度,以及输出接收方、下游用途和建议、发起或执行行动的权限。
  • 技术与控制:链接供应商、模型、权限、整合及上下游依赖;概述人工复核、访问、测试、监测、后备、纠正和申诉,并链接证据。
  • 状态与路由:记录生命周期、最近实质变更、最近及下次风险复核、四项评级、暂定等级、升级条件、未知事项和理由;另链接适用义务审查。

已列控制不等于有效控制。NIST 要求风险与控制映射涵盖第三方软件和数据;清单只保存控制摘要、证据链接、负责人、状态和复核结果,避免复制资料后失去同步。

团队怎样用说得明白的方式评定固有暴露?

并排坐在长木桌旁的审核人员各自低头整理没有文字的圆形木片,并将它们分成彼此独立的小组。

可用后果、自主程度、规模和敏感度初评固有暴露,但这四维及三级锚点只是本文综合 NIST、OECD、加拿大和英国资料提出的内部建议,并非任何机构规定或认可的标准。每项评级须附用途证据句;未知事项标为待查,不可猜测。

  • 后果——第 1 级:局部、容易发现并逆转的不便或低价值返工;第 2 级:需要刻意纠正、升级或复原的实质营运、财务、客户、员工或声誉影响;第 3 级:可能影响权利、重要机会或服务、健康安全、生计、关键营运,或造成其他严重且难以逆转的结果。
  • 自主程度——第 1 级:只提供内容、分析或建议,由人决定是否及如何采用;第 2 级:排序、路由、推荐、个性化或发起有限行动,复核可能抽样、时间受限或在发起后进行;第 3 级:没有有效逐案批准便执行连串外部行动、修改记录或权限、承诺资源,或实质影响重大决定。
  • 规模——第 1 级:小型内部试点、频率低、地域有限且几乎没有下游复用;第 2 级:在一个职能、客户群或重要流程中重复使用,具一定数量或多个接收方;第 3 级:企业全面、公开、跨市场、高流量、实时或深度整合,单项输出可扩散并形成相关影响。
  • 敏感度——第 1 级:公开、合成或获准使用的非机密资料,无特权访问;第 2 级:内部或机密业务资料、一般个人资料、客户内容或权限有限的认证访问;第 3 级:高度敏感或受规管资料、凭证、秘密、特权资料、受保护特征或代理变量、精确监测资料,或可修改重要受保护记录的访问。

OECD 涵盖受影响方、部署广度、数据权利、任务、输出和行动自主程度,并提醒条件可能互相依存;加拿大工具则在其联邦范围内询问权利、隐私、健康、经济利益、可逆性和资料分类。这些问题可用于查漏,不可用来暗示内部量表具有官方地位。

四项评级应怎样决定审核路线?

同事们围坐在木制会议桌旁,查看打开的浅棕色案件文件夹以及装有资料的透明密封证据袋。

暂定等级取最高实质评级:全为第 1 级才列内部第 1 级;有第 2 级而无第 3 级,列第 2 级;任何一项为第 3 级,便列第 3 级。此规则旨在避免严重暴露被平均值冲淡,并非 NIST 或 OECD 验证的公式;组织须按风险容忍度、业务情境和适用义务校准。

  • 超出容忍度、严重影响、敏感资料配合广泛访问、人工控制无效、难以逆转、连锁依赖、重大事件、适用义务或关键事实未解决,均可触发升级。
  • 先评实际用途的固有暴露;审核时另验控制设计和证据,再记录剩余风险、条件与批准,不因控制被列出便降低评级。
  • 法律、监管、合约、隐私、安全、劳资、档案和行业分类另行管理,不与内部等级直接对应。
可按组织风险容忍度调整的三个内部审核路径
内部等级与路线最低审核决定与证据监测与重新开启
第 1 级:登记负责人确认记录、获准边界、标准访问和使用控制、操作说明及变更触发器。按组织的一般政策路径批准;保存评级理由、标准控制声明和操作资料链接。按风险设定负责人确认,并在实质变化时自动重新开启。
第 2 级:评估跨职能检查受影响方、数据、监督、供应商、依赖、测试、后备、纠正途径及控制证据。具名问责负责人在所需职能审查后批准条件;记录针对性评估、测试摘要、剩余风险和监测计划。采用已定义指标和问题路径,定期更新证据,并由事件触发重评。
第 3 级:加强审核加入独立质询和相关领域专长,检查必要性、替代方案、权限、可逆性、控制成效、事件响应及退出计划。由组织政策指定的问责权限明确批准;未解决或超出容忍度的暴露应限制或停止用途。按暴露加强监测;发生事件、控制失效或范围实质变化时立即重开。

当 AI 用途改变时,这套方法会揭示什么?

一名女子查看没有可读文字的回复纸,旁边男子在合上的黑色文件夹上方举着未连接的黑色授权装置。

虚构客服试点只检索获准内容并为受训员工起草附来源的回复,由员工编辑后发送;账户决定、政策例外、自动发送、付款与身份证明资料、退款和账户修改均在范围外。NIST 强调输出的下游用途与监督,OECD 也指出能力和部署变化可改变分类,因此批准不能随供应商名称自动延续。

  • 后果第 2 级:错误回复可能误述客服政策并需要刻意补救。
  • 自主程度第 1 级:系统只草拟,由员工决定如何修改和发送。
  • 规模第 1 级:试点限于一个受训团队和有限消息类别。
  • 敏感度第 2 级:认证环境中使用一般客户问题和内部账户背景。
  • 最高评级令用途暂走第 2 级;预先复核、来源链接、禁止写入、访问控制、抽样、投诉途径和人工后备仍须另验成效。

若助理改为读取身份证明及付款争议资料、执行退款和账户更新、自动发送,并跨地区高流量运行,四维均升至第 3 级:资金与账户后果严重;可无逐案批准执行行动;影响广泛;资料和写入权限高度敏感。

扩展前须重开记录,转至第 3 级加强审核及独立义务路径。原批准不随模型转移;审核可以限制权限、保留逐案批准、缩小地区与数据范围,或停止提案。此例只演示方法,不代表实测结果或批准建议。

数据、权限或规模一变,审核路线也随之改变,清单才真正值得信任。

上线后怎样让清单持续反映实际情况?

一名男子拿着门禁卡并整理关闭显示器后方的线缆,旁边女子在断开连接的设备旁封好棕色证据信封。

以事件驱动重开配合风险导向的负责人确认,而非只等年度盘点。NIST 建议明确维护者、覆盖范围和属性;发现来源可包括产品与流程登记、采购续约、应用与架构审查、访问和整合管理、订阅、模型与数据流程、员工申报、支持个案、事件及投诉。这些渠道只能增加发现机会,不能证明清单完整。

  • 目的、负责人、用户、受影响方、市场或地区实质改变时重开。
  • 资料类别、敏感度、保存、访问、输出、权限或人工复核改变时重开。
  • 供应商、模型、工具、整合、依赖、数量、频率或关键程度改变时重开。
  • 控制证据、事件、投诉、升级条件、适用义务、暂停、替代或退役状态改变时重开。

确认间隔按风险设定;较高暴露、快速变化、近期事件或较弱证据可提高复核密度,不设通用季度或年度周期。工作队列应显示缺少负责人、未知评级、未解决升级条件、逾期复核、待决定变更、证据缺失、供应商变化和退役未闭环事项。

小型看板可按等级和生命周期统计用途与受影响方、缺失字段、逾期决定、例外、控制缺口、路由时间和退役关闭。覆盖指标只用于找盲点。退役须保留负责人、迁移、依赖、访问移除及所需证据,但不设统一保存期。

首 30 天先定义记录单位、最低字段、负责人规则和发现来源;再以不同目的、数据、权限与规模的样本校准锚点和升级条件;最后启动负责人确认、变更触发、陈旧记录队列和看板。此方法只作内部路由,不是合规结论;重大用途须由适当专家及问责负责人审核,适用义务交由合资格负责人判断。

常见问题

AI 系统清单应该包括哪些字段?

记录用途与负责人、目的与边界、用户与受影响方、资料敏感度、输出权限、供应商与依赖、控制、生命周期、评级、日期和义务状态;深入评估与证据以链接管理。

怎样建立 AI 风险分级框架?

为后果、自主程度、规模和敏感度设置三级锚点及用途证据句,以最高实质维度暂定等级,再应用升级条件;未知事项待查,并按组织容忍度与义务校准。

AI 清单应该追踪模型、供应商,还是实际用途?

主记录追踪工作情境中的实际用途;模型、供应商、应用、数据源和保证资料作为共享记录链接。

AI 清单多久更新一次?

目的、数据、权限、负责人、供应商、规模、控制、事件或义务实质改变时重开,并按风险安排负责人确认,不套用统一周期。

内部 AI 风险等级会决定系统在法律上是否属于高风险吗?

不会。内部等级只安排组织审核;法律、监管及其他适用分类须由合资格负责人另行评估。

ModelFold logo

ModelFold 编辑部

我们报道 AI 在企业里究竟如何落地。报道从具名来源出发,把查证所得与我们的看法分开,并在有据可循的编辑控制下借助 AI 进行研究与起草。本站内容不能替代专家的个别审阅。