
ModelFold 编辑部
我们报道AI在企业内部真正落地的过程。报道从具名信源出发,区分查证到的事实与我们的判断,并在有据可查的编辑控制下借助AI完成资料研究与初稿。我们不能替代具体专家的审阅。
清晰、务实、以来源为基础的商业AI洞察。
建立一套团队能长期维护的AI清单:以工作流中的具体用途为记录单位,用后果、自主性、规模和敏感性判断固有暴露,按最高实质等级分流审核,再以变更触发、责任人确认、待办队列和退役证据持续更新;同时将内部层级与法律、隐私、安全、合同及行业义务分开管理,供治理、风控、合规和系统负责人协同落地,避免清单沦为失控的材料仓库。

可维护的AI清单首先是治理工作的分流层,而不是把每份评估、测试和审批材料都塞进同一张表。比如一个客服助手起初只为员工起草回复,后来却获得读取身份材料、自动发信和退款的权限:供应商没有改变,实际用途、暴露和审核路线已经变了。清单必须让这种变化显现,并把责任交给能批准、限制或停止该用途的人。
可直接执行的五条原则

最稳妥的记录单位,是一个明确工作流、目的、用户群和“输出如何进入行动”的AI用途。NIST把AI系统清单描述为一种有组织的资源,可服务于维护、事件响应、单项查询和组合层面的问题。OECD框架从人员、经济情境、数据与输入、模型、任务和输出等方面描述实际应用中的AI系统。NIST AI RMF核心还要求记录预期目的、用户、部署环境、可能影响、假设、局限和生命周期情境。
同一模型或供应商可以对应多条用途记录,而共享的合同、模型、数据源、应用、控制、测试、事件和审批材料应通过标识链接,避免反复复制。这样既能查询某一用途由谁负责、目前能做什么,也能回答各层级有多少在用、哪些缺少证据、哪些正在等待复评,并把深入评估、监测、事件处置和退役工作送入相应队列。

采用“紧凑发现记录加条件式证据链接”最容易长期维护。基础层只保留足以识别、归责、评级和分流的字段;完整评估、验证报告、供应商审查、测试结果、事件记录和审批材料按需链接。NIST Playbook列出的文档主题包括联系人、业务理由、范围与用途、风险与影响、假设、数据、依赖、部署、监测和变更管理。
英国记录标准覆盖责任、供应商、决策流程中的作用、人类复核、频率与规模、生命周期、架构、源数据、访问、风险、缓解措施和影响评估。NIST要求把风险与控制映射到系统各组件,包括第三方软件和数据。记录控制只能说明“声称做了什么”,不能证明控制有效;还应保存最近实质变更、最近复核和下一次风险导向复核日期,但不设统一周期。

分别评后果、自主性、规模和敏感性,并为每项写一句用途专属证据。这四维是本文综合官方材料提出的内部初筛方法,并非任何来源规定或背书的标准;OECD讨论了受影响方、部署广度、数据、任务、输出和行动自主性,也提醒相关标准可能相互依赖。
证据句应说明具体团队、业务量、下游连接及行动前是否有知情授权人干预,不能只写“中等”或照抄供应商说明。事实未明就标记未知并安排解决,不猜测,也不因控制已经列出而下调固有暴露。

暂定层级取最高实质等级:全为一级则进内部一级;有二级但无三级则进内部二级;任一项为三级则进内部三级。这样不会把严重暴露平均掉,但该规则是本文的设计,不是NIST或OECD验证的公式,组织须按风险容忍度和义务校准。
先评固有暴露,再单列控制、检查设计与执行证据,最后记录剩余风险决定、条件和责任人。这一顺序也是本文建议,来源没有规定相同术语。控制被列出不代表有效,也不能消除严重后果、广泛权限或高度敏感数据。
| 内部层级与路线 | 最低审核 | 决定与证据 | 监测与重开 |
|---|---|---|---|
| 一级:注册 | 负责人确认记录、边界、标准控制、操作说明和变更触发项。 | 按标准政策路径决定;保存理由、控制确认和指引链接。 | 按风险确认;实质变化即重开。 |
| 二级:评估 | 跨职能检查受影响方、数据、监督、供应商、依赖、测试、备用与纠正渠道。 | 具名负责人依据专业审查决定;保存评估、控制证据、剩余风险和条件。 | 设置指标、问题通道和证据刷新,并按事件复评。 |
| 三级:增强审核 | 独立挑战者和领域专家检查必要性、替代方案、权限、可逆性、控制效果、事件与退出计划。 | 由政策指定机构决定;超出容忍度或事实未明时限制或停止。 | 加强监测;事件、控制失效或范围变化即重开。 |
NIST主张按组织风险重点配置清单机制,并为持续监测和定期复核确定角色与频率。内部一至三级只负责分流组织内部工作,不能替代法律、监管、合同、隐私、安全、劳动、档案或行业义务判断,也不能直接对应任何法律类别。相关适用性必须由合格的组织责任人沿平行轨道评估,必要时可以覆盖内部层级的常规路线。

看一个虚构试点:助手检索已批准内容,为受训客服生成带来源链接的草稿,由员工编辑后发送;它不得做账户决定、政策例外、自动发送、退款或账户修改,也不得读取支付和身份材料。NIST要求结合下游用途与监督分析输出,并明确人类监督。
最高评级为二级,所以试点暂进内部二级。发送前复核、来源链接、写操作阻断、访问控制、抽样、投诉渠道和人工备用方案属于控制记录,不降低固有评级。若改为读取身份材料和支付争议信息、自动退款、更新账户并跨区域自动发信,四项均升至三级:后果严重、无逐案批准、部署广且量大、数据和写权限高度敏感。OECD指出,数据、能力、用户、成熟度或部署广度变化可能改变分类。
扩展前须重开记录,进入内部三级和独立义务轨道;原批准不会随供应商或模型迁移。增强审核应检验必要性、替代方案、权限、可逆性和控制效果,也可能限制或停止提案。本案例及评级仅演示本文方法,不代表实测、外部验证或认可。
清单真正值得信任,是因为数据、权限或规模一变,审核路线也随之改变,而不只是表格多了一次更新。

清单维护应由事件驱动,而非每年集中追表。NIST建议明确维护者、覆盖范围和记录属性,并追求广泛覆盖。发现入口可包括流程立项、采购续约、应用与架构审查、访问与集成管理、订阅、模型和数据流程、员工披露、责任人确认、工单、事件与投诉;它们扩大可见度,却不能证明清单完整。
OECD支持在数据、能力、用户、成熟度、部署广度或环境变化时重评。事件更新还应配合风险导向的责任人确认;高暴露、变化快、近期有事件或证据弱的用途可更密集复核,但没有通用周期。队列应突出无负责人、评级未知、升级未决、复核逾期、变更待决定、证据缺失、供应商变化和退役未闭环。
精简看板按层级和生命周期统计用途与受影响方,并显示缺失字段、逾期决定、例外、控制缺口、分流用时和退役关闭;覆盖率只是发现信号。英国标准记录生命周期、复核频率、更新时间和退役状态;NIST退役指引涉及责任、依赖、连续性、迁移、监管需要及必要材料。
制度须明确:本方法是内部分流方案,不是合规结论。法律、合规、隐私、安全、采购、档案、劳动和行业问题应交给合格责任人;重大后果或高风险专业用途推进前,还需领域专业知识、组织问责和有效人类复核。成功标准不是行数,而是变化能被看见、重评并形成有证据的决定。
记录用途与责任人、目的和边界、用户与受影响方、输入敏感性、输出权限、供应商与依赖、控制、生命周期、评级理由和义务状态;深入评估与证据按需链接。
为后果、自主性、规模和敏感性设置三级锚点及用途证据句,按最高实质等级暂定层级,再应用升级条件,并依组织风险容忍度和义务校准。
主记录跟踪工作流和行动情境中的具体用途;模型、供应商、数据、应用及保证材料作为共享记录链接。
没有通用周期。目的、数据、权限、责任人、供应商、模型、规模、控制、事件或义务实质变化时立即重开,并辅以风险导向的责任人确认。
不能。内部层级只分配审核、证据和监测工作;适用法律、合同、隐私、安全、劳动、档案和行业要求须由合格责任人独立判断。
本文研究参考了以下来源:

我们报道AI在企业内部真正落地的过程。报道从具名信源出发,区分查证到的事实与我们的判断,并在有据可查的编辑控制下借助AI完成资料研究与初稿。我们不能替代具体专家的审阅。

一套面向企业管理者的AI运营模式设计方法:按企业标准、组合资金、项目交付、风险接受、生产运营与能力复用逐项分配决策权,用决策权登记表明确责任人、证据、授权、升级和复审条件,再把试点结果转化为可追溯的资金、标准、能力与战略调整。

面向AI平台团队与服务负责人,给出一套工具中立的安全发布方法:把提示词、模型快照、工具权限、检索配置、工作流逻辑与运行依赖绑定为同一不可变候选版本,用版本化评测证据决定晋级,按阶段扩大生产流量,并在触发停止条件时恢复完整且兼容的已知良好配置,同时为已发生的外部操作另行处置。

一套面向企业 AI 产品经理、架构师、安全团队与服务负责人的能力级设计方法,帮助团队逐项界定助手可用的信息、身份、工具、权限、动作上限、审批、拒绝、留痕和升级路径,并以成功与拒绝场景的测试证据支持上线、监控及变更复审。