如何设计有来源依据的生成式AI起草流程

有来源依据的生成式AI起草，不是把提示词写得更漂亮，也不是在末尾补一次事实核查；它是一条受控链，把获准来源、证据卡、生成文字、审核决定、批准与关键修改分别保存。假设试点简报写道“试点证明这套流程会为分析员节省时间”，但原始记录只显示一小群自行报名的参与者在指定试点任务中减少了初稿准备时间，而且没有比较组。句子虽然顺畅，却越过了证据边界；真正有效的流程必须在成文前暴露这类跨越，而不是等到发布后才解释。

生成式AI动笔前，团队必须先决定什么？

动笔前必须先完成一份最小起草包，明确文件为何存在、给谁阅读、何时交付、出错会造成什么后果、由谁负责，以及它最终要支持哪项决定或行动。还要指定获准工具、可输入的资料范围、输出格式和发布负责人。NIST的AI RMF强调记录系统知识限制、预定用途、人机职责及监督方式；落实到文件工作，就是不要让模型自行猜测用途、权限或谁有权接受成稿。

• 任务说明：目的、受众、截止时间、错误后果、负责人及所需决定。
• 资料边界：获准工具、可输入资料、来源登记册和禁止使用的内容。
• 生成规则：证据卡、输出模板、允许写出的内容和禁止作出的推论。
• 控制路径：证据审核、编辑审核、专业审核触发条件、最终批准和记录规则。

起草包还应写明模型只能产出草稿，不能把自己的输出视为已核实事实，也不能批准商业文件。若资料不足，它必须按约定标记缺口，而不是依靠一般模型知识补齐。获准来源集合只是受控边界，不是质量保证；文件负责人仍须判断每项资料是否适合当前用途，并把不确定之处交给相应的信息治理、隐私、保安、政策、法律、档案或业务专家。

获准来源应怎样变成可用的起草证据？

获准来源要先登记，再拆成能够独立核查的证据卡，不能直接把一叠文件丢给模型后要求它“依据资料写作”。来源登记册为每项资料设置稳定编号，并记录发布者或负责人、版本或日期、适用范围、批准状态、访问条件、已知限制和更新触发点。NIST生成式AI概况建议记录上游资料依赖，并审查资料的准确性、代表性、相关性与适用性，这正是登记工作要解决的问题。

• 来源编号及精确位置，例如页码、章节、表格或测量记录。
• 原文摘录或测量结果，不把生成式概括冒充来源文字。
• 该证据实际支持的观点，以及必须随观点保留的限定条件。
• 允许用途、禁止推论、资料负责人和需要重新确认的触发条件。

以试点简报为例，证据卡E-04可指向试点评估第3.2节，并支持这样的有限陈述：参与者在受测任务中减少了初稿准备时间。卡片同时保留三项限制：样本小、参与者自行报名、没有比较组；审核时间另行记录，结果也不能证明机构整体生产力提高。允许用途是陈述已观察到的试点结果及限制，禁止用途则包括预测分析员可节省多少百分比的时间。

批准资料时要分别考虑权威性、相关性、时效、适用性、权限和已知限制，不能把“找得到”当成“已批准”，也不能把“已批准”当成“必然正确”。权限、保密等级、个人资料、合约限制或受规管表述应由机构指定的负责人判断。NIST另有实验流程把权威文件、带引文输出、引文评估和结构化结果相连；它展示了主张映射的价值，但不是可取代机构审核的现成标准。

怎样让模型起草时不悄悄填补证据空缺？

要阻止模型暗中补洞，必须把证据层与读者看到的文字层分开，并用明确的生成合约限制起草范围。输入可包含证据卡编号和固定输出模板，但草稿中的每项重要观察、选项、风险与建议，都必须能回到对应卡片。证据卡保存原文、位置和限制；草稿只负责组织表达。这样审核者看到一句结论时，能够检查它来自哪里，而不会把模型写出的解释误认成来源本身。

• 只写证据卡允许表达的决定背景、观察、风险、选项和建议。
• 缺少支持时插入“需要证据”标记，并说明缺的是哪一类资料。
• 不得加入一般模型知识、未经批准的供应商说法、未说明的政策解释或虚构引文。
• 不得删除会改变读者理解的限制，也不得自行判断资料缺口已经解决。

引文编号只能帮助追踪，不能证明相邻句子得到原文支持。NIST生成式AI概况明确建议核验生成输出中的来源与引文，因此审核者仍要把关键主张与底层段落逐一比较，并确认限定条件有没有在编辑过程中消失。模型也不应成为自己输出的唯一事实核查者；它可以协助列出待核项目，却不能同时扮演作者、证据裁判和最终批准者。

有来源依据的草稿应由谁审核哪些内容？

审核应拆成有名字、有问题、有决定权的几条路径，而不是笼统要求“有人看过”。来源负责人确认资料集合及版本；证据审核者比较关键句与证据卡及原文；编辑改善结构、语气和受众适配，却不能静默改变证据含义；出现政策、权限或专业风险时，由相应专家处理；最后由批准者接受建议、条件和剩余不确定性。NIST的AI RMF也要求角色、责任、沟通渠道和监督职责清楚成文。

• 来源决定：这些资料是否获准进入当前起草边界？
• 证据决定：每项关键主张是否得到原文支持并保留限制？
• 编辑决定：文件是否清楚、连贯并适合受众，同时不改变证据意义？
• 专业决定：是否触发政策、资料处理、方法或领域方面的升级？
• 发布决定：负责人是否知情接受建议、条件、例外和剩余风险？

小团队可由一人兼任多个角色，但不能把这些问题压缩成一个含糊的勾选框。对长篇或后果重大的草稿，应按可限定的主张或分句审核，而不只凭整份文件的总体印象。LongEval在两个长篇摘要数据集中观察到，更细粒度的判断减少了标注者分歧；把这种做法用于商业起草只是谨慎的实务推论，并不代表所有文件都已被证明会获得同样效果。

自动化主张对照工具可以先找出没有来源编号的句子、引文错配或限制条件缺失，帮助团队安排审核次序。NIST当前介绍的证据关联管道属于实验性评估探针，而非成熟的批准标准。工具给出的匹配分数或通过状态不能接管证据判断、专业风险决定和发布权；出现争议时，审核必须回到获准原文及有权限作决定的人。

真正有依据的草稿，不只是列出来源，而是让每项关键主张都能被追溯、质疑、纠正，并由负责人知情批准。

哪些修改必须留下明确记录？

当修改改变事实含义、解释、建议、承诺、义务、风险处理、来源依据或批准状态时，就应留下明确记录；纯粹的错字、标点、排版和不改变意义的润色，可留在一般版本历史中，除非机构政策另有要求。NIST生成式AI概况说明，来源元数据可包括创建者、日期、修改和来源，并建议维护内容变更记录。实务上不必记录每次按键，但必须保住会影响决定的变化。

• 修改前与修改后的文字。
• 修改理由及受影响的证据卡或原文。
• 提出修改的审核者和作出批准的人。
• 决定时间，以及是否改变限制、例外或发布状态。

试点句子的关键修正可从“试点证明这套流程会为分析员节省时间”，改为“在受测的试点任务中，参与者减少了初稿准备时间；小规模、自行报名的样本不能确定分析员工作的效果”。记录应说明旧句把有限观察扩大成因果及群体结论，新句则重新对齐E-04并保留限制。至于提示、输入、输出、草稿和修改记录要保存哪些、保存多久，应由业务需要和适用机构政策决定，不能一概要求全部保留。

决策简报、分析报告和日常信息应怎样调整控制？

三类文件应保留同一条控制主线，但按用途、错误后果和承诺程度调整材料与审核深度。决策简报强调负责人、选项、建议和不确定性；分析报告增加问题定义、方法、日期、排除项及逐项证据检查；日常信息可采用较轻的获准事实清单和发送者复核。篇幅不是风险的可靠替代指标：一封很短但代表机构作出承诺的信息，可能比一份较长的低风险内部草稿需要更严格审核。

控制轻重也不应只看文件名称。同一封例行电邮若只提醒已批准的会议日期，可由发送者复核；若它加入费用承诺、例外安排或新的政策解释，就应转入相应审核路径。团队可先为一个重复出现的文件类型建立模板，把常用证据字段、触发条件和决定权嵌入工作流程，再根据实际纠正记录调整，而不是一开始就给所有文件套上同等繁重的程序。

来源和工作持续变化时，流程怎样保持可靠？

流程要保持可靠，就必须把来源更新、成品抽查、纠正分析和例外处理变成固定营运节奏。为每项来源指定更新负责人；当事实、版本、相关性、权限或机构状态改变时，重新确认其批准状态。NIST生成式AI概况建议明确内容来源的定期复核责任及人工监督角色，但没有规定统一周期，因此团队应按资料变化和文件后果设置触发条件，而不是机械采用同一个日历频率。

• 抽查已完成的起草包，确认关键主张仍可追溯，限制没有在编辑中消失。
• 检查应触发的专业审核是否发生，关键修改是否按规则记录。
• 汇总反复出现的错误推论、证据缺口、来源冲突和边界例外。
• 优先修订证据卡、输出模板或生成边界，再考虑增加更多下游审核。

若新来源不在获准边界内，或出现敏感资料、权限疑问、政策触发及专业审核需要，应暂停受影响的部分，交由指定负责人决定，并记录边界如何解决；只有来源集合或例外获得明确处理后才恢复。最稳妥的起点，是选择一种经常重复的文件，让证据边界、审核决定、例外路径和关键修改规则都看得见。涉及受保护资料、合约承诺、受规管表述或保存义务时，适用要求必须由相应机构负责人决定，不能交给起草模型解释。