如何设计有来源依据的生成式AI起草流程

有来源依据的生成式AI起草，不是把更多附件塞进提示词，也不是在交稿前补做一次事实核查，而是一条可检查的受控链：来源、证据卡、生成文字、审核决定、批准和关键修改分别留存。设想试点简报写道：“试点证明这套流程会为分析师节省时间。”原始材料其实只显示，一小组自愿参加者在已测任务中准备初稿所用时间较少。句子虽然流畅，却越过了证据能够支持的范围。真正有效的流程，应在生成前划清这条边界，并让后续每个关键判断都能追溯、质疑和纠正。

生成式AI动笔前，团队必须先决定什么？

生成之前，团队必须先确定文档为何而写、写给谁、何时交付、错误会造成什么后果、谁对成品负责，以及文档最终要支持哪项决定或行动。任务包还要写明获批工具、允许输入的信息范围、输出格式和批准人。NIST的AI RMF要求记录人工智能的知识局限、预期应用范围、输出使用与监督方式，并区分人机职责；落到起草工作中，就是先说清模型可以做什么、不能推断什么，以及谁有权把待审草稿接受为正式商业文件。

• 任务定义：目的、受众、截止时间、错误后果、责任人和所支持的决定。
• 信息边界：获批工具、允许输入的数据类别、禁止输入的材料和来源登记表。
• 生成合同：证据卡编号、输出模板、允许形成的内容、禁止推论和缺证标记。
• 审核路径：来源确认、证据核查、编辑、触发式专业审核、最终批准和例外升级。
• 记录规则：哪些输入、输出、版本和关键修改因业务需要或适用制度而保留。

来源进入获批集合，只表示它被允许用于当前任务，并不自动证明它完整、正确、最新、适用或具有相应使用权限。批准人仍要看到每份来源的范围和局限，权限、隐私、安全、档案或专业判断则交由相应的组织责任人处理。模型只能生成待审材料，不能自行扩大信息边界、解释内部制度，也不能批准自己的输出。把这些决定写进任务包，能让缺口在起草前暴露，而不是藏进完成度很高的文字里。

获批来源怎样转化为可用的起草证据？

获批来源要先经过登记和拆解，才能成为可核验的起草证据。来源登记表应为每份材料保存稳定编号、责任方或发布者、版本或日期、适用范围、批准状态、访问条件、已知局限和刷新触发条件。NIST生成式人工智能资料建议记录系统对上游数据来源的依赖，并审查数据的准确性、代表性、相关性和适用性。这意味着“能找到”不是批准标准；权威性、相关性、时效性、适用性、权限和已知缺口都要进入人工判断。

• 来源登记表回答“这份材料是什么、由谁负责、当前版本能用于哪里，以及何时需要重新审查”。
• 证据卡记录来源编号、原文或测量值、精确定位、可支持结论、限定条件、允许用途和禁止推论。
• 审核者应能只看证据卡和原始段落就复核支持关系，不必依赖模型对来源的转述。

例如，证据卡E-04指向试点评估第3.2节，只允许写“参与者在已测任务中准备初稿所用时间较少”，同时保留样本较小、参与者为自愿加入、没有对照组、审核时间另行记录等限制。它明确禁止预测分析师能节省多少时间，也不能把观察结果写成已证明的组织级生产率提升。NIST的实验性工作把权威文档语料、带引用的输出、引用评价和结构化结果组合起来，并形成证据关联的审计轨迹；它说明映射关系有用，但仍不是成熟生产标准或自动批准依据。

怎样让模型起草时不悄悄填补证据空白？

要防止模型悄悄补空白，就必须把证据层与读者看到的草稿分开，并给模型一份可执行的生成合同。输入中可以提供证据卡编号和输出结构，但生成文字不能冒充原始证据。合同应限定模型只写证据允许的决策背景、观察、未决风险、选项和建议；一旦支持不足，就保留统一、醒目的“需要证据”标记。这样，审核者可以先检查每项主张靠什么成立，再讨论结构、语气和可读性。

• 不得使用模型的一般知识、未登记的市场数据、供应商宣传或未经说明的内部制度解释。
• 不得创造看似真实的引文、页码、统计值或来源编号，也不得把限定条件从草稿中删去。
• 发现缺口时停止扩写相应结论，标明缺少什么证据，并把补充来源交回批准流程。
• 输出应让关键句对应到证据卡编号，但编号只提供追踪入口，不代表主张已经核验。

NIST生成式人工智能资料建议审核并核验生成输出中的来源和引用，因此引用标签本身不能视为相邻主张已经获得支持的证明。审核者要回到卡片保存的原始段落，比较主体、范围、时间、因果关系和限定语是否一致。对于会影响决定、承诺或对外表述的内容，起草模型不能同时充当唯一事实核查者；即使让同一模型再问一次“是否准确”，也没有形成独立的证据决定。

有来源依据的草稿应由谁审核？

每个审核环节都应对应具名角色、明确问题和可记录的决定，而不是只写一句“人工把关”。NIST的AI RMF指出，角色、职责、沟通路径、人机角色和监督责任应有清晰记录。来源责任人确认获批集合与版本；证据审核者逐项比对关键句和底层段落；编辑改善结构、受众适配和语气，但不能悄悄改变证据含义；触发政策或专业风险时，由相应责任人审核；最终批准人接受建议、条件和剩余不确定性。

• 来源责任人决定哪些材料进入边界，并确认登记信息和证据卡忠实于原文。
• 证据审核者判断关键句是否获得支持，以及限定条件是否完整保留。
• 编辑只在不改变证据含义的前提下优化逻辑、层次、语言和受众适配。
• 专业审核者处理被触发的信息治理、政策、方法或领域风险，不替代其他审核。
• 批准人决定文档能否发布，并对建议、条件与尚未消除的不确定性作出业务接受。

小团队可以让一人兼任多个角色，但证据准确性、编辑质量、专业风险和最终发布仍要分别判断。长稿或后果重大的文档，宜按关键主张或分句核对，而不是只凭通读后的整体印象。LongEval在两组长篇摘要研究数据集中发现，采用分句等更细粒度的判断方式降低了标注者之间的分歧；把这一结果用于商业起草只是谨慎的实践推论，并非已在所有业务场景得到验证。自动映射工具可以辅助分流，但NIST的引用核验管线仍是实验性评估研究，不能代替人工批准。

真正有依据的草稿，不只会列出来源，还能让关键主张被追溯、质疑、纠正并由人知情批准。

哪些修改必须留下明确记录？

当修改改变事实含义、解释、建议、承诺、义务、风险处理、来源依据或批准状态时，应建立显式记录；普通措辞、标点和格式调整可留在常规版本历史中，除非组织制度另有要求。NIST生成式人工智能资料指出，溯源元数据可以包含创建者、日期、修改和来源，并建议保存内容变更及相关元数据记录。这里的重点不是记录每次敲键，而是让后来者看得出关键结论为何改变、依据是否随之变化，以及谁接受了新的表述。

• 修改前与修改后的文字，以及修改原因。
• 受影响的证据卡、来源版本和仍需保留的限定条件。
• 审核人、批准人和决定时间，以及修改是否触发新的专业审核。

试点句子的修订可以写为：“在已测的试点任务中，参与者准备初稿所用时间较少；样本较小且参与者为自愿加入，因此不能据此确定分析师工作的效果。”记录说明应指出，原句删除了不受支持的“证明”和面向分析师群体的外推，并重新对齐证据卡E-04。至于提示词、输入、输出、草稿和修改记录保留哪些、保留多久，不应套用“全部永久保存”的统一规则，而要由业务需要、信息敏感性及适用的档案、隐私、安全、合同或其他组织制度共同决定。

简报、报告和日常消息应采用同样重的流程吗？

三类文档不需要同样重的手续，但都应保留“先定边界、再生成、核对证据、人工批准、必要时留痕”的基本模式。决策简报重在决定人、选项、建议和不确定性；分析报告还要交代问题、方法、时间范围、排除项和替代解释；日常沟通可只使用获批事实、日期、姓名、链接与固定表述，并由发送人检查。控制强度应随用途、信息敏感性、承诺程度和错误后果调整，而不是机械地按文档名称套模板。

审核深度不能只按篇幅决定。一封很短的消息如果形成合同承诺、公开声明或敏感信息处理安排，可能比一份低风险的内部长稿需要更严格的复核；反过来，格式固定、事实已获批且不产生新承诺的例行通知，可以采用较轻流程。模板的作用是保留同一控制逻辑，而不是把所有文档送进同一条冗长审批链。

来源和工作变化后，流程怎样持续可靠？

流程要持续可靠，就必须把来源刷新、成品抽查、纠错分析和例外处理变成固定运营节奏。NIST生成式人工智能资料建议为内容溯源明确周期性复核责任，并记录人工监督角色。来源责任人应在事实、版本、相关性、访问权限或组织状态变化时重新审查材料，而不是等到下一次错误发生。定期抽查已完成任务包，则可以检查主张是否仍可追溯、限定条件是否保留、触发的审核是否发生，以及关键修改是否有记录。

• 为每类来源指定刷新责任人，并把版本变化、事实变化、权限变化和适用性变化设为触发条件。
• 抽查成品中的关键主张、证据定位、限定条件、专业审核和修改记录，不只看文字是否流畅。
• 汇总被退回的主张、反复缺失的证据、常见越界推论和未按时完成的审核。
• 同类错误反复出现时，优先修改证据卡、输出模板或生成边界，再决定是否增加末端审核。

当出现边界外来源、敏感信息、权限疑问或专业审核触发条件时，应暂停受影响部分，由具名责任人解决例外后再恢复。决定记录至少要说明问题、责任人、处理结果，以及来源集合或使用条件发生了什么变化。落地时不妨先选择一种反复出现的文档，把证据边界、审核决定、例外路径和关键修改规则全部做成可见字段。涉及隐私、安全、法律、合同、档案、政策或专业判断时，应咨询相应的组织责任人；适用要求由他们确定，而不是由起草模型解释。