根拠に基づく生成AI文書作成ワークフローの設計

根拠に基づく生成AI文書作成は、巧みなプロンプトや仕上げの事実確認ではなく、証拠、生成文、レビュー判断、承認を別々の成果物としてつなぐ管理工程です。例えば「試行で分析担当者の時間削減が証明された」という一文は、少人数の希望者が指定課題の初稿準備に短い時間を要したという資料から、対象範囲も因果関係も越えてしまいます。文章が自然で引用らしき表示があっても、その越境は消えません。

生成AIへ渡す前に、何を決めておくべきか

生成を始める前に、文書の目的、読者、期限、誤りが招く結果、説明責任を負う担当者、提出形式、文書が支える判断を一枚の作成票で確定します。NISTのAI RMF Coreも、AIの知識上の限界、想定する利用範囲、出力の監督方法、人とAIの役割を明確にすることを求めています。これは任意の枠組みであり、個別文書への法的要件ではありません。

• 利用を認めたAIツールと、入力してよい情報区分
• 登録済み情報源と、各資料から作る証拠カード
• 生成してよい内容、禁止する推論、証拠不足の表示方法
• 根拠確認、専門確認、編集、最終承認の担当と記録基準

作成票では、モデルの出力を完成文書ではなくレビュー前の草稿と位置付け、誰が業務文書として受け入れられるかも明記します。承認済み資料の集合は入力範囲を管理する境界にすぎません。資料が完全、正確、最新、目的に適合、または法的に利用可能であることまでは保証しないため、許諾や機密区分を含む判断は組織内の担当者へ戻します。

承認済み資料を、どう作成可能な証拠へ変えるか

承認済み資料は、まず情報源台帳へ登録し、次に引用可能な根拠と限界を証拠カードへ切り出します。NISTの生成AIプロファイルは、上流データへの依存を記録し、利用データの正確性、代表性、関連性、適合性を確認するよう推奨しています。台帳には安定した資料ID、発行者、版または日付、対象範囲、承認状態、アクセス条件、既知の限界、更新契機を持たせます。

• 証拠カードIDと対応する資料ID
• 原文の該当箇所または測定値と、ページや節などの位置
• その箇所が直接支える主張
• 標本、期間、対象、方法に関する留保
• 許される表現と、禁止する推論
• 確認者と確認日

試行評価のカードE-04なら、「測定対象の試行課題では、参加者の初稿準備時間が短くなった」と記録し、少人数の自己選択標本、比較群なし、レビュー時間は別計測という限界を残します。許されるのは観察結果と限界の説明までで、分析担当者全体の削減率予測は禁止です。NISTの実験的な評価パイプラインも、信頼する文書群、出典付き出力、出典評価、構造化結果を分けて扱いますが、これは完成した業務標準ではありません。

証拠の空白を埋めずに、モデルへ草稿を作らせるには

モデルには証拠カードIDと出力ひな型を渡し、カード本文と読者向けの生成文を別レイヤーに保ちます。作成対象は、証拠が許す意思決定の背景、観察事項、未解決のリスク、選択肢、提案に限定します。裏付けのない箇所は「［根拠不足］」と表示させ、一般知識、ベンダーの未承認説明、明記されていない社内方針の解釈、架空の引用を追加させません。

1. 各段落が使用できる証拠カードを指定する
2. カードの留保を削除または弱めないよう指示する
3. 新しい主張に必要な証拠がなければ明示的に止める
4. 草稿と主張・証拠対応表を別々に出力させる

引用表示は追跡の入口にはなりますが、隣の主張を資料が本当に支えることの証明ではありません。NISTの生成AIプロファイルも、生成出力に含まれる情報源と引用の確認を推奨しています。したがって、モデル自身を唯一の事実確認者にせず、重要な文は元の該当箇所へ戻して人が照合します。足りない証拠が見つかった場合は、文章を補うのではなく資料境界の更新判断へ戻します。

根拠付き草稿は、誰がどの観点で確認するのか

レビューは「人が見る」という一工程ではなく、異なる問いと判断権へ分けます。NISTのAI RMF Coreは、役割、責任、連絡経路、人とAIの役割分担、監督責任を文書化して明確にするよう求めています。小規模なチームでは一人が複数役を担えますが、根拠の正確性、読みやすさ、専門上のリスク、公開可否を一つの曖昧な了承にまとめてはいけません。

• 情報源責任者：承認資料の範囲と版を確定する
• 根拠確認者：重要な節をカードと原資料へ照合する
• 編集者：根拠の意味を変えずに構成と読者適合性を整える
• 専門確認者：方針、機密性、許諾、専門判断の契機だけを確認する
• 承認者：提案、条件、残る不確実性を理解して公開を決める

長文や影響の大きい草稿は、文書全体の印象だけでなく、限定した主張や節ごとに照合します。LongEvalでは、2つの長文要約用データセットで、細かな単位の判定が評価者間の不一致を減らしました。ただし企業文書で同じ効果が測定されたわけではありません。自動的な主張・資料照合も候補抽出には使えますが、NISTの現在の取り組みは実験的な評価プローブであり、人の承認を置き換えません。

根拠のある草稿とは、資料名が付いた文章ではなく、重要な主張をたどり、問い直し、直し、責任を持って承認できる文章です。

どの修正を明示的に記録すべきか

明示的に記録するのは、事実上の意味、解釈、提案、約束、義務、リスク対応、根拠資料、承認状態のいずれかを変える修正です。語尾、表記、体裁などの通常の編集は、組織方針が別途求めない限り一般の版管理に残せば足ります。NISTの生成AIプロファイルは、作成者、日時、変更、情報源などの来歴メタデータと、変更内容に関する記録の維持を推奨しています。

例の文は「試行で分析担当者の時間削減が証明された」から、「測定対象の試行課題では参加者の初稿準備時間が短くなったが、少人数の自己選択標本であるため分析業務への効果は確立していない」へ直します。記録には変更前後、理由、影響を受ける証拠カードE-04、確認者、承認者、決定時刻を残します。これにより、単なる言い換えではなく、過大な一般化を除いた判断だと分かります。

• 変更前と変更後の表現
• 変更した理由
• 影響する資料と証拠カード
• 確認者と承認者
• 決定した日時
• 承認条件への影響

稟議書、分析報告書、定型連絡で統制をどう変えるか

統制の骨格は共通でも、文書ごとの判断と影響に合わせて作成票、確認、記録の厚みを変えます。稟議書は選択肢と承認条件、分析報告書は方法と限界、定型連絡は承認済みの事実や固定表現を中心にします。長さだけでレビューの深さを決めてはいけません。短いメールでも契約上の約束や例外を生むなら、長い低リスク資料より慎重な確認が必要です。

保存範囲も一律にはしません。入力、プロンプト、出力、途中稿、修正記録のどれを残すかは、文書の目的、誤りの影響、説明責任、情報区分、組織の記録方針に沿って決めます。機密情報、個人情報、契約で保護された情報を扱う場合は、利用可能なツールと保存先を担当部門へ確認します。モデルに保持期間や許諾の判断を委ねることはできません。

資料や業務が変わっても、信頼性をどう保つか

信頼性は、情報源の更新、完成済み作成票の抽出確認、修正理由の分析、例外処理を短い運用サイクルとして回すことで保ちます。NISTの生成AIプロファイルも、コンテンツの来歴を定期確認する責任と、人による監督の役割を定めるよう推奨しています。更新頻度は一律にせず、事実、版、関連性、利用許諾、社内での有効状態が変わった時点を見直し契機にします。

1. 資料ごとに更新責任者と見直し契機を登録する
2. 完成した作成票を抽出し、主張の追跡性と留保の残存を確認する
3. 専門確認の漏れ、境界外資料、重要修正の未記録を集計する
4. 同じ誤推論が続く場合は、証拠カードや出力ひな型を先に直す

承認境界にない資料や、方針、機密性、許諾、専門確認の契機が見つかったら、影響する部分の作成を止めます。指定された責任者へ送り、境界に追加するのか、使用を認めないのか、例外として扱うのかを記録し、明示的に解決してから再開します。下流の確認者を増やす前に、繰り返す誤りの発生源であるカード、ひな型、生成条件を修正する方が運用を明快にできます。

導入は、毎月作る稟議書や定例報告など一種類から始めるのが現実的です。証拠境界、役割別の判断、例外経路、重要修正の基準を見える形にし、実際の訂正から設計を更新します。機密情報、不確かな利用許諾、規制対象の表現、契約上の約束、専門判断、保存義務が関係する場合は、情報管理、プライバシー、セキュリティ、法務、記録管理、業務分野の適切な責任者へ判断を戻してください。