説明責任あるAIプログラムのための明確で情報源に基づく実践知。

AI戦略、自動化、ガバナンスを検索…
メニューを開閉

責任あるAIガバナンス

現場が維持できるAI台帳とリスク階層のつくり方

AI活用をモデル名ではなく業務文脈ごとに登録し、結果の重大性、自律性、規模、情報感度の4軸で固有のエクスポージャーを判定する実務設計を解説し、最も高い評価から社内レビュー経路を決め、証拠を必要に応じてリンクし、法的分類とは分けて管理しながら、変更時の再評価と廃止確認まで無理なく続ける方法を具体化します。

同僚たちが長い木製の会議机を囲み、無地の書類フォルダーと紙の束をテープで区切られた確認レーンに仕分けしている。

AI台帳は、評価書を詰め込む表ではなく、AI活用を適切な確認経路へ送るルーティング層です。同じベンダーでも、扱うデータ、権限、規模が変わればエクスポージャーは変わります。基礎レコードを小さく保ち、詳細証拠は必要時にリンクします。

実務で押さえる5原則

  • モデルやベンダーではなく、業務と出力後の行動が定まったAI活用を1件として登録する。
  • 発見用レコードは簡潔に保ち、詳細評価や統制証拠は必要な場合だけリンクする。
  • 4軸の最も高い重要な評価から暫定階層を決め、重大な軸を平均で相殺しない。
  • データ、権限、目的、所有者、依存関係、規模、統制、インシデントが変わればレコードを再開する。
  • 社内階層は確認作業を振り分けるものであり、法的・規制上の分類を決めるものではない。

AI台帳には何を1件として登録するのか

女性が会議机で無地の作業カードを緩やかな格子状に並べ、脇には青、薄茶、緑のフォルダーの束が分けて置かれている。

登録単位は、目的、業務、利用者、影響を受ける人、入力、出力後の行動が定まったAI活用です。NISTは目的、利用者、利用環境、影響、ライフサイクルの記録を重視し、OECDも人、文脈、データ、モデル、タスク、出力を横断してシステムを捉えています。製品名だけでは、提案を表示する利用と、外部処理を実行する利用の違いが見えません。

  • 目的、当事者、情報感度、行動権限、展開範囲、責任者が重要に異なればレコードを分ける。
  • 共有するベンダー、モデル、データ源、アプリ、評価、統制、承認、インシデントは複製せず関連付ける。
  • 個別案件の所有者と状態に加え、階層別件数、未解決事項、廃止状況も照会できるようにする。

入力を重くせずに台帳を役立てる項目は何か

黒い手袋を着けた女性が、無地のタブ付き薄型フォルダーを浅い黒い受け皿へ入れ、脇には厚いバインダーが積まれている。

最初に集めるのは、所有と振り分けに必要な項目です。NIST Playbookと英国の記録標準が扱う責任者、目的、データ、依存関係、確認、規模、状態などを簡潔に記録し、評価書や試験結果は条件付きでリンクします。

  • 利用ID・平易な名称、事業・技術所有者、目的・業務・禁止境界:検索、責任、用途変更を追跡する。
  • 利用者・影響当事者、入力区分・出所・最高の取扱区分:結果の重大性と情報感度を判断する。
  • 出力先・行動権限、供給者・モデル・権限・連携・上下流依存:自律性と波及先を捉える。
  • 人の確認、アクセス、試験、監視、代替、訂正と証拠リンク:統制の記載と有効性の証拠を分ける。
  • 状態、変更・確認日、4軸、暫定階層、上書き、理由、未知事項、適用義務へのリンク:再評価と並行確認を可能にする。

影響評価、ベンダー審査、試験、承認、監視、インシデントは、階層や上書き条件に応じてリンクします。統制の記載だけでは有効性の証明になりません。変更日、前回確認日、次回のリスク基準日も残します。

所有者が説明できる固有のエクスポージャー評価とは

横一列に座った参加者たちが、文字のない丸い木製トークンを長い机の上でそれぞれ別のまとまりに仕分けしている。

結果の重大性、自律性、規模、情報感度を3段階で評価します。これは引用資料の広い特性から組み立てた本稿独自の社内トリアージ案であり、各機関が規定、推奨、検証した手法ではありません。各軸に利用固有の根拠を1文添え、不明点は未解決とします。

  • 結果の重大性:レベル1は容易に戻せる不便や小さな手戻り。レベル2は意図的な訂正・復旧を要する重要な業務、金銭、顧客、従業員、評判への影響。レベル3は権利、重要な機会・サービス、健康・安全、生計、重要業務への深刻または戻しにくい影響。
  • 自律性:レベル1は人が採否を決める提案。レベル2は限定的・事後の確認を伴う順位付け、推奨、振り分け、行動開始。レベル3は案件ごとの有効な承認なしに外部行動を実行し、記録・権限・資源を変える状態。
  • 規模:レベル1は限定的な試行。レベル2は部門や重要工程で反復され、相応の量や複数の利用先がある状態。レベル3は全社、公開、複数市場、高頻度、リアルタイム、または影響が連鎖する深い統合。
  • 情報感度:レベル1は公開・合成・承認済み非機密情報。レベル2は社内機密、通常の個人情報、顧客内容、限定権限。レベル3は高度に機微・規制対象の情報、認証情報、秘密、特権資料、保護特性、精密な監視情報、重要記録への強い変更権限。

4軸の評価をどの確認経路へつなぐのか

会議机を囲む同僚たちが、開いた薄茶色の案件フォルダーと、書類ケース入りの透明な封印済み証拠袋を確認している。

暫定階層は4軸の最高評価で決めます。全軸レベル1はTier 1、レベル2がありレベル3がなければTier 2、レベル3が一つでもあればTier 3です。これは重大な軸を平均で隠さないための本稿の安全策です。許容外の活動、深刻な影響、機微情報と広い権限、弱い人的統制、低い可逆性、連鎖依存、重要事故、適用義務、未解決事実は上方振り分けの条件です。

固有のエクスポージャーを先に評価し、統制の設計と証拠、残余リスク、条件、承認は別に記録します。この分離と以下の3経路は本稿の運用案であり、各社の許容度と義務に合わせて調整が必要です。

組織の許容度に合わせて調整する3つの社内確認経路
社内階層と経路最低限の確認判断と証拠監視と再開
Tier 1:登録所有者が目的、境界、承認済みツールとデータ、標準統制、手順を確認組織の標準方針に基づく承認と、根拠・手順へのリンクリスクに応じた所有者確認と、重要変更による再開
Tier 2:評価当事者、データ、監督、供給者、依存関係、試験、代替、訂正経路を横断確認統制証拠、残余リスク、条件、監視計画を責任者が判断定義した指標、問題経路、証拠更新、変更時の再評価
Tier 3:強化確認独立した検証と領域専門家が必要性、代替、権限、可逆性、統制、事故・終了計画を確認方針で定めた権限者が明示承認し、未解決または許容外なら制約・停止エクスポージャーに合わせた密な監視と、事故・統制不全・範囲変更による即時再開

法務、規制、契約、プライバシー、セキュリティ、労務、記録管理、業法上の確認は別経路です。社内Tierは作業の振り分けに限り、適用分類や義務の判断は権限と専門性を持つ担当者へ回します。

AI活用の変更は階層にどう表れるのか

女性が文字のない回答用紙を確認し、隣の男性は閉じた黒い書類ケースのそばで、未接続の黒い認証トークンを掲げている。

データ、権限、自律性、展開範囲が変われば、同じモデルでも階層は変わります。架空の試行では、アシスタントが承認済み情報から回答案と出典を作り、担当者が編集して送信します。アカウント判断、自動送信、返金、本人確認・決済情報は対象外です。

  • 結果の重大性はレベル2。誤案の送信で方針を誤表示し、顧客への訂正が必要になり得る。
  • 自律性はレベル1。下書きまでで、送信内容は担当者が案件ごとに決める。
  • 規模はレベル1。一チームと限定メッセージ群の試行にとどまる。
  • 情報感度はレベル2。認証環境で通常の顧客情報と社内アカウント文脈を扱う。

最高評価から暫定Tier 2です。送信前確認、出典、書き込み禁止、アクセス制御、サンプリング、苦情経路、手動代替は統制として記録し、固有評価から差し引きません。本人確認・決済異議情報、返金、状態更新、自動送信、複数地域展開を加えると、結果、自律性、規模、情報感度はすべてレベル3です。拡張前にTier 3と並行義務確認へ送り、元の承認は引き継ぎません。強化確認は制約や停止にもつながります。

信頼される台帳では、データ、権限、規模の変化が、行だけでなく確認経路を変える。

ModelFold編集部

稼働後もAI台帳を最新に保つには

男性が消えたモニターの背面で入館証とケーブルを扱い、女性は取り外された機器のそばで茶色の証拠用封筒を閉じている。

最新性は、重要変更による再開と、リスクに応じた所有者確認で保ちます。NIST、OECD、英国標準は、管理責任、ライフサイクル、条件変化、更新を扱いますが、全組織に共通する確認周期は定めていません。

  • 発見経路:業務受付、調達・更新、構成審査、アクセス・連携管理、モデル・データ手続き、申告、問い合わせ、事故、苦情。
  • 再開条件:目的、所有者、当事者、地域、データ、アクセス、出力、権限、人の確認、供給者、モデル、連携、量、統制、事故、義務、停止・廃止の重要変更。
  • 運用キュー:所有者不明、評価・上書き未解決、期限超過、変更判断待ち、統制証拠不足、供給者変更、廃止証拠不足。
  • ダッシュボード:階層・状態別件数、欠落、期限超過、未決変更、例外、統制不備、振り分け時間、廃止完了。

発見経路や件数は完全性の証明ではありません。廃止は、所有者、移行、依存関係、アクセス除去、必要証拠を確認する管理状態です。最初の30日で登録単位、項目、所有ルール、発見経路を決め、少数案件で4軸と上書きを調整した後、所有者確認、変更トリガー、滞留キュー、ダッシュボードを始めます。本手法はコンプライアンス判断ではありません。重要な利用には領域専門家と説明責任者の確認が必要です。

AI台帳とリスク階層のよくある質問

AIシステム台帳にはどんな項目が必要ですか?

利用ID、所有者、目的と境界、利用者と影響当事者、入力感度、行動権限、依存関係、統制、状態、日付、4軸の根拠、適用義務の確認状況を記録します。詳細評価や試験、承認、監視記録は必要に応じてリンクします。

AIのリスク階層はどう設計すればよいですか?

結果の重大性、自律性、規模、情報感度を3段階で評価し、各軸に根拠を1文残します。最高評価から暫定階層を決め、平均で相殺せず、上書き条件と組織の許容度・義務に合わせて調整します。

AI台帳はモデル、ベンダー、ユースケースのどれを管理しますか?

主レコードは、業務、目的、利用者、入力、出力後の行動が定まったAI活用単位にします。文脈が重要に違えば別件とし、共有するモデル、ベンダー、データ、評価、統制は関連付けます。

AI台帳はどのくらいの頻度で更新しますか?

目的、データ、権限、所有者、モデル、依存関係、規模、統制、事故、義務の重要変更時に再開し、リスクに応じた所有者確認を組み合わせます。普遍的な確認周期はありません。

社内のAIリスク階層で法的な高リスク該当性も決まりますか?

いいえ。社内階層は確認作業の振り分けに限り、法的・規制上の分類には対応付けません。適用要件は法務、コンプライアンス、プライバシー、セキュリティ、調達、記録管理、労務、業法の担当者が別経路で確認します。

ModelFold logo

ModelFold 編集デスク

AIが企業の現場に実際どう根づくのかを取材しています。出典を明示した情報源から出発し、取材で分かった事実と私たちの見解を区別したうえで、文書化された編集管理のもとで調査と草稿にAIを活用しています。個々の専門家による確認に代わるものではありません。