第 2 章 脅威の整理と基準2.4

NIST AI RMFのAIリスク管理の枠組み

NIST AI RMFは、AIの用途と影響を整理し、評価と対応を結び付ける任意の枠組みです。1.0本文の項目を、担当、評価条件、公開判断の記録へ対応付けます。顧客向けFAQへの変更を例に、権限外の情報や根拠のない回答をどう扱うかを示します。

要点

  1. NIST AI RMFは、AIの用途と影響を整理し、評価と対応を結び付ける任意の枠組みです。
  2. 1.0本文の項目を、担当、評価条件、公開判断の記録へ対応付けます。
  3. 顧客向けFAQへの変更を例に、権限外の情報や根拠のない回答をどう扱うかを示します。

NIST AI RMFは、AIを使う目的と影響を整理し、評価結果から利用の継続・変更・停止を決めるための任意の枠組みです。AI RMF 1.0の本文を読むと、四機能の名前を覚えることよりも、誰がどのリスクを測り、残ったリスクについてどう判断するかを記録することが重要だと分かります。

2026年10月28日時点で、NISTは1.0の改訂作業中と案内しています。以下の番号は1.0本文に対応します。

原本から実施事項へ落とす対応

NIST AI 100-1のPart 2には、Govern・Map・Measure・Manageの機能と各項目があります。以下の要約は原本の項目に基づき、右列は当サイトが提案する記録の例です。表の並びは一度だけ実行する工程順ではありません。

原本の項目整理すること残す記録の例
GOVERN 2.1リスク管理の役割・責任・連絡経路評価担当、公開判断者、事故時の連絡先
MAP 1.1用途、利用される状況、関係する期待など誰が何の判断に回答を使うか、扱う情報と利用範囲
MEASURE 1.1優先するリスクに対応した測定方法・指標測定するリスク、測定しない・できないものと理由
MEASURE 2.1評価に使ったデータ・指標・道具の記録評価データ、対象の版、採点方法、合否条件
MANAGE 1.3優先度の高いリスクへの対応公開延期、機能制限、是正と再評価の計画

社内FAQを顧客向けへ変更する記入例

以下は架空の計画例です。社内文書を検索して回答するサービスを、顧客向けにも公開する変更を考えます。利用者が変わるので、社員なら理解できた略語の誤解や、社内限定の文書が回答に混ざる経路を調べ直します。検索対象の文書を、モデルの学習データと混同しないことも必要です。

入力・条件評価と判断の例対応と記録
公開FAQと社内限定文書を含む検索索引顧客役の試験利用者で検索し、限定文書の本文・要約・出典が返らないか確認返った経路は公開対象から外す。利用者の権限、質問、参照文書ID、応答を記録
公開FAQに答えがない質問根拠がないのに料金や契約条件を断定したら未達とする自動回答を止めて問い合わせ窓口へ渡す。回答を控える条件を評価仕様に残す
正答が確認できる問い合わせ群正答の定義を先に決め、誤答・回答拒否・処理失敗を分けて数える誤答だけを追加学習で直すと決めつけず、検索・指示・資料のどこが原因か調べる

合否条件はこのサービスの計画であり、NISTが定める一律の閾値ではありません。試験で漏えいが見つからなかったことから、未検査の質問や権限の組合せも安全だとは判断しません。評価記録には、試した範囲と未検査の範囲を別に残します。

評価結果を公開判断につなぐ

公開判断者には、成功率だけでなく、重大な失敗例、再現条件、対応案を渡します。例えば権限外の出典が返る経路が残っていれば、その経路の停止か公開延期を選び、修正後に同じ入力と別の権限条件で再評価します。担当者、期限、再評価の対象版、判断理由を一つの変更記録にまとめます。

図 2.4.1 用途と評価を結ぶ管理は、用途と影響に合わせて判断体制と評価条件を整え、評価後の対応から用途を見直す関係を表す独自の整理です。原本の公式図ではありません。

用途と評価を結ぶ管理用途と影響に合わせて判断する体制と評価条件を整え、評価後の対応から用途の見直しへ戻す関係。用途と影響判断する体制評価の条件対応と見直し
図 2.4.1 用途と評価を結ぶ管理

この整理で確認できないこと

AI RMFの表を埋めること自体は、AIの安全性を証明しません。例えば6.4の実測では、意図を変える入力に対する出力が形式検査を通るケースがありました。型の検査、権限の検査、回答内容の評価を分け、どの試験で何を確認したかを記録します。実際の試験は所有者が許可した対象で行います。

自社での取り組みについて相談する

AI システムの権限・承認設計やセキュリティ対策について、株式会社UNIQUEX にご相談いただけます。

記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。

UNIQUEX に相談する