第 6 章 守りの設計6.2

権限分離と最小権限

AIアプリケーションの権限を必要な操作と対象に絞る考え方です。問い合わせの下書き作成を例に、認証情報の置き場、モデルへ渡す情報、実行側と下流での認可、権限変更時の確認を説明します。

要点

  1. 最小権限とは、仕事に必要な対象と操作だけを許可する原則です。
  2. AIアプリケーションでは、文章を読んで提案する部分と、認証情報を使って実行する部分の権限を分けます。
  3. 秘密の値をモデルへ渡さず、実行側と下流のサービスで利用者と対象に応じた認可を行います。
  4. 秘密を隠すだけでは操作の制限にならないため、許可されない対象や権限変更後の要求が拒否されることまで確かめます。

定義

最小権限(least privilege)
ある仕事に必要な対象と操作だけを許可する原則です。
権限分離
異なる責任を持つ人や処理へ、権限を分けて持たせる設計です。

最小権限(least privilege)とは、ある仕事に必要な対象と操作だけを許可する原則です。権限分離は、異なる責任を持つ人や処理へ、権限を分けて持たせる設計です。AIが回答案を作る仕事なら、案の作成に必要な文書を読めることと、その案を顧客へ送れることは分けて考えます。

架空の問い合わせ支援アプリを考えます。担当者が選んだ問い合わせと、その担当者が閲覧できる案内文書をAIが読み、返信の下書きを作ります。担当者は下書きを直して保存し、外部への送信は別の機能で行います。この仕事に、全顧客の履歴を読む権限、利用者を追加する権限、メールを一括送信する権限は必要ありません。以下は、この用途に合わせた独自の設計例です。

認証と認可が受け持つ判断

認証(authentication)は誰が利用しているかを確かめること、認可(authorization)はその主体に対象への操作を許してよいかを判断することです。ログインに成功した担当者でも、別の部署が扱う問い合わせを読めるとは限りません。OWASPの認可の手引きも、本人の確認と、個々の資源へのアクセスの許可を区別しています(Authorization Cheat Sheet)。

AIが選ぶ検索や保存などの機能を、ここではツールと呼びます。ツールを一覧に表示すること、ツールが接続先へログインできること、利用者にその操作を許すことは、それぞれ別の条件です。「検索ツールを使ってよい」という許可だけでは、検索してよい問い合わせの範囲まで決まりません。

まず、許可を文章ではなく対象と操作の組で整理します。この例なら、次のようになります。

処理必要な対象と操作与えない権限実行時に確認すること
問い合わせの取得担当者が扱える一件を読む全顧客の履歴の一括取得現在の担当者がその問い合わせを閲覧できるか
案内文書の検索閲覧可能な文書の必要箇所を読む文書の更新、アクセス設定の変更検索結果も利用者の閲覧範囲に収まるか
下書きの保存選んだ問い合わせに下書きを保存する別の問い合わせの上書き、外部送信保存先と操作が許可範囲に一致するか
利用者の管理この仕事には不要利用者の追加、管理者権限の付与そもそも呼び出せる機能として提供しない

「読み取り専用」でも対象が広すぎれば、不要な情報を読む権限は残ります。操作の種類に加え、部署、顧客、文書、問い合わせなどの範囲も絞ります。ツールの機能と資源ごとの権限を小さくする考え方は、OWASPのAIエージェント向け手引きにも示されています(AI Agent Security の Tool Security & Least Privilege)。

秘密の値をモデルへ渡さない構成

認証情報(credentials)は、接続先に対して利用者やプログラムの身元を示すための情報です。APIキーやアクセストークンのように、秘密の値を持つものがあります。APIはプログラムがサービスの機能を呼ぶ接点、アクセストークンはアクセスの際に提示する資格情報です。下書きの文章を考えるモデルに、これらの値を読ませる必要はありません。

この例では、秘密を保管して利用を制限する仕組みに接続用の値を置き、ツールを実行するアプリケーションだけが必要な値を取得します。モデルには「どの問い合わせの案を作るか」と、許可された本文を渡します。モデルが下書きの保存を提案した後、実行側が許可を確認して接続先を呼び、モデルには保存できたかなど必要な結果だけを返します。

図 6.2.1 秘密の値をモデルへ渡さない構成は、接続用の秘密をモデルの文脈へ渡さず、実行側だけが取り出す構成を示します。

秘密の値をモデルへ渡さない構成モデルが保存を提案し、実行側が許可を確認して接続先を呼び、必要な結果だけをモデルへ返す流れと、接続用の値を実行側だけが取得する関係モデルが保存を提案実行側が許可を確認実行側が接続先を呼ぶ必要な結果だけ返す接続用の値は保管先に置く
図 6.2.1 秘密の値をモデルへ渡さない構成

モデルへの指示文、会話履歴、検索する文書、ツールの説明、ツールの返答に秘密の値を混ぜないようにします。利用者の画面から見えない指示文でも、モデルが読む情報である点は変わりません。OWASPのAIエージェント向け手引きは、認証情報が文脈やログへ入り込むことをリスクとして挙げています。ここでは、その混入経路を減らすために、秘密を使う処理と文章を生成する処理を分けています。

秘密の管理サービスに保管しただけで分離が完成するわけでもありません。モデルが利用できる汎用のファイル閲覧機能や設定取得機能から秘密を読めるなら、別の経路が残ります。エラーの詳細や実行記録をそのまま返す場合も、接続情報が混ざっていないか点検します。値を取り除く処理に完全性を期待するだけでなく、返す情報を必要な項目に絞る設計にします。

OWASPの秘密管理の手引きは、秘密そのものへの細かなアクセス制御、必要な期間に限る利用、失効や交換を扱っています(Secrets Management の2.3・2.4節)。アプリ全体の管理用認証情報を共用するのではなく、検索と保存など、仕事ごとの必要範囲に応じて接続権限を選びます。

下流の処理まで利用者の権限を保つ手順

下流とは、ツールの呼び出しを受けて実際にデータを返したり変更したりする側です。秘密をモデルから隠していても、実行側がどんな提案でも管理者権限で処理すれば、操作の制限にはなりません。モデルの出力を受け取る場所と、実際のデータ操作を行う場所で、許可の条件を結び付けます。

次は、下書き保存までの処理をつなぐための確認手順です。特定製品の設定手順ではなく、各部品の責任を決める例です。

  1. 利用者を確定する情報の経路を決めます。 ログイン済みの状態など、アプリケーションが検証した情報から利用者を識別します。会話文やモデルが作った「担当者名」を、本人の証拠として採用しません。
  2. 操作と対象を実行側で照合します。 下書きを保存できる利用者か、保存先の問い合わせを扱えるかを確認します。モデルの返答に「許可済み」とあっても、その文言を認可結果として扱いません。
  3. 接続先へ渡す権限を限定します。 下流で利用者単位の認可ができる場合は、その仕組みで対象と操作を検査します。プログラム用の共通アカウントしか使えない場合も、呼び出す側で利用者と対象の対応を強制する必要があります。接続先の権限が広く、この制限を実装・確認できないなら、その操作を自動化の対象から外すなど範囲を見直します。
  4. 拒否と不明な結果は、どちらも実行しない扱いにします。 対象が見つからない、利用者を確定できない、権限を確認する機能が応答しない場合を、許可として扱いません。画面でボタンを隠すだけでなく、呼び出しを受ける側で止まるようにします。
  5. 権限が変わった後も確認します。 下書きを作った後で担当者の所属や閲覧権限が変わる場合があります。保存するときに改めて確認し、前に読めたという理由だけで操作を続けないようにします。

OWASPの認可の手引きは、既定で拒否することと、要求ごとに権限を検査することを勧めています。AIエージェント向け手引きも、認可をモデルの文脈の外にある実行部品で強制するとしています。これらを、この例では利用者・操作・対象の組に当てはめています。担当者の確認を必要とする操作でも、その確認は担当者自身が持たない権限を与えるものではありません。

設定後の点検と残る限界

点検は、自分たちが管理し、所有者または管理者の許可を得た試験環境で行います。架空の問い合わせと試験用の利用者を用意し、許可した操作ができることと、許可しない操作ができないことを対にして確認します。接続成功だけを合格条件にしないためです。

  • 担当範囲の問い合わせで下書きを保存でき、担当外の問い合わせでは拒否される。
  • 検索用の接続権限では保存や利用者管理ができない。
  • 秘密の値がモデルへ送る情報、ツールの返答、記録に入らない。
  • 権限を取り消した後や権限確認ができないときは、対象の操作が実行されない。
  • 拒否の理由と処理結果を、秘密の値を記録せず追える。

秘密が漏れた場合は、表示やファイルから消しただけで利用が止まったとは判断できません。OWASPの秘密管理の手引きは、漏えいした資格情報の失効と交換を含む対応を説明しています(9.2節)。利用を止める担当と手段も、事前に決めておきます。

最小権限は、許可された範囲で誤った回答を作ることまでは防ぎません。また、読ませてよい資料であっても、その内容を誰へ返してよいかは別に確認が必要です。権限分離は、モデルの出力だけを根拠に利用者の権限を越えた操作が行われないようにするための土台として使い、回答内容の点検や送信先の検証と組み合わせます。

既存の接続権限との差分を記録する

対象と操作の表は、必要な権限を決めるためのものです。すでに動いている接続が実際に何を許されているかは、別に確かめます。以下は架空の問い合わせ支援アプリでの運用例で、記録項目や判断は外部の基準ではありません。

  1. 接続ごとに実際の権限を書き出します。 検索用と保存用の接続について、接続先の管理画面や設定から、許可されている操作と対象の範囲を写します。モデルへ見せるツールの説明ではなく、接続先側の設定を出典にします。
  2. 設計表と並べて差を分類します。 差ごとに扱いを決めます。
差の種類架空の例判断の例
操作が多い検索用の接続で文書の更新もできる更新できない接続に替えるまで、その接続を使う機能を公開しない
対象が広い保存用の接続で全部署の問い合わせを書き換えられる担当外への保存が呼び出し側で拒否されると確認できるまで保存機能を公開しない。制限を確認できなければ自動化から外す
確認できない接続先の設定画面に範囲が表示されない過大な権限がある可能性を残し、その接続の公開を保留して所有者に確認する
  1. 結果を1行ずつ残します。 確認日、確認者、接続名、出典にした画面や設定、差の分類、決めた扱いを記録します。新しいツールや接続先を追加したときは、この表に行を足してから点検に進みます。

自社での取り組みについて相談する

AI システムの権限・承認設計やセキュリティ対策について、株式会社UNIQUEX にご相談いただけます。

記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。

UNIQUEX に相談する

参考文献

  1. OWASP Cheat Sheet Series. Authorization Cheat Sheet — OWASP Foundation、固定版・更新日表示なし、2026-10-09取得、Introduction・Enforce Least Privileges・Deny by Default・Validate the Permissions on Every Request・Verify that Authorization Checks are Performed in the Right Location(参照日 2026-10-09)
  2. OWASP Cheat Sheet Series. Secrets Management Cheat Sheet — OWASP Foundation、固定版・更新日表示なし、2026-10-09取得、2.3 Access Control・2.4 Automate Secrets Management・8.3 Detection lifecycle・9.2 Remediation(参照日 2026-10-09)
  3. OWASP Cheat Sheet Series. AI Agent Security Cheat Sheet — OWASP Foundation、固定版・更新日表示なし、2026-10-09取得、Key Risks・Tool Security & Least Privilege・Tool Authorization Middleware・High-Impact Action Integrity Controls(参照日 2026-10-09)

更新履歴

  • 初版。OWASP公式手引きの確認済み箇所を根拠に編集。問い合わせの例は架空。実装検証は行っていない。
  • 用語集に定義を追加
  • 実行環境の説明を整理。
  • 日本語表現を校正し、助詞・語順・主語と述語の対応を改善
  • 具体的な確認対象、判断の分岐、残す記録の例を追加。
  • 本文と更新履歴の説明を簡潔化

Markdown 版