機密情報と隠れた文脈の漏えい
AIが扱う情報のどこから漏えいが起こるかを、社内検索の架空例で説明します。非表示の指示、検索した資料、ツールへの送信、ログや保存済み回答を区別します。
要点
- 機密情報は、AIが読む資料や会話から、回答だけでなくツールへの送信や記録を通じても漏れることがあります。
- 利用者の画面に見えない指示や資料も、モデルが読めるなら秘密を保管する場所とはみなせません。
- 検索で内容が似ていることと、その利用者が読んでよいことは別です。
- 何が入ったか、誰へ渡ったか、どこに残ったかを分けて、漏れる条件と影響を捉えます。
定義
- 機密情報の漏えい
- 公開してよい範囲を越えて、個人情報や社内の非公開情報などが相手へ渡ることです。
- 隠れた文脈
- AI が回答を作るために受け取る指示、会話履歴、検索した資料などのうち、利用者の画面へそのまま表示しないものです。
- 検索拡張生成(RAG)
- 検索で見つけた資料をモデルへ渡し、回答を作る方式です。
- 埋め込み
- 文章の特徴を数値の列に変え、近い内容を探す検索の方法です。
- キャッシュ
- 応答を速くするために保存する回答のことです。
機密情報の漏えいとは、公開してよい範囲を越えて、個人情報や社内の非公開情報などが相手へ渡ることです。AIが回答を作るために受け取る指示、会話履歴、検索した資料などを、ここでは文脈と呼びます。そのうち利用者の画面へそのまま表示しないものが、この記事で扱う隠れた文脈です。見えないことと、秘密が守られることは同じではありません。
架空の社内検索サービスを考えます。社員が出張精算の方法を質問し、AIが規程から必要な箇所を探して説明します。検索先に人事担当だけが読める個別の相談記録も含まれていたらどうでしょうか。質問に似た語があるという理由で相談記録が選ばれ、回答へ個人の事情が混ざる可能性があります。正しく要約できていても、読む権利のない人へ渡れば漏えいです。
情報が入る場所と漏れる先
漏えいを考えるには、秘密の種類と、情報が移動する経路を分ける必要があります。個人情報、非公開の業務資料、接続に使う秘密の値では、漏れた後の影響が異なります。OWASPは、個人情報や業務上の機密などがモデルの出力を通じて露出するリスクを挙げています(LLM02:2025)。
画面の回答だけが出口ではありません。AI Agent Securityは、ツール呼び出しを通じた漏えいと、文脈やログへの機密混入も挙げています。ログとは、処理の調査などに使う実行記録です。次の表は、この観点を社内検索サービスへ当てはめた架空の例です。
| 経路 | 漏れる条件の例 | 情報を受け取る先 |
|---|---|---|
| 回答 | 閲覧対象外の相談記録を含む文脈から回答を作る | 質問した社員 |
| ツール呼び出し | 機密の質問文を、許可されていない外部検索へ渡す | 外部の検索サービス |
| ログ | 取得した相談記録をそのまま保存する | ログの閲覧者や記録の保管先 |
| 保存済み回答の再利用 | 別の利用者向けに作った回答を権限の違う社員へ返す | 後から質問した社員 |
外部検索が結果を読むための機能でも、質問文は相手へ送られます。そのため「読み取りの機能だから持ち出しはない」とは判断できません。漏えいの相手も、インターネット上の第三者に限りません。同じ会社の中でも、相談記録を読める人と読めない人がいる例なら、その境界を越えることが問題です。
非表示の指示に含まれる情報
システムプロンプトは、回答の仕方などをモデルへ伝える、運用側の指示です。利用者の画面に表示しない指示でも、モデルが読む情報であることは変わりません。そこに接続用の秘密の値を置けば、指示文の露出が、別のサービスを利用される危険につながります。
指示文が知られることと、機密が漏れることは区別します。「回答を短くする」という方針が見えた場合と、接続用の秘密や非公開の業務規則が見えた場合では影響が違います。OWASPの2025年版は、システムプロンプト自体を秘密やセキュリティ上の制御とみなさず、機密を置くことや認可をモデルに委ねることを問題にしています(LLM07:2025)。
社内検索の例で、運用指示に「人事記録を一般社員へ返さない」と書いてあっても、閲覧権限を持つ社員の判定を文章だけに任せると、取得した情報を守る根拠が弱くなります。認可とは、誰がどの情報や操作を利用してよいかの判定です。指示に従うよう期待することと、取得を許可することは別の役割です。
隠れた文脈には、指示のほか、過去の会話を後で利用するためのメモリもあります。利用者をまたいで共有されれば、前の会話に含まれた情報が別の会話へ届く経路になります。AI Agent Securityが利用者やセッション間のメモリ分離を挙げるのも、この境界を扱うためです(Memory & Context Security)。
検索の近さと閲覧権限の違い
検索で見つけた資料をモデルへ渡し、回答を作る方式を、検索拡張生成(RAG)と呼びます。検索には、文章の特徴を数値の列に変え、近い内容を探す埋め込みという方法があります。内容が質問に近いことは、質問者へ開示してよいことを意味しません。
冒頭の例では、規程と相談記録の両方に出張精算に関する語があり得ます。検索の関連度が高くても、相談記録の閲覧範囲が一般社員へ広がるわけではありません。元の文書では閲覧制限があっても、検索用に切り分けた断片から制限情報が抜けたり、取得時に照合されなかったりすれば、モデルへ渡る経路が生まれます。OWASPのRAG Securityは、断片へのアクセス制御の引継ぎと、取得時の権限確認を扱っています(Section 4)。
また、数値の列に変わったから匿名になったとはいえません。OWASPは、埋め込みから元の情報が漏れるリスクを説明しています。ここから「どんな埋め込みでも原文を完全に復元できる」と結論付けることもできません。検索用の表現になったことだけを理由に、機密性がなくなったと扱わないための論点です(LLM08:2025、RAG Security、Embedding Privacy)。
保存された複製と説明の限界
元の資料だけを見ても、情報の残り方は分かりません。応答を速くするために保存する回答をキャッシュと呼びます。人事担当の回答がキャッシュに残り、一般社員の似た質問にも返される例では、最初の検索が正しくても、その後の再利用で漏れる条件が生まれます。権限変更後も古い回答を返す問題や、ログに取得内容を残す問題もあります(RAG Security、Section 11・12)。
図 1.4.1 キャッシュを通じて漏れる流れは、人事担当への回答が保存され、権限の異なる利用者へ再利用される経路を示します。
原因を整理するときは、モデルへ入った情報、実際の送り先、残った複製を別々に追います。架空の社内検索なら、元の相談記録、検索した断片、生成した回答、外部へ送った質問、キャッシュやログが対応する対象です。これは情報の流れを説明する整理であり、全経路を列挙した検査基準ではありません。
一般的な分類だけでは、特定サービスの保存期間や、入力を学習へ使うかどうかは判断できません。この説明も、個別製品の契約や実装を確認した結果ではありません。境界を描く方法は6.1、権限と秘密の分離は6.2、入出力の検証は6.4で扱っています。
相談記録1件を追跡する確認表
経路を一覧にした後は、閲覧制限のある文書を1件選び、その複製がどこまで届くかを順に確かめます。以下は自組織の試験環境で架空の社内検索を点検する場合の運用例です。項目や判断の言い回しは、特定製品の仕様や外部の基準ではありません。
| 追跡する対象 | 確かめる方法(運用例) | 問題と判断する状態 | 記録する内容 |
|---|---|---|---|
| 検索用の断片 | 試験用の相談記録を登録し、断片に閲覧範囲の情報が付いているかを見る | 断片だけでは閲覧範囲が分からない | 文書の識別子、断片の数、付いていた閲覧範囲 |
| 取得結果 | 一般社員の試験用アカウントで出張精算について質問する | 相談記録の断片がモデルへ渡る文脈に入る | 質問文、取得された断片、質問した利用者 |
| 保存済み回答 | 人事担当で質問した後に、一般社員で似た質問をする | 人事担当向けの回答がそのまま返る | 回答を保存したときと返したときの利用者 |
| 外部への送信 | 試験用相談記録に関する質問で、模擬の外部検索へ送る内容を見る | 許可していない相談記録の語句や本文が送信される | 送信先、送った項目、許可範囲との照合 |
| ログ | 上の操作の実行記録を検索する | 相談記録の本文が残り、人事担当より広い範囲の人が読める | 保存先、残った項目、閲覧できる役割 |
ある経路で問題が出たときは、他の文書でも同じ条件で起こるかを確かめてから、対策の範囲を決めます。問題が出なかった場合も、試した文書と利用者の組を記録し、まだ確認していない経路と区別しておきます。
自社での取り組みについて相談する
AI システムの権限・承認設計やセキュリティ対策について、株式会社UNIQUEX にご相談いただけます。
記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。
UNIQUEX に相談する