第 2 章 脅威の整理と基準2.18
ISO/IEC 42001によるAIマネジメント
ISO/IEC 42001は、組織のAIマネジメントシステムを扱う国際規格です。公開概要を基に、社内用の要約機能を顧客向けへ変更する際の検討例を示します。利用者、文書、保存条件、誤りの影響を見直し、評価と提供判断を記録します。
要点
- ISO/IEC 42001は、組織のAIマネジメントシステムを扱う国際規格です。
- 公開概要を基に、社内用の要約機能を顧客向けへ変更する際の検討例を示します。
- 利用者、文書、保存条件、誤りの影響を見直し、評価と提供判断を記録します。
ISO/IEC 42001:2023は、組織のAIマネジメントシステムを確立・実施・維持し、継続的に改善するための国際規格です。ISOの公開概要は、AIを使った製品・サービスの提供者と利用者を対象としています。ここでは公開概要にある対象と目的を出発点に、自社で用意する変更管理の記録を具体化します。有料本文の条項や認証審査の要件は解説していません。
社内用から顧客向けへ用途を変える場面
社内の担当者だけが使う文書要約を、顧客が文書をアップロードする機能として提供するとします。画面が同じでも、利用者、文書の種類、誤った要約の影響、問い合わせ先が変わります。旧用途で取得した評価結果を、そのまま公開可否の根拠にはできません。
次の表は当サイト独自の架空の記入例です。規格が指定する様式や実績ではありません。
| 変更する前提 | 変更前と変更後 | 再評価と残す記録 |
|---|---|---|
| 利用者 | 社内担当者から複数の契約顧客へ | 顧客間で文書を取得できない試験を追加。権限設定と拒否結果を残す |
| 文書の性質 | 整った社内文書から、表・画像・個人情報を含み得る文書へ | 対応形式と処理しない形式を定義。合成データで欠落や誤読を確認 |
| 誤りの影響 | 担当者が原文と照合する運用から、顧客が直接読む運用へ | 原文への参照と要約の限界を表示。根拠のない記述を発見した場合の修正窓口を用意 |
| データの保存 | 社内規程の管理下から、顧客ごとの契約条件へ | 入力・出力・ログ・バックアップの保存先、期間、削除条件を整理 |
| 提供判断 | 社内の試用から、製品責任者が公開を判断する段階へ | 残る問題、対応担当、公開条件、停止条件を判断記録へ添付 |
評価結果を判断につなげる
例えば、原文の表を読めないと判明した場合は、「要約精度を改善する」とだけ記録せず、当面は表を含む文書を対象外とするか、確認画面を設けるか、公開を延期するかを決めます。対象外にした場合も、アップロード時に識別できるか、利用者へ制限を説明できるかを確かめます。
顧客文書や入出力を一律に保存して監視する設計にはせず、必要な記録項目と保存期間を決めます。原因調査に文書が必要なときの取得手順、アクセス権、削除方法も検討します。責任者は、試験結果と残る課題を確認して判断し、未確認項目を「対応済み」に変えないようにします。
図 2.18.1 用途変更と評価の見直しは、対象と確認結果を見直しにつなげる関係を示した当サイトの整理です。規格の公式図ではありません。
公開後に見直すきっかけ
モデル、プロンプト、検索対象、利用契約、外部の処理事業者が変わったときは、影響する行を再評価します。問い合わせや誤りの報告には、対象の版と条件を付けて、再現できる課題にします。
評価の計画はNIST AI RMFの具体例も参照し、自社の入力と用途に合う条件を選びます。組織の管理手順があることと、個々のAI出力が正しいことは、それぞれ根拠を必要とします。
自社での取り組みについて相談する
AI システムの権限・承認設計やセキュリティ対策について、株式会社UNIQUEX にご相談いただけます。
記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。
UNIQUEX に相談する