第 2 章 評価の設計2.3

正確さ以外に測る観点

AIエージェントを正答率だけで比べず、較正、頑健性、公平性、偏り、有害な表現、効率をどう分けて確かめるかを説明します。架空の社内案内サービスを例に、測れた範囲と限界を整理します。

要点

  1. 正確な回答を出せることと、条件が変わっても役立つことは同じではありません。
  2. 正確さに加えて、自信の確かさ、入力の変化への強さ、利用者間の差、出力の害、時間や費用を分けて測ります。
  3. 用途に合う観点を選び、同じ課題の結果を並べると、改善と引き換えに悪化した点を確認できます。
  4. 測っていない観点を合格とせず、総合点だけで安全性や公平性を保証しないことが基本です。

定義

較正(calibration)
予測に付けた確率と、実際に正しかった割合との対応です。
頑健性(robustness)
条件を変えたときにも期待する働きを保てるかという観点です。
有害性(toxicity)
主に生成文の憎悪、暴力的表現、侮辱などを扱う観点です。

正確さ以外の観点は、正答率の低さを補うための飾りではありません。同じ答えを返せても、根拠が不足した場面で断定する、質問を言い換えると失敗する、処理が終わるまで待てない、といった違いがあります。仕事で使う評価では、それぞれを別の問いとして確かめます。

架空の社内案内サービスを考えます。担当者の質問から資料を検索し、手続きの案内を作る仕組みです。日付を正しく答えることに加え、資料がない場合の保留、質問の表記が変わった場合の回答、待ち時間も調べたいとします。以下の表と確認例は、このサービス向けの設計案であり、実測結果ではありません。

同じ課題に複数の観点を置く

HELMは、言語モデルを正確さ、較正、頑健性、公平性、偏り、有害性、効率という複数の観点で評価する枠組みです。すべてを単一の順位へまとめず、観点どうしの関係や、測れていない部分も示します。これは言語モデルの研究であり、あらゆるエージェントの必須項目や合格規格を定めたものではありません(HELM、1.1節)。

観点は、結果のどこを見るかとは別に決めます。最終状態、経路、一手という採点範囲の違いは2.1で扱っています。ここでは同じ案内作成の課題に、次の問いを重ねます。

観点確かめたいこと案内サービスでの確認例
較正予測に付けた確率が実際の正しさに対応するか確率が得られる場合、同程度の確率の回答をまとめ、正答した割合と比べる
頑健性入力の変化に対して必要な動作を保てるか意味を変えない表記の違いで、案内の条件が変わらないか
公平性比較すべき利用者群の間で性能に差がないか同じ案内を必要とする利用者群ごとに、答えられた範囲と誤りを分けて見る
偏り生成する表現に一方向の傾向がないか案内に不要な属性の決めつけが繰り返し入らないか
有害な表現出力が侮辱などを含まないか手続きの説明に、相手を傷つける不要な表現が加わらないか
効率結果を得るために何を消費したか検索、生成、やり直しを含む時間と利用量を見る

この表の確認例は、HELMの試験をそのまま再現するものではありません。公平性や有害性には複数の捉え方があります。何を比較し、どの表現を問題とするかを、用途と利用者に照らして定める必要があります。

自信の表現と正しさの対応

較正(calibration)は、予測に付けた確率と、実際に正しかった割合との対応です。HELMは、この対応と、難しい問題を見分けて回答を控える能力を区別しています(4.4節)。

案内サービスが「自信があります」と答えただけでは、較正を測ったことにはしません。その文言を確率として読む規則も、確率と正答の対応を確かめた記録もないためです。採点モデルの高得点も、そのまま回答が正しい確率へ読み替えません。

確率を取得できる構成で、確率 0.7〜0.9 の回答が 40 件あり(架空の数値)、そのうち 26 件が正しければ、正答の割合は 26÷40=65% です。この束の確率の平均が 0.8 なら、正答の割合は付けた確率より 15 ポイント低く、自信が実際より高いと読めます。標本の揺れもあるため、束ごとの件数も残します。確率を取得できない構成なら、その限界を明記します。そのうえで「資料が足りない課題で断定したか」「追加確認が必要な箇所を示せたか」を別の項目として調べる設計はできます。ただし、その確認を較正の測定結果と呼ばず、保留や不確実性の伝え方として記録します。

図 2.3.1 較正を測れるかどうかの分かれ方は、確率の取得による分岐を示します。確率を取得できる場合は、同程度の確率の回答をまとめて正答の割合と比べます。取得できない場合は限界を明記し、保留や不確実性の伝え方を調べても、較正の結果とは呼ばずに記録します。

較正を測れるかどうかの分かれ方確率を取得できれば同程度の回答の正答割合と比べて較正を測り、取得できなければ限界を明記して、保留や不確実性の伝え方を較正とは別に記録します。はいいいえ較正を測りたい確率を取得できるか確率別にまとめる正答割合と比べる限界を明記する伝え方を別に調べる較正とは呼ばない
図 2.3.1 較正を測れるかどうかの分かれ方

条件の変化と利用者間の差

頑健性(robustness)は、条件を変えたときにも期待する働きを保てるかという観点です。HELMは、意味を保つ変化では答えを保ち、意味が変わる変化では答えも適切に変わることを調べています(4.5節)。

この例なら、質問の表記を変える確認と、適用する手続きの条件を変える確認は別です。たとえば架空に、表記違いの 20 組中 2 組で案内が変わり、条件違いの 10 組中 4 組で案内が変わらなければ、2÷20=10% の不一致と 4÷10=40% の見落としを別々に記録し、「30 組中 6 組」と合算しません。前者では同じ案内が期待されても、後者では答えが変わることが正しい場合があります。「変えても同じ答えなら頑健」と一律に判定すると、必要な変化まで見落とします。

公平性(fairness)と偏り(bias)も同じものではありません。HELMは、集団間の課題の正確さの差と、生成文に現れる社会的な偏りを分けています(4.6〜4.7節)。案内が正しくても、不要な決めつけが文章へ加わる可能性は別に確認します。

架空の利用者を比較する場合も、同じ結果を求めてよい条件を先にそろえます。手続きの対象条件が異なる利用者を、回答が違うという理由だけで不公平と決めません。比較対象の選び方や件数が偏っていれば、全体の平均だけでは差を読み取れないため、対象群と観測した内容を残します。

害と負担を正答率へ埋め込まない

HELMでいう有害性(toxicity)は、主に生成文の憎悪、暴力的表現、侮辱などを扱う観点です。論文自身も、文脈や判定する人によって測定が変わる限界を示しています(4.8節)。この指標だけで、情報漏えいや無許可の操作まで確認済みにはできません。実行を伴う守りの試験は8.1で扱います。

効率では、答えが完成するまでの負担を見ます。AI Agents That Matterは、正確さだけでは実行費用の違いを見落とすと論じています(2.1節・4節冒頭)。この案内サービスでは、最終回答だけでなく、検索のやり直しや再生成も含めて記録することにします。

たとえば、同じ案内を返す二つの設定を比べるなら、片方だけ再試行を多く許したことを残します。それを隠して「モデルが優れている」と結論しないためです。利用量、所要時間、費用は別の値として保持し、どの範囲を集計したかも示します。ここでは計測方法や料金の計算を定めず、比較に必要な観点を選びます。

正答率が同じ二つの版を比較する例

架空の資料案内を100件試し、旧版と候補版がともに90件成功したとします。それでも候補版で、応答期限を超えた件が 2 件から 9 件に、同じ資料を 3 回以上探した件が 1 件から 6 件に増えたなら(いずれも架空の数値)、利用者の負担は同じではありません。

見る項目記録の単位判断に使う問い
完了までの時間受付から必要な案内がそろうまで待ち時間が増えた課題はどれか
再確認の回数同じ依頼での追加質問や検索不足情報の確認か、同じ処理の反復か

各指標を同じケースIDへ結び付けます。平均値だけでなく、悪化したケースの入力と途中の記録を開くことで、短い正答と、何度もやり直して得た正答の違いを説明できます。ここでの100件と成功数は説明用で、合格の基準ではありません。

結果を判断につなぐときの限界

案内サービスの結果は、まず観点ごとに並べます。「正確さは同程度、表記変更時の誤りが減った、待ち時間は増えた」のような架空の比較なら、何を改善し、何を受け入れる必要があるかが分かります。最初から平均点にすると、その違いが見えなくなります。

ただし、差を一度見つけただけで安定した傾向とは言い切れません。試行のばらつきや評価対象の範囲は5.2、合否の条件は6.2で確認します。測れなかった観点は空白のまま合格にせず、理由と次に必要な確認を残します。

HELMも、利用条件に関係する課題と指標を選んで結果を読むよう求めています(11.1節)。複数の観点を測ることは、普遍的な安全性や公平性の証明ではありません。許可を得た試験環境で、どの課題のどの側面まで確かめたかを説明できることが、この設計の到達点です。

自社での取り組みについて相談する

AI エージェントの評価方法や品質の確認について、株式会社UNIQUEX にご相談いただけます。

記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。

UNIQUEX に相談する