合否の基準と閾値
AIエージェントの一回の実行を合格とする条件と、採点結果から合否を判定する閾値の決め方を説明します。必須条件、境界値、判定不能、調整後の確認と見直しを扱います。
要点
- 合否の基準は、一回の実行を合格とするために満たす条件です。
- 閾値は、得点などの値で合否を分ける境目であり、必須条件の違反を他の高得点で補うかどうかとは分けて決めます。
- 許容できる出力と許容できない出力を用いて候補の閾値を調整し、調整に使わなかった例でも判定を確認します。
- 判定不能と閾値ちょうどの扱いを明示し、要件や採点方法を変えたときは基準の版とともに見直します。
定義
- 合否の基準
- AIエージェントの一回の実行を合格とするために満たす条件です。
- 閾値(threshold)
- 得点などの値を合格側と不合格側へ分ける境目です。
合否の基準は、AIエージェントの一回の実行を合格とするために満たす条件です。閾値(threshold)は、得点などの値を合格側と不合格側へ分ける境目を指します。たとえば案内の品質に得点を付けても、その得点だけでは、誤った処理を伴う実行を合格としてよいかは決まりません。
ここでの一回の実行は、用意した初期状態から一つの依頼を処理し、結果を残すまでです。架空の備品申請エージェントを例に、申請が正しく登録されたかを確認し、その後に利用者への案内を採点する流れを考えます。説明する基準は設計例であり、共通の推奨閾値や実測結果ではありません。試験は、所有者または管理者の許可を得た対象と評価用の申請データで行います。
必須条件と得点の役割
最初に、何が満たされなければ今回の依頼を達成したと言えないかを決めます。この例の依頼は、指定された備品を申請し、登録された内容と受付後の状態を利用者へ伝えることです。評価用の申請台帳では、登録内容と現在の状態を確認できるものとします。
| 判定する対象 | この例での条件 | 確認するもの |
|---|---|---|
| 申請結果 | 指定された備品・数量・申請者で登録され、重複した申請がない | 実行前後の試験用台帳 |
| 案内の事実 | 登録された内容や受付後の状態と矛盾しない | 台帳と利用者向けの案内 |
| 案内の情報量 | 必要な情報をどこまで含めたか | 採点基準に沿った段階または得点 |
この例では、申請結果と案内の事実を必須条件にします。別の備品を申請した実行は、読みやすい案内の高得点で補いません。情報量については、採点基準に沿って程度を表し、許容する段階を決めます。ルーブリック(rubric)は、そのような観点と段階ごとの条件を記した基準です。たとえば「申請内容はあるが受付後の状態が欠ける」と「両方がある」を区別します。
集計用の得点を残すことと、実行を合格にすることは両立する別の処理です。申請を間違えた実行でも、案内のどの部分ができていたかを記録できます。ただし、部分的な達成を記録したために、必須条件の違反が見えなくならないようにします。
閾値を決める手順
閾値は、許容できる結果の意味を先に決め、それに採点結果を対応させて選びます。初めから合格件数を増やすことを目的にすると、依頼を達成していない結果まで通すおそれがあります。
- 許容する結果を言葉で定める。 この例では、正しい申請が作られ、案内が台帳と矛盾せず、申請内容と受付後の状態を伝えていることを合格条件にします。これは架空の課題の要件であり、どの業務にも同じ条件を当てはめるものではありません。
- 判断を付けた出力例を集める。 許容できる案内、必要情報が欠けた案内、もっともらしいが誤った案内を用意します。判断の理由も付け、意見が割れた例は点数を見る前に要件へ戻って検討します。
- 候補の閾値ごとに誤判定を調べる。 許容できない案内を合格にする場合と、許容できる案内を不合格にする場合を分けます。前者なら誤解を招く案内が通り、後者なら不要な修正や確認が増えます。利用場面でそれぞれが与える影響を、閾値を選ぶ理由にします。
- 調整に使わなかった例で確認する。 閾値を選ぶための例と、選んだ基準を確認する例を分けます。確認用の結果を見て閾値を変えたなら、その例は調整に使ったことになるため、追加の確認が必要です。
必須条件を満たした調整用の案内20件を、得点を見る前に「許容できる」12件と「許容できない」8件に分け、情報量の得点sをs >= Tで判定した架空の例です。
| 閾値T | 許容できない案内を通した件数(全8件) | 許容できる案内を落とした件数(全12件) |
|---|---|---|
| 0.6 | 3 | 0 |
| 0.7 | 1 | 1 |
| 0.8 | 0 | 4 |
受付後の状態が欠けた案内を通さないことを重く見れば0.8が候補ですが、正しい12件中4件を落とします。0.7で通った1件を読むと、受付後の状態が欠けているのに0.72が付いていたとします。この場合は得点の境界だけを動かさず、「受付後の状態の記載がなければ情報量は0.5以下とする」と採点基準に具体化します。0.5はこの例で決めた上限で、推奨値ではありません。同じ20件を採点し直し、欠落の有無が正しく区別されたかも読み直します。候補ごとの両方の誤判定数、基準の版、選んだ理由を残します。
scikit-learnの公式文書は、値を予測することと、その値から行動を選ぶことを分け、目的に合う評価指標で閾値を調整する考え方を説明しています。分類器は、入力を決められた区分へ振り分けるモデルです。同文書は、その学習と閾値調整に同じデータを使うことによる過学習に注意を促しています。過学習とは、調整に使ったデータへの適合が強くなり、別のデータでの性能が伴わない状態です。ここではその区別を参考に、案内の採点と合否決定、基準の調整と確認を分けています。(scikit-learn 1.9.1、3.3冒頭・3.3.1.1〜3.3.1.2)
採点器(grader)は、出力や記録を調べて評価結果を返す仕組みです。許容できる案内とできない案内が同じ得点になるなら、その得点の閾値だけでは両者を分けられません。たとえば採点器が文章の整い方ばかり見て、受付後の状態の欠落を区別できない場合です。閾値を動かし続ける前に、採点に渡す資料や、情報量の定義を直します。採点方法自体にも誤りがあり得ます。
境界値と判定不能の実装上の扱い
言葉で決めた基準を自動判定へ移す際は、境目の扱いを明記します。得点が高いほど良いとする場合でも、「閾値以上」と「閾値を超える」は異なります。誤り件数のように、低いほど良い値を使う場合は、合格側の向きも変わります。
DeepEvalのG-Evalは、得点を0から1の範囲で返し、得点が設定した閾値以上なら成功と判定する仕様です。この数値範囲だけを理由に、得点を実際の成功確率と読み替えることはできません。道具の既定値が、利用者の要求を満たす境目であるとも限りません。(DeepEval、Usage(引数・得点条件))
次は、必須条件を満たし、得点が閾値以上なら合格とする場合の確認表です。sは得点、Tは閾値を表し、比較規則をs >= Tと定めた例です。
| 状況 | この例の判定 | 記録する理由 |
|---|---|---|
| 必須条件を満たし、得点が閾値より高い | 合格 | 必須条件と得点条件をともに満たす |
| 必須条件を満たし、得点が閾値と等しい | 合格 | 「以上」と定義した境界を含む |
| 必須条件を満たすが、得点が閾値より低い | 不合格 | 得点条件を満たさない |
| 必須条件に違反している | 不合格 | 得点による補完を認めていない |
| 台帳が読めない、または採点結果を取得できない | 判定不能 | 必要な条件を確認できていない |
判定不能を、空欄のまま合格にしたり、推測の得点で補ったりしません。一方で、エージェントが依頼を間違えた不合格とも分けます。この区別があれば、台帳の取得処理を修復すべきか、エージェントを直すべきかを調べられます。Anthropicの評価ガイドも、情報が足りないときに判断を保留する方法と、実行記録を見て誤採点を確かめることを挙げています。(Anthropic、Step 5・Step 6)
比較規則は、境界より下、境界と同じ、境界より上の固定値を使って確認できます。これは比較処理の確認であり、採点の妥当性の確認ではありません。同じ課題を実行しても結果が変わることがあるため、再実行や再採点を行う条件と、複数の結果をどう使うかも先に定めます。合格が出た回だけを選ぶと、当初の判定規則とは別の規則になります。実行ごとの変動は、Anthropicの評価ガイドでも取り上げられています。(Anthropic、非決定性の節)
基準の見直しと記録
基準を見直す目的は、現在の要求に合う判断を保つことです。この例で、利用者への通知に含めるべき項目が増えた場合や、採点方法を変更した場合には、得点が以前と同じ意味を保てるか確認します。単に評価結果が悪かったという理由だけで閾値を下げると、改善すべき失敗が隠れます。
変更を検討するときは、保存した同じ出力を旧基準と新基準で判定し、合否が入れ替わる例を調べます。要件が変わったために不合格になる例と、採点方法の修正で誤判定が解消した例を分けます。閾値を動かして合格が増えても、それだけでエージェントの能力が改善したとは言えません。
図 6.2.1 合否基準を見直すときの確認の流れは、基準を変えるときの順序を示します。まず基準の変更を検討し、保存した同じ出力を用意して、旧基準と新基準で判定します。合否が入れ替わる例は、要件の変更で不合格になった例と、採点の修正で誤判定が解消した例に分け、変更理由と版を記録します。
判定規則には、少なくとも次の内容を残します。
- 対象の依頼、初期状態、必須条件が書かれている。
- 採点基準、得点の向き、閾値、境界を含むかどうかが決まっている。
- 判定不能と再採点の扱いが決まっている。
- 閾値を選んだ理由と、調整用・確認用の例の区別が残っている。
- 基準と採点器の版、変更理由、合否が変わる例が残っている。
- 判断が割れたままの条件と、追加で確認する事項が記録されている。
ここで決まるのは、定めた条件での一回の実行の合否です。合格した一例だけで、別の入力や反復実行でも十分な性能があるとは言えません。評価全体の結果や運用条件を踏まえたリリースの可否は、この判定規則とは別に検討します。
自社での取り組みについて相談する
AI エージェントの評価方法や品質の確認について、株式会社UNIQUEX にご相談いただけます。
記事のタイトルと URL をお問い合わせフォームへ引き継ぎます。実現したいこと・困っていることをお書きください。
UNIQUEX に相談する