人が確認する画面には重要な差分と照合できる根拠を出す
承認ボタンを置くだけで、誤りが見つかるとは限らない。重要な項目ごとに原本・適用規程・変更前後・未確認事項を示し、担当者が訂正して進められるかを試す。
用語
- レビュー画面
- 担当者が提案の根拠や変更内容を照合し、修正や拒否を行う画面。
- 自動化バイアス
- 自動システムの提案を、誤っている場合にも過度に信頼する傾向。
- 差分
- 実行前と実行後で変わる対象や値。担当者が確認する変更内容。
図と例
確認する重要項目を決める → 原本・差分・未確認を表示 → 担当者が訂正して再確認 → 誤りの発見と修正時間を測る
仮定の例：請求処理AIが10万円を100万円と抽出した。担当画面に滑らかな説明だけを出すと、その桁の誤りを確認しにくい。抽出金額、請求書の該当箇所、会計へ登録する差分を並べ、訂正した値が実際の登録内容になるかを検証する。金額は独自の例。
実際のサービス・製品では
Microsoft HAX Toolkit
Microsoft HAX Toolkitは、誤ったAI出力を編集・修正しやすくし、一部だけが正しい場合にも利用者が目的を達成できる設計を勧めている。差分と原本を使う画面はこのTipで示す独自の設計例。
資料を読む
解説
顧客が実際に確認する項目と必要な証拠を業務ごとに決める。全文の再読を前提にせず、重要な差分から原本へたどれるか、間違った提案を止められるかを導入前に確かめる。
レビュー画面は人が結果を検証して必要な修正を行うための作業面。自動化バイアスはAIの提案が誤っていても信頼してしまう傾向を指す。流暢な理由や説明の表示だけで、検証できたとは扱わない。照合する金額・宛先・対象を原本の該当箇所へ結び付け、AIの推測と取得した事実を区別する。欠けた根拠は未確認として示し、訂正後に実行する内容も見直せるようにする。利用者に権限のない原本を表示しない。顧客の担当者へ誤りを含む検証用案件を渡し、発見率・修正時間・見逃しを観測する。確認回数だけで安全になったと結論しない。
トレードオフ
- 要点と根拠を項目ごとに表示する
- 得るもの：重要な誤りを原本と照合しやすい
- 払うもの：表示項目の選定と根拠への対応付けが必要
- 原本や詳細を段階的に開けるようにする
- 得るもの：通常の確認量を抑えつつ追加検証ができる
- 払うもの：重要な根拠まで隠れて見逃されないか検証が必要
さらに学ぶ
チェック
AIが請求金額の桁を誤るケースで、人の確認が有効かを導入前に確かめたい。適切なのは？
- 検証用の誤りを含む案件で、原本との照合による発見と修正を観測する
- 承認ボタンのクリック数だけを数える
- 理由説明が長ければ誤りは見つかると扱う
解答と解説
検証用の誤りを含む案件で、原本との照合による発見と修正を観測する
誤りを発見して正しく訂正できるかが確認の目的。クリック数や説明の長さだけでは見逃しを測れない。実業務の顧客データを故意に改変するのではなく、許可された検証用案件で試す。