最後は人が確認します。その一文には、安心をつくる力がある。
けれど「最後に人がいる」ことと、「最後に別の判断がある」ことは、同じではない。AIの説明を読み、その筋のよさを確認し、承認する。人は確かに関わった。関わったことなら、ログにも残せる。
残しにくいのは、その人が何を見落とさずに済んだかだ。
平均点を、横に割る
Sander Lanbo Shiらのプレプリント「Towards Human-AI Complementarity for AI Safety」は、この見えにくい部分に測定の光を当てる。ただし、先に言っておきたい。この研究には条件比較や倫理手続きに重大な留保があり、結果をそのまま運用方針にすることはできない。ここでは、何がわかったかだけでなく、何を測ろうとしたかを読む。［1］
研究が集めたのは、安全性に関係する8データセットの3,957問に対する人間の判断だ。AIの支援なし、候補回答を示す支援、課題を小問へ分解する支援を比べた。人間側の主な評価には3人の多数票を用いる。
ただ正答率を並べるのではない。AIが正しかった問題と、間違えた問題を分ける。
Sonnetが誤答した問題で、人間集団の正答率は無支援条件の36.7％に対し、候補提示条件では20.6％だった。一方で、これは無作為割付による因果効果ではない。条件間の参加者や実施上の違いを排除できず、「支援を見せたから人間が間違えた」とは言えない。
それでも、問いの置き方は重要だ。人間の平均点が上がることと、人間がAIの誤りを訂正できることは、別々に測らなければ区別できない。
よい助言と、よい監督の距離
ここからは、この測り方に触発された考察になる。
AIが正しい場面で、その答えを理解しやすくしてくれる支援はありがたい。速くなり、迷いが減り、正解が増えるかもしれない。だが監督という仕事には、普段よく働く仕組みが外れた瞬間に、踏みとどまる役割もある。
毎回AIに異議を唱える人を置けばよいわけではない。正しい判断を覆してしまえば、それも失敗だ。欲しいのは反対意見の多さではなく、異なる根拠に届く経路である。
たとえば、説明の整合性を確認する仕事と、説明に使われていない証拠を探す仕事を、同じ「レビュー」の一語でまとめてはいないだろうか。前者は提示された世界の中で行える。後者には、その世界の外を見る時間が要る。
整った候補が目の前にあると、空欄を埋めるより選択肢を吟味したくなる。それは怠慢とは限らない。そもそも画面が、その仕事を勧めているのだ。承認ボタンが立派になるほど、承認する以外の行為は小さく見える。
研究結果を根拠に特定の画面設計を否定することはできないが、評価したいものを先に決めることはできる。速さなのか、全体の精度なのか、それとも特定の失敗を救えることなのか。どれも大事だからと一つの平均にすると、どれかが消えることがある。
研究を読む側にも、別の目が要る
この論文が抱える制約を、脚注の隅へ押し込めることはできない。著者は倫理審査を受けておらず、明示的なインフォームド・コンセント手続きも設けていなかったと記載している。評価プラットフォームのコードは公開されている一方、人間の評価データと、人間・AIの回答を組み合わせる処理のコードは公開されていない。独立した再現検証には壁がある。
興味深い問いが立っていることと、その答えを十分に信頼できることも、また別なのだ。
これは研究を読む楽しさを減らすための注意書きではない。むしろ、問いを長く使えるものにするための区別だろう。今回の数字が別の実験で変わったとしても、「人がAIのどの誤りを直せたか」を見る必要がなくなるわけではない。逆に、その問いが重要だからといって、今回の比較方法まで強くなるわけでもない。
ひとまず仮説として扱い、無作為化や独立検証の整った研究を待つ。あるいは、自分たちの安全な評価用課題で、別の判断が実際に働くかを確かめる。人間を置くことを対策の完了とせず、人間が何を変えられたかを観察する。その順番なら、研究の限界を越えて保証を売らずに済む。
もう一つ区別したいのは、正しい人がいたことと、その人の判断が採用されたことだ。別々の答えがあっても、どちらを選ぶかがわからなければ、補い合える可能性は成果にならない。意見を集める仕組みと、意見の根拠を比べる仕組みは、別に要る。
ここで肩書や自信の強さを近道にすると、判断する仕事が、誰を信じるかという別の仕事へ移る。移ること自体は避けられないとしても、その移動は見えていたほうがいい。最後の承認者だけを配置図に描くと、途中で何が答えを決めたのかは隠れたままになる。
この意味で、よい監督は、単に人を足すことより複雑だ。どの情報を先に見るか、どこで立ち止まれるか、異議を出したときに何を検証できるか。いくつもの条件を含んだ営みなのである。結果に人間の名前が付いていることだけでは、その営みの存在まではわからない。
「人間が見ました」という記録は、責任の所在を示すうえで必要かもしれない。ただ、判断の質については、まだ次の質問がある。
その人がいたことで、どの間違いが通らずに済んだのだろう。