一人に聞いて、問題なさそうだった。念のため、もう一人にも聞く。さらに人数を増やせば、判断は安定していくだろう。
この期待は、どこまで正しいのだろう。安定することと、最初に期待した答えへ近づくことは、必ずしも同じではない。全員の意見がそろった瞬間、私たちは何かを確かめた気になる。しかし、そろう方向そのものが、話し合う人数によって変わるとしたら。
Ariel Flintらは、言語モデルの集団で、そのずれを調べた。問いは「一人より集団が賢いか」ではない。集団を二人、十人、もっと大きくしたとき、何が変わるか、である。
正解ではなく、おそろいを選ぶ
実験の中心は、二つの単語から一つを選び、相手と一致すれば得点するゲームだ。互いの選択を見た記憶が、次の選択に影響する。世界の事実を調べるゲームではなく、呼び方をそろえるゲームである。どちらの単語も、ゲーム上は使える。［1］
研究者は4種類のモデルから、最大で直近5回のやり取りに応じた選択確率を抽出した。その確率を使って、同じモデルからなる集団の人数を変え、動きをシミュレーションした。大規模な部分で、その都度すべてのAIと会話したわけではない。直接モデルを動かす実験との整合も確かめているが、仕組みを絞り込んだ研究である。
観測されたのは、個体の好みの増幅だけではなかった。単体では中立に近いものから集団の偏りが生まれる場合も、単体で好まれた側と逆へ集団がそろう場合もあった。しかも、人数を増やしたときの変化は、モデルと単語の組み合わせによって異なる。
誰も初めから強く推していなかった答えに、集団がまとまる。少し奇妙だが、単に全員の初期意見を足し算していないのだから、ありえない話ではない。途中で受け取るものが、次の選択を変えている。
人数の効果も、単純な比例ではない。小さな集団では初期の偶然が全体へ広がりやすく、大きな集団では相互作用の性質が収束先を強く左右する。結果がほぼ一方向へ決まる規模は、モデルと単語によって大きく違った。ある組み合わせの人数を、別の組み合わせへ持ち出せない。
このゲームでは、全員へ同じ結論を命令していない。各回の相手と選択を合わせるという、局所的な目標がある。そのやり取りを重ねると、集団全体の偏りが現れる。小さな成功の積み重ねが、全体として何を選ぶかまで変えているところが、研究の核心だ。
同じ部品なら、同じ性質か
ここでいうmisalignmentは、個体と集団の選好のずれだ。人間の価値観への反抗や、危険な目的の獲得を実証した言葉ではない。単語の二択から、AI社会の未来を一足飛びに語ることはできない。
それでも、設計上の問いは残る。
一つのモデルを評価し、許容できると判断する。そのモデルを複数組み合わせれば、評価も引き継がれる。私たちは、ついそう考えたくなる。しかし、個々の部品についてわかったことだけでは、部品が互いを変える過程までわかったことにならない。
ここからは、研究を読んだうえでの考察だ。AI同士に案を批評させたり、採点させたりするとき、人数はしばしば予算や待ち時間の問題として扱われる。もう一体加えれば検討が厚くなる。半分に減らせば安くなる。その説明には、集団の性質は同じまま、量だけが動くという前提が潜んでいる。
この研究は、その前提を問い直す。追加された一体は、もう一票だけを持ち込むのではない。誰かが次に読む文脈を変えるかもしれない。関係の数と、その履歴も変わる。人数を変えることは、会議室の椅子を増やすだけではない。
合意は、どこから来たのか
人間の会議へそのまま外挿するのは避けたい。人は同じモデルの複製ではなく、経験も利害も記憶も違う。この研究の均一な集団とは、大きく隔たっている。
ただ、読む側の見方として、合意の由来を気にするようにはなる。別々に調べた結果が一致したのか。誰かの答えを互いに参照した結果、一致したのか。表面に並ぶ賛成の数だけでは、その違いは見えない。
同意が十個あっても、独立した手がかりが十個あるとは限らない。かといって、互いに影響した答えだから価値が低いとも限らない。協働のよさは、まさに他者から変えられることにもある。問題は、影響をなくすことではなく、影響のある結果を、独立な確認として数えないことだろう。
答えがそろうまで議論を続ける仕組みでは、そろったという事実だけを成功の証拠にしない。そのためには、結論だけでなく、結論が決まる手続きも見る必要がある。
小さく試した、その先へ
研究が扱ったのは、同種のモデル、単純な選択、限られた記憶である。自由な長文対話、専門の異なるモデル同士、現実の業務判断を網羅したわけではない。ここから安全な人数や、最適な編成の公式は出てこない。
その不便さは、むしろ重要だ。「三体ならよい」「百体から危ない」という数字を持ち帰れれば簡単だが、欲しい答えが簡単であることと、世界が簡単であることは別である。
小規模でうまくいった仕組みを大きくするとき、何を再確認するべきか。処理速度や費用だけでなく、選ばれる答えの分布や、やり取りの途中で失われる別案も見るべきなのか。その問いには、この小さなゲームから始める価値がある。
同じAIを増やした。だから同じ知性が増えた。そう言い切る前に、集まったあとで何が起きているかを、もう一度見てみたい。