アイデアが足りない、と悩んでいたはずなのに、いつの間にか、試す時間が足りなくなっている。
候補を百個出すのは、もう難しくない。問題は、そのうち一つを選んで、設備を動かし、材料を使い、結果を待つことだ。画面の中では軽かった一案が、実験室へ出た途端、重さを持つ。
Bojana RankovićらによるGOLLuMの研究は、この重さに向き合っている。何を知っているAIか、ではなく、少ない観測から、次に何を試すAIか。賢さを見る場所を、一つずらした研究だ。［1］
詳しさと、見当の確かさ
化学反応の条件を変え、よりよい結果を探す。そこで頼りになる方法の一つが、ベイズ最適化だ。これまでの実験をもとに、まだ試していない条件の結果を予測する。それと同時に、その予測がどれくらい不確かかも見積もる。
有望そうな場所を掘るか、よく分かっていない場所を調べるか。両方の価値を考えながら、次の実験を選ぶ。
ただし、実験条件をどう表現するかには、専門家の工夫が要る。一方、言語モデルは、条件を文章で受け取れる。それなら便利そうだが、文章としてよく知っていることと、実験結果を確かな見通しで予測できることは、同じではない。
GOLLuMは、この二つをただ横に並べなかった。言語モデルが条件を数値的に表現する仕組みと、ガウス過程という確率モデルを結び、実験結果の予測と不確実性に関わる学習信号で、一緒に調整する。結果の近い実験条件が、モデル内部でも近くに並ぶように、表現そのものを変えていく。
「もっと慎重に答えて」と指示するのとは違う。慎重な口調を身につけるのではなく、見通しの立て方を更新するのである。
少ない失敗から始める
刊行版では、化学・材料・分子設計など23の課題で比較した。始まりは、成績の低い十件の観測。そこから限られた実験予算で探索を進める。正解に恵まれた出発点ではない。［1］
50実験の予算で、評価した実験のうち結果が上位5％に入る割合を示すカバレッジはGOLLuMが36.3％、専門的な表現を使う従来のベイズ最適化が29.7％だった。従来法の最終的な性能には、中央値で41％少ない反復で到達した。
これは、実験室の費用が41％減ったという意味ではない。評価は既存データなどを使ったベンチマーク上の探索であり、現実の装置の待ち時間や、調達、失敗した器具の洗浄まで測ったわけではない。実験回数と研究費は、仲はよいが同一人物ではない。
それでも、比べるべきものがはっきりしている。何百万件の案を作ったかではなく、限られた回数で、どれだけ有望な場所へ進めたか。候補の生産量ではなく、選択の歩留まりである。
外れた予測を、次へ返す
ここから仕事の進め方へ目を移すのは、研究結果ではなく、一つの連想になる。
提案が外れたとき、その記録はどこへ行くだろう。よい案だけが資料に残り、うまくいかなかった案は消える。すると、次の提案を作る側には、同じように魅力的な案をもう一度出す理由が残る。前回の失敗は、議事録のどこかで静かに眠っている。
学習に必要なのは、失敗を反省する文章だけではない。何を予想していたか、実際には何が起きたか、その差を次の選択へどう返すかだろう。結果が悪かったという情報と、自信があったのに悪かったという情報は、同じではない。
この研究を、そのまま経営判断の手順へ置き換えることはできない。事業では評価軸が複数あり、試したことが市場そのものを変えてしまうこともある。化学の条件表のように、すべての候補をきれいに並べられるとは限らない。
技術自体にも限界がある。標準的なガウス過程の計算量はデータ数の三乗で増えるため、大規模な実験への拡張は別の課題だ。複雑な立体構造など、文章だけでは捉えにくい対象にも、適切な表現が必要になる。言葉にできれば何でも解ける、という宣言ではない。
むしろ面白いのは、言語モデルを万能の判断者にしなかったところだ。既存の最適化の仕組みと結び、外れ方から表現を変え、また選ぶ。知識を抱えていることより、世界から返ってきた結果で変われることに、役割を置いている。
次の案を百個頼む前に、前の一案が外れたことを、私たちのAIは知っているだろうか。