以下は、「AIアライメント：なぜ難しいのか、どこから始めるべきか」を踏まえた架空の対話である。
（科学がまったく異なる道をたどった、それほど近くはない隣の世界のどこかで……）
ALFONSO: こんにちは、ベス。最近、「宇宙飛行機」が都市への攻撃に使われるとか、天界に住む邪悪な霊が取りつき、宇宙飛行機が自らの技術者へ反旗を翻すかもしれない、といった憶測をよく耳にするんだ。
僕はそういう憶測にはかなり懐疑的だ。実のところ、今後1世紀のうちに飛行機が成層圏気球と同じ高さまで上がれるようになるかどうかさえ、少し疑っている。それでも、君の研究所が、邪悪または危険な宇宙飛行機という潜在的な問題へ取り組もうとしていて、現代の重要な社会課題だと考えていることは理解しているよ。
BETH: それは……私たち意図的ロケット工学数学研究所(Mathematics of Intentional Rocketry Institute, MIRI)での言い方とは、まったく違います。
どの報道記事も邪悪な天界の霊という問題に注目していますが、本当の問題はまったく別のものだと私たちは考えています。現代のロケット評論界がほとんど見落としている、理論的にも難しい難題があることを懸念しています。空に見える月の位置へロケットを向け、発射ボタンを押しても、実際には月へ着かないかもしれない、と心配しているのです。
ALFONSO: 強風のなかでも宇宙飛行機の飛行を安定させられる安定翼（フィン）を設計することが、とても重要なのはわかる。それは重要な宇宙飛行機の安全研究で、誰かが取り組む必要がある。
でも、君たちがそういう安全研究をしているなら、現代の航空機技術者と緊密に協力し、翼の設計を試して、本当に役に立つと実証するはずだと思うよ。
BETH: 空気力学的な設計は、どんな安全なロケットにも重要な要素です。ロケット科学者がこうした問題に取り組み、安全性を真剣に考えていることを、私たちも大変うれしく思っています。ただし、それはMIRIが焦点を当てる種類の問題ではありません。
ALFONSO: では、何を心配しているんだい？ 悪意ある人々が宇宙飛行機を開発することを恐れているのかな？
BETH: それは、今の私たちが懸念している失敗モードではありません。もっと心配なのは現状では、ロケットの先端をどこへ向ければ月へ行くのか、いや、あらかじめ指定した どの 天体上の目的地へ行くのかさえ、誰にも 説明できないことです。Google、米国政府、北朝鮮のどこがロケットを打ち上げるかは、月面着陸に成功する確率へ、私たちの観点では実際上の違いをもたらしません。今は どの種類のロケットをどこへ向ければよいか、誰も知らない からです。
ALFONSO: よくわからないな。
BETH: ロケットの先端が空の月と明らかに一直線になるよう月へ向けても、ロケットは月へ行かないのではないか、と心配しています。地球から月までの現実的な経路がどういうものかは、まだわかりません。しかし、あまり直線的な経路ではないかもしれず、ロケットの先端を月へ向けることは一切ないかもしれない、と考えています。次にすべき最も重要なことは、「ロケット・アライメント問題」と呼び始めたものを、よりよく、より深く理解できるまで、ロケット軌道についての理解を進めることだと考えています。ほかにも安全上の問題はありますが、このロケット・アライメント問題は、おそらく取り組むのに最も長い時間を要するため、最も緊急です。
ALFONSO: うーん、それは大胆な主張に聞こえる。ここから月までの間に、目に見えない障壁があり、宇宙飛行機が衝突するかもしれないと考える理由があるのかい？ それとも、地上よりもずっと風が強くなるかもしれないと言っているのかな？ どちらも備えておく価値はあるかもしれないが、起こりそうには思えない。
BETH: いいえ、目に見えない障壁がある可能性を特に高いとは考えていません。天界へ行くと特別に風が強くなるとも考えていません。実際にはまったく逆です。問題は単に、乗り物が地球から月へ行くために現実的にたどれる いかなる 軌道も、まだ描けないことです。
ALFONSO: 実際の軌道を描けないのは当然だよ。風や天気は予測不能だからね。それでも、君の主張は強すぎるように思える。宇宙飛行機を月へ向けて上昇し、必要に応じて操縦士が調整すればよい。なぜそれでうまくいかないんだ？ 月へ向けた宇宙飛行機が月へ行かないと証明できるのかい？
BETH: いいえ、そのようなことは何も 証明 できないと思います。問題の一つは、大気摩擦やほかの天体の動きなどを考慮すると、この領域で現実的な計算を行うのが極めて難しいことです。私たちは、大気がなく、すべてのロケットが完全な直線上を進むと仮定するほど、大幅に単純化した問題をいくつか解こうとしてきました。こうした非現実的な計算でさえ、はるかに複雑な現実世界では、ロケットの先端を月へ向けるだけでは、やはり月へ到達しないことを強く示唆しています。そもそも、現実世界がもっと複雑だからといって、月へ行くのが 容易に なるわけではありません。
ALFONSO: わかった。君たちがしているという「理解」の研究を見せてもらおう……。
ふむ。君たちが取り組んでいる数学を読んだ限りでは、それが月とどう関係するのかわからない。宇宙飛行機の操縦士が月を正確に目指せるよう支援するなら、月を観測する望遠鏡をのぞき、月が具体的にどんな姿をしているか調べ、着陸する地形の特徴を操縦士が特定できるようにすべきではないかな？
BETH: 現在の理解段階はあまりに粗く、詳細な月面地図を次の研究目標にはできない、と考えています。どのクレーターへ着陸するかを狙える段階には、まだ進んでいません。今は 何も 狙えません。むしろ、「直線を進むロケットではなく、曲線的なロケット軌道を数学的に語る方法を見つける」といった段階です。今は現実的な曲線軌道でさえなく、とにかく直線から先へ進もうとしているだけで――
ALFONSO: でも地球上の飛行機は、地球自体が曲がっているから、いつも曲線上を進んでいる。未来の宇宙飛行機にも、曲線上を進む能力があると予想するのは妥当だろう。宇宙飛行機が直線上しか進めず月を外すことを心配し、ロケット技術者へ曲線上を進むロケットを作るよう助言したいというのなら、それは誰にとっても時間の有効な使い方とは思えない。
BETH: 私たちが今取り組んでいる数学と、将来存在するかもしれない実際のロケット設計とを、あまりに直接的に結びつけようとしています。現在のロケットの発想がほぼ正しく、機能させるにはあと一つか二つ問題を解けばよい、ということでは ありません 。誰にとっても、ロケット・アライメント問題の解決までにある概念的な距離は、それより はるかに長い のです。
今は、誰もがロケット軌道について 混乱しています 。私たちは、混乱を減らそう としています。今、必要なのはそれであって、現在の数学論文で論じている方法でロケットを作れと、今すぐロケット技術者へ助言することではありません。地球はなぜ太陽へ落ちないのか、という極めて基本的な問いについて 混乱しなくなる までは、そうすべきではありません。
ALFONSO: 地球が近いうちに太陽と衝突するとは思わない。太陽は長い間、地球の周りを着実に回っているからね。
BETH: 私たちの目標が、地球が太陽へ落ちるリスクへ対処することだ、と言っているのではありません。私が言いたいのは、現在の人類の知識で「地球はなぜ太陽へ落ちないのか」のような問いへ答えられないなら、天体力学についてほとんど知らず、天界を通ってロケットを狙い、月へ軟着陸させることはできない、ということです。
理解を深めるため、現在行っている研究の一例に、「タイリング位置」問題と呼ぶものがあります。タイリング位置問題とは、砲弾が地球を何度も周回し、モザイク張りの床で同じタイルが反復するように、最初の座標を「タイリング」するよう、大砲から砲弾を発射する方法を求める問題です――
ALFONSO: そのテーマについての君たちの研究を少し読んだよ。正直、物を大砲から撃つことが、月へ行くこととどう関係するのか、僕にはよくわからない。率直に言って、それは誰もが機能しないと知っている「古き良き宇宙旅行」によく似ている。ジュール・ヴェルヌ(Jules Verne)は、カプセルを大砲から撃ち出せば地球を巡れると考えたかもしれない。でも、現代の高高度飛行機の研究は、物を大砲から撃つという発想を完全に捨てた。君たちが大砲で物を撃つ話をして回っているという事実は、この1世紀の航空機設計の革新へ追いついておらず、君たちの宇宙飛行機設計はまったく非現実的だろうと僕には思わせる。
BETH: ロケットが実際に大砲から発射されるわけではないことは知っています。本当に、本当によくわかっています。現代の大砲から発射されたものが脱出速度へ決して到達しない理由は、熟知しています。大砲を使った宇宙旅行がなぜ機能しないかを説明する一連の記事を、以前にいくつも書きました。
ALFONSO: でも君たちの現在の研究は、物を大砲から発射し、何度も地球を周回させることばかりだ。それが、宇宙飛行機で月へ行く方法について操縦士へ与えられる、現実的な助言とどう関係し得るんだい？
BETH: 繰り返しますが、私たちが今している数学と、未来のロケット技術者への直接的な助言との間に、あまりにまっすぐな線を引こうとしています。
理想的な大砲が、理想的な砲弾をある速度で、大気のない完全な球形の地球上から撃ったとき、砲弾が地面へ当たらず、私たちのいう「安定軌道」へ入るような角度と発射速度を見つけられたなら……私たちは、天体力学について本当に根本的で重要なことを理解したかもしれない、と考えます。
そうでないかもしれません！ どの問いが重要で、どの研究経路が実を結ぶかを、あらかじめ知るのは難しいことです。できるのは、自分を混乱させる、次に取り組めそうな問題を見つけ、解を考え出そうとし、その後に混乱が減ることを願うことだけです。
ALFONSO: 砲弾が地面へ衝突することを問題にしていて、それを避け、砲弾を永遠に進ませたいということだね？ でも、本物の宇宙飛行機は最初から地面へ向けられるわけではないし、普通の飛行機の多くは地面へ衝突せずに済んでいる。この「大砲から発射されて地面へ衝突する」という、君たちの「タイリング位置問題」で避けようとしているシナリオは、本物の宇宙飛行機の設計者が心配する必要のある失敗モードには思えない。
BETH: 私たちは、本物のロケットが大砲から発射され、地面へ衝突することを心配していません。そのためにタイリング位置問題へ取り組んでいるわけではありません。ある意味では、あなたはロケット・アライメント理論がすでにどれほど解決されているかについて、あまりに楽観的です！ ロケットの狙い方についての理解は、今話されている種類の設計が、ロケットを地面へ撃ち込まないといった残りの特定の難点さえ解けば 機能する ほど近くありません。私たちが目指す進歩の種類を理解するには、もっとメタな水準で考える必要があります。
私たちがタイリング位置問題へ取り組むのは、砲弾をある瞬間速度で発射して安定軌道へ入れることが……宇宙空間へ本当にロケットを打ち上げ、特定の曲線上を本当に進ませ、その曲線を本当に月への軟着陸で終えられる人なら、容易に 解ける種類の問題だと考えるからです。だから、それを解けないという事実は憂慮すべきなのです。月への打ち上げよりはるかに分析しやすい、大気のない完全な球形の地球上の架空の砲弾を扱う、このずっと単純で明確に述べられた「タイリング位置問題」の解き方を突き止められれば、最終的に月への打ち上げを設計できる人々へ近づく、もう一つの小さな一歩を踏み出せるかもしれません。
ALFONSO: ジュール・ヴェルヌ式の宇宙大砲が未来を切り開くと思っていないのなら、なぜ大砲の話ばかりするのかわからない。
BETH: 大砲を狙うための高度な数学的手法が、すでに大量に開発されているからです。人々は16世紀から、大砲を狙い、砲弾の軌道を描いてきました。その既存の数学を利用すれば、理想的な砲弾をある方向へ撃ったとき、どのように地面へ突っ込むかを正確に説明できます。現実的に変化する加速度を持つロケットについて話そうとすれば、そのようなロケットが、完全な正方形を描いて地球を巡ることは ない と証明することさえできません。現実的に変化する加速度と現実的な空気抵抗をすべて含めると、どちらにせよ明確なことを述べるのは不可能だからです。現在の私たちの理解では、そこまでできません。
ALFONSO: わかった。同じような疑問がもう一つある。なぜMIRIは、多数の微小なベクトルを足し合わせる研究を支援しているんだ？ そもそもそれがロケットとどう関係するかさえわからない。抽象数学の奇妙な脇道の問題に見える。
BETH: どちらかというと……これまでの研究のいくつかの地点で、時間とともに変化する加速度についての関数から、時間とともに変化する位置についての関数へ移る問題にぶつかりました。数学の複数の箇所で、この問題が進歩を妨げ続けたので、そこから枝分かれして、明示的に分析し始めました。離散的な間隔で動くのではない点を扱う純粋数学なので、「論理的非離散性」問題と呼んでいます。この問題を調べる方法の一部では、多数の小さく変化するベクトルを足し合わせて、大きなベクトルを得ようとします。すると、ベクトルをどんどん小さくし、ますます多くを足し合わせるにつれて、その和の変化がどんどん遅くなり、極限へ近づくように見えることを論じます……少なくとも、それが一つのアプローチです。
ALFONSO: 未来の宇宙飛行機ロケットに乗った人々が、窓の外を見ながら、「大変だ、軌道修正に使うベクトルが十分に小さくない！ もっと小さなベクトルを、さらに多く足し合わせる方法さえあれば！」と言う場面は、どうしても想像しにくい。未来の計算機は、そのくらいならすでに、かなりうまくできるだろう。
BETH: 繰り返しますが、私たちが現在行っている研究と、未来のロケット設計への意味合いとの間に、あまりにまっすぐな線を引こうとしています。ロケット設計はほぼ機能するものの、操縦士が多数の小さなベクトルを十分速く足し合わせられないから、より速いアルゴリズムさえあれば月へ着く、と私たちが考えているわけではありません。これは、天体軌道を理解するための複数の基本概念で役割を果たすかもしれないと考えている、基礎数学の研究です。移動する月へ軟着陸するところまでの軌道を描こうとすると、私たちは混乱し、行き詰まります。その混乱の一部は、加速度の関数から位置の関数へ移れないことに由来すると考え、混乱を解消しようとしています。
ALFONSO: それは、数学の哲学の問題に妙に似ている。哲学研究で宇宙飛行機の設計を進歩させることはできないと思う。哲学分野は停滞した泥沼だ。月へ行くのは不可能だと今でも信じている哲学者もいる。天界は地上界と根本的に分離されているから到達不能だ、と言うんだが、明らかにばかげている。宇宙飛行機の設計は工学上の問題であり、進歩を遂げるのは技術者だ。
BETH: ロケットの設計を行うのが、哲学者ではなく技術者だという点には同意します。哲学一般に対するあなたの苛立ちにも、ある程度共感します。だから私たちは、大気のない完全な球形の惑星上で、安定軌道へ入るよう砲弾を発射する方法についての問いなど、実際の答えがありそうな、明確に定義された数学の問いに専念しています。
そのためには、新たな数学的枠組みの開発がしばしば必要です。例えば論理的非離散性問題の場合、時間とともに変化する加速度と、時間とともに変化する位置との間を変換する方法を開発しています。新たな数学的枠組みの開発を「哲学的」と呼びたいなら、そう呼んでも構いません。ただし、その場合、それは「天界と地上界について思索する」種類の哲学とはまったく違い、私たちは常に、新たな数学的枠組みまたは道具の開発を目指していることを忘れないでください。
ALFONSO: では、公共の利益という観点では、君たちがこの論理的非離散性問題を解いたら、どんなよいことが起こり得るんだい？
BETH: 主なものは、私たちの混乱が減り、研究が行き詰まらなくなり、いつの日か人類が実際に月へ着陸できるようになることです。より具体的に言おうとすれば――具体的な解を実際に知らずにそうするのは難しいのですが――ロケットが直線上を進むという仮定をやめた途端に数学が破綻することはなくなるため、現実性を少し増したロケット軌道について話せるようになるかもしれません。曲線を近似する一連の直線ではなく、正確な曲線を数学で扱えるようになるでしょう。
ALFONSO: ロケットが従う正確な曲線？ それこそ、君たちの計画全般について抱いている最大の問題につながる。未来のロケット設計が、絶対的かつ完全な精度で分析でき、操縦する必要のない完全に描かれた軌道によってロケットを月へ運べるようなものになるとは、僕は思わない。現実世界で物事がどう動くかを知らない数学者たちが、すべてを完璧に計算したがっているように見える。金星が空を動く様子を見てごらん。普段は一方向へ進むが、ときには反対方向へ逆行する。進みながら操縦するしかないんだ。
BETH: 正確な曲線というのは、そういう意味ではありません……。いいですか、論理的非離散性を発明できたとしても、地上を離れるロケットへ吹きつける風すべての正確な軌道を、前もって予測しようとするのは無益だという点には同意します。もっとも、ロケットが十分高く上がれば、実際には状況が穏やかになり、予測しやすくなるかもしれないとは、ついでに述べておきますが――
ALFONSO: どうして？
BETH: ひとまず、それは脇へ置きましょう。風などのため、軌道の大気圏内の部分では、ロケットの位置を正確に予測しにくい点には、二人とも同意しているからです。そして、初期軌道を正確に予測できなければ、その後の軌道も正確に予測できません。ですから、完全な角度で打ち上げた後、操縦士がそれ以上まったく操縦せず立ち去れるほど完璧なロケット設計にしよう、という提案では決してありません。ロケットの数学をする目的は、ロケットの正確な位置を1マイクロ秒ごとに、前もって予測することではありません。
ALFONSO: では、ときには雨も降る豊かで複雑な現実の宇宙を表せない、単純すぎる純粋数学に、なぜこだわるんだ？
BETH: 本物のロケットが、板書された単純な方程式ではないことは確かです。本物のロケットの形や内部配管には、数学的に簡潔には特徴づけられない側面が、さまざまにあることも確かです。MIRIがしていることは、あらゆる時代のあらゆるロケット技術者にとって適切な数学化の度合いではありません。今の私たちが使うべき数学なのです（少なくとも、そう願っています）。
この分野の理解を少しずつ積み上げるには、帰結を十分正確に特定でき、共通の枠組みでシナリオを分析できる発想について語る必要があります。誰かが「シナリオXでは設計YがZをすると思う」と言い、別の誰かが「いや、シナリオXでYが実際にするのはWだ」と言え、最初の人が「しまった、君が正しい。では、ZをするようYを変える方法はあるだろうか」と答えられるだけの精度が必要です。
研究のこの段階で、物事を現実的に複雑にしようとすると、残るのは言葉で描いた幻想だけです。ロケット設計に入れるべきだと思う歯車や方向舵を巨大なフローチャートへ並べた人と話し、月へ向けたロケットが必ずしも月へ着かない理由を説明しようとすると、その人はただ、「ああ、私のロケットは そんなこと をしない」と答えます。その発想には十分な曖昧さ、柔軟さ、仕様不足があり、誰も間違いを証明できないという安全を手に入れているのです。その方法では、集合的な知識体系を少しずつ築くことはできません。
目標は、軌道を形式的に議論するために使える道具と発想を蓄積し始めることです。直感的には もっともらしく見える軌道を形式化し、分析するための主要な道具の一部は、まだ数学で表現されていません。それは当面、受け入れられます。それでも、主要な発想を、数学的に明確な形で表す方法を、可能な限り探します。それは、数学が格好よいからでも、権威があるからでもありません。ロケット工学の議論を「違う！」「そうだ！」の応酬より先へ進める、継続的な計画の一部なのです。
ALFONSO: それでも僕には、数学的な保証が通用しない領域で、数学の保証という温かく心地よい毛布に手を伸ばしているように見える。何も問題が起きず、宇宙飛行機が月へ必ず到達するという数学的確実性は得られない。そうである以上、数学によって宇宙飛行機について絶対的な保証が得られるかのように装っても意味がない。
BETH: 信じてください。MIRIがどんな数学を考え出しても、私はロケット工学について「安心」などしません。でも確かに、物理的命題について数学的な保証を得ることも、経験的な言明へ確率1を割り当てることも、もちろんできません。
ALFONSO: それなのに、君は定理の証明について話す。例えば、砲弾が地球の周りをいつまでも周回すると証明する、といったことだ。
BETH: ロケットの軌道について定理を証明しても、ロケットが実際にどこへ着くかについて、心地よい確信を持てるようには決してなりません。しかし、完全な真空で打ち上げればロケットが月へ行くという定理を証明できるなら、ロケットへいくつか操舵噴射装置をつけ、現実に月へ行かせられるかもしれません。100%の確率ではなくても、ゼロより大きい確率で。
私たちの研究の目的は、現在のロケット照準の発想を、成功確率99%から100%へ引き上げることではありません。現在の、およそ0%という成功確率から先へ進むことです。
ALFONSO: 0%だって?!
BETH: クロムウェルの規則を別とすれば、そう、0%です。ロケットの先端を月へ向けて発射しても、月へは行きません。
ALFONSO: 月を直接狙う方法が機能しないなら、未来の宇宙飛行機技術者が本当にそこまで愚かだとは思わない。空にある月の現在の動きの先を狙い、宇宙飛行機が月までの距離を進んだ日に、月が現れる空の部分へ向けるだろう。君たちが、そんな明白な発想を考えずに、この問題について長々と話してきたのではないかと、少し心配だよ。
BETH: その発想は、ごく早い段階で検討しました。それでも月へは行けないと、かなり確信しています。
ALFONSO: ロケットがもっと曲線的な軌道を進むよう、操縦翼を加えたらどうだろう？ どのようなことを試しても、その種類のロケット設計はどれも月へ行かないと証明できるのかい？
BETH: あなたの考えるロケットの軌道を、概略で描けますか？
ALFONSO: 地球から月へ行く。
BETH: もう少し詳しく描けませんか？
ALFONSO: できない。現実世界では風速が常に変わり、燃料は無限にあるわけではなく、宇宙飛行機は完全な直線上を進まないからだ。
BETH: 発想が必要とする仮定を調べられるように、あなたのロケットを単純化した版がたどると思う軌道を、概略で描けますか？
ALFONSO: 君が宇宙飛行機の設計について提案する方法論全般を、僕は信じない。いくつか操縦翼をつけ、進みながらハンドルを回し、窓から月が見え続けるようにする。軌道を外れたら、元へ戻すよう操縦するよ。
BETH: ……実のところ、ロケットが十分高く上がると、標準的な操縦翼は機能しなくなるかもしれないことを、少し心配しています。そのため、天界へ入った後は、実際には軌道をあまり修正できないでしょう。すでによい軌道に乗っているなら修正できますが、間違えたなら、飛行機を旋回させられるように、そのまま引き返せるわけではなく――
ALFONSO: どうして？
BETH: その話題も論じられます。ただ、操縦 できる ロケットの単純化したモデルを前提にしてさえ、その単純化したロケットが月までの経路でたどる段階を順に説明できることは、この議論を前進させる重要な一歩になります。天体ロケット工学は、異例なほど難しい領域になると予想しています。地球上でロケットを作ることと比べてさえです。地球上のロケットも、たいてい単に爆発するため、難しいことで有名です。すべてが整然として数学的でなければならない、ということではありません。しかし全体として非常に難しいため、「空で月の動きの先を狙う」といった提案は、中核的な発想にある程度の堅固さがなければ、ロケットを何もない空間へ無作為に発射するのと同じです。
自分の発想が機能するか確信はないが、機能するかもしれないと感じる場合。発想には、もっともらしく聞こえる要素が多く、それがどう失敗するかを誰も 説得力をもって 説明できていないと感じる場合。その提案が、現実にロケットを月へ導ける確率は、およそ0%です。
ある発想が極めて堅固で、明らかによく理解されているように見える場合。良好な条件なら、この提案が必ず失敗せずにロケットを月へ運ぶはずだと感じる場合。最良の場合には、成功への主観的確信度を85%か、その近辺に割り当てられるかもしれません。
ALFONSO: では、不確実性は自動的に失敗を意味するのか？ 正直、少し偏執的に聞こえてきたよ。
BETH: 私が伝えようとしているのは、次のような発想です。「ロケットが原理上、必ず機能する理由を厳密に推論できるなら、現実に機能するかもしれない。しかし、それに少しでも届かないなら、現実では必ず機能しない。」
経験上の成功について、絶対的な数学的証明を出せ、と求めているのではありません。単純化したロケットがどう動けるかについて、概略のようなものを求めています。それは、実際に何をするのか突き止めたり、失敗モードを特定したりしようと誰かが試すたび、「ああ、そういう 意味ではなかった」と言い直すことができない程度に、意味が十分定まっている必要があります。
これは、どの発想も私の基準を通れなくするために課す、理不尽な要求ではありません。この分野の集合的な進歩へ貢献するため、私たち全員が越えなければならない第一の基準です。そして、この概念的な基準さえ通れないロケット設計が、月へ軟着陸する確率は、およそ0%です。