❦
この記事は、私の尺度では、いつもより少し暗い。楽観に惑わされていたと気づいた後、自分の楽観を打ち砕くために考えた思考実験を扱う。「バイアスは幸せでいる助けになるのだから、保つことが大事だ」といった議論に共感する読者は、読まないことも考えてほしい。自分の命も含め、守るものがあるのでなければ。
さて。自分の愚かさの大きさを振り返り、その根には、未来も傷つきうることを信じない気持ちがあったと気づいた。物事が本当に悪く終わりうると受け入れたくなかったのだ。明示的な、言葉で表された命題的信念の結果ではない。むしろ内側の何かが、逆境に直面しても、最後にはすべて大丈夫になると信じ続けていた。
それを徳と呼ぶ人もいるだろう。絶対、大丈夫だよ、と。心の健康に必要だと言う人もいるだろう。
だが、私たちはそんな世界には生きていない。神の手の届かない世界に生きている。
神を信じていたころから、長い長い時間がたった。正統派ユダヤ教徒の家庭で育った私は、何歳だったかは覚えていないが、神に何かを頼んだ最後の機会を思い出せる。隣の家の男の子のために頼んでいた。具体的には忘れたが、「彼がうまくいきますように」とか、あるいは「ユダヤ教徒になりますように」とか、そんなことだった。
自分で扱えないことを引き受けてもらうために、頼れる上位の権威があるとはどんな感じか、覚えている。それを「温かい」とは考えなかった。比較する別のものがなかったからだ。ただ当然だと思っていた。
遠い幼少期の記憶ではあるが、神が存在する概念的に不可能な可能世界に生きるとは、どんなことかを今も覚えている。子どもや合理主義者がすべての信念を額面どおり受け取る、あの意味で、神が本当に存在する世界だ。
神が存在する世界では、神は何もかも最適化するために介入するのだろうか？ 現実の根本的な性質についてラビが何を言おうと、この問いを真面目に、実際の行動に引きつけて考えれば、答えは明らかに「いいえ」だ。自分で冷蔵庫へ行く代わりに、神にレモネードを持ってきてもらうことはできない。ずっと昔、子どもらしく真剣に神を信じていたころも、そんなことは信じていなかった。
この場合に神が何もしないと想定しても、それで本格的な神学上の危機にはならない。あなたが「慈悲深く、ナノテクノロジーを使える超知能を作った」と言い、私が「バナナをくれ」と言ってバナナが現れなくても、まだその主張は反証されない。人間の親も、子どもの求めることをいつも全部かなえてやるわけではない。相手の望むものをいつも即座に与えることが、提供できる最善の助けだ、という考えに対しては、楽しさの理論からのもっともな反論がある。私もそれを信じている。エウダイモニアとは目標を立てて即座にかなえてもらうことだ、とは思わない。計画も行動も思考も必要なく、ただ望むだけのものには、なりたくない。
だから、神はすべての祈りをかなえるわけではないと言うことは、必ずしも反証を避ける試みではない。友好的AIでさえ、どんな要求にも応じるとは限らない。
だが、あまりにひどく、神が介入するほどの恐怖の境界は、明らかにどこかにある。子どもとして信じていたころ、それが真だったのを覚えている。
どれほどひどくなってもまったく介入しない神。それこそ、反証を避け、信じることを信じる姿勢を守ろうとする、明らかな試みだ。十分幼い子どもは、神は実は存在しないという奥底の知識を持たない。本当に、ガレージでドラゴンを見ると期待する。愛情深いのに何も決してしない神を、思い描く理由がない。どれほどひどければ十分なのか、その境界が具体的にどこかを議論することは、子どもにも想像できる。だが、神がどこかで一線を引くのは当然だ。子を強く自立した人間に育てたいからといって、幼児が車にひかれるのを許す愛情深い親は、実に少ない。
神には見過ごせないほどの恐怖の、明白な例は死だ。本当の死、心の消滅である。仏教でさえ、それは認めないと思う。古典的な意味での、完全で、存在論的に根本的な、あの神がいるかぎり、十分にひどい出来事は絶対に起きないと安心していられる。どの魂も、本当の消滅を恐れる必要はない。神が防いでくれる。
自分で模擬宇宙を作ったらどうだろう？ 古典的な例は、コンウェイのライフゲームだ。やったことがないなら、ぜひ調べてみてほしい。「物理法則」の概念をつかむうえで重要だ。ライフゲームはチューリング完全だと証明されているので、その宇宙に感覚ある存在を作ることも可能だろう。かなり壊れやすく、不格好にはなるかもしれない。別のセル・オートマトンなら、もっと簡単になる。
模擬宇宙を作れば、神の手から逃れられるだろうか？ 感覚ある存在を含むライフゲームをシミュレートし、その中の存在を拷問できるだろうか？ だが、神がすべてを見ているなら、不公平なライフゲームを作ろうとしても、あの神がコンピューターのトランジスターを変えに来るだけだ。プログラムに設定した物理が、感覚ある存在を特に理由もなく果てしなく拷問するものなら、あの神が介入する。神はどこにでもいるのだから、本当の恐怖が逃げ込める場所はどこにもない。生（ライフ）は公平なのだ。
だが代わりに、次のように問うとしよう。
こういう初期条件が与えられ、こういうセル・オートマトンの規則が与えられたなら、数学的な結果はどうなるだろうか？
神が論理的に不可能なことを実現できると信じないかぎり、この問いの答えは、神でさえ変えられない。非常に幼いころでさえ、そう信じた覚えはない。実際に存在するものを何でも変えられるなら、そんなことまで信じる必要があるだろうか？
各段階が、その直前の段階だけから生じる、この想像上の世界では、ライフゲームはどう見えるだろう？ 何かが起きるのも起きないのも、セル・オートマトンの規則だけによる世界。初期条件と規則に、各状態を点検する神が記述されていない世界。神の手の届かない世界は、どんな姿だろう？
その世界は公平ではないだろう。初期状態に自己複製できる何かの種があれば、自然選択が起きるかもしれないし、起きないかもしれない。複雑な生命が進化するかもしれないし、しないかもしれない。その生命が感覚を持つかもしれないし、持たないかもしれない。進化を導く神はいない。意識ある牛やイルカに相当するものが進化しても、自分の境遇を改善する手は持たないかもしれない。自分は悪いことをしているなどと考えも気にもしない、意識あるオオカミに食べられるかもしれない。
莫大な数の世界の中で、人間のようなものが進化すれば、病気に苦しむだろう。何かを学ばせるためではなく、同じセル・オートマトンの規則のもとで、たまたまウイルスも進化しただけの理由で。
その世界の人々が幸せでも不幸でも、原因は、本人のよい選択や悪い選択とは無関係かもしれない。自由意志や、学んだ教訓とも無関係だ。各段階がセル・オートマトンの規則だけに従う仮想の世界では、チンギス・ハンに相当する者が、100万人を殺し、笑い、富み、罰を受けず、平均よりずっと幸せに生きることもできる。誰が防ぐのか？ もちろん、実際に起きようとすれば神が防ぐ。少なくともハンの心に、何らかの暗い影を落とすだろう。だが、もしも？という問いの数学的な答えには、公理の中に神がいない。だから、規則がハンは幸せだと言うなら、それが仮想の問いへの、ただ一つの答えのすべてだ。防ぐものは何も、絶対に何もない。
では、ハンが自分の楽しみのためにでも、何日もかけて人をひどく拷問し、殺したら？ 被害者は助けを求め、神を思い描くかもしれない。そして、あなたが本当にそんなセル・オートマトンを書けば、もちろん神がプログラムへ介入するだろう。だが、数学的な規則のもとでセル・オートマトンがどうなるかという仮想の問いでは、系の中に神はいない。物理法則に効用関数は指定されていない。特に、拷問の禁止などない。だから、適切なセルがたまたま0か1になる場合にだけ、被害者は救われる。そして、ハンに逆らう人がいる見込みは低い。逆らえば誰かに剣で斬られ、内臓が壊れ、死ぬ。それで終わりだ。だから被害者は、誰にも助けられず、叫びながら死ぬ。これが仮想の問いへの答えだ。
被害者は、完全に無実でありうるだろうか？ 仮想世界では、なぜいけないのか？ コンウェイのライフゲームの規則は、とても単純だ。チューリング完全なので、任意の計算可能な物理をその中に埋め込める。生きた隣人が三つあるセルは生き続け、隣人が二つなら変わらず、それ以外は死ぬ。無実の人が、終わりのないひどい拷問を受けてはいけない、という決まりなどない。
見覚えのある世界に思えてきただろうか？
公平な宇宙への信念は、恐ろしいことはそもそも禁止されるはずだ、という考えより微妙な形でも現れる。アドルフ・ヒトラーが受胎した夜、クララ・ペルツルとアロイス・ヒトラーが1時間早く愛し合い、別の精子が卵子と結びついていたら、20世紀は違っただろうか？
あれほどの人命と喪失が、一つの出来事に左右されるのは、釣り合わないように思える。神の計画は、もっと筋が通っているはずだ。神を信じずに神の計画を信じることもできる。カール・マルクスは確かにそうした。何百万人の命も、何気ない選択、1時間の違い、顕微鏡的な鞭毛の速さに左右されるべきではない。許されるべきではない。あまりにも釣り合わない。だから、もしヒトラーが高校へ行き、建築家になれていても、代わりの誰かが役を引き受け、第二次世界大戦は同じように起きただろう、というわけだ。
だが神の手の届かない世界では、物理の公理に「物事は筋が通っていなければならない」「大きな結果には大きな原因が要る」「歴史は、そんなに壊れやすくてよいはずがない重要な理由で動く」という条項はない。何百万人もの生死が一つの小さな分子的出来事に左右されれば、その秩序はひどく破られる。だが、その秩序を強いる神はいないのだ。
思考実験の狙いは、神の宇宙と自然の宇宙を並べ、どんな考え方が神の宇宙に属するか見分けることだ。無神論者でも、あることは許されないかのように考える人は多い。第二次世界大戦は避けられず、ヒトラーが建築家になっても、おおむね同じように起きたはずだと論じるだろう。だが、冷静に歴史の事実を見れば、それは無理のある信念だ。大戦を例に選んだのは、私が読んだかぎり、出来事は多くの場合、将軍や助言者に逆らうヒトラーの人格によって動いていたように見えるからだ。これを疑う、具体的な経験的根拠は、私の聞いた中にはない。主に疑う理由になるのは、宇宙がこれほど筋の通らないものでありうること、サイコロを振るほどの理由しかなくても、恐ろしいことがこんなにたやすく起こりうることを、受け入れたくないという気持ちだろう。
だが、なぜいけないのか？ 何が禁じるのか？
神の宇宙では、神が禁じる。それがわかれば、私たちがその宇宙にはいないとわかる。私たちは神の手の届かない仮想の宇宙、数学的法則だけで動く世界にいる。物理が起きると言うことは、起きる。よかろうと悪かろうと、何であれ起きる。自然も少しは道理をわきまえてほしいと思うような、本当に極端な場合でさえ、この規則を解除するものは物理法則にない。
ウィリアム・シャイラーの『第三帝国の興亡』には、ナチスの残虐行為の全貌を知った彼や他の人々が、どれほど信じられずにいたかが描かれている。それを読みながら、私は不思議に思った。これほどのことを防ぐ保障は一つもなかったと、自分はすでに知っている。自分がどんな世界にいるかをもう理解していたから、恐ろしくはあっても、少しも信じがたいとは思わず、本を最後まで読んで受け止められる。それは不思議なことだった。
かつて私は、人類の絶滅は許されないと信じていた。合理主義者を自称するほかの人にも、まだ信頼するものがあるかもしれない。「プラスサム・ゲーム」「民主主義」「技術」といった名かもしれないが、それは神聖だ。神聖さのしるしは、信頼するものが本当に悪い結果を生むはずはない、とすること。あるいは、少なくとも埋め合わせとなる救いもなく永久に損なわれるはずはない、とすることだ。あちこちで少し悪いことが起きても、その意味では信頼できる。
地球の歴史が、プラスサムの傾向からマイナスサムへ転じることなどない。それは許されない。民主主義、少なくとも現代の自由民主主義は、拷問を合法化したりしない。技術はこれまであまりに多くの善をもたらしたのだから、流れを断ち切り、今までの善を全部上回る害をもたらすブラックスワン的な技術など、あるはずがない。
なぜそんなことが起きるはずはないのか、巧妙な議論はいくらでもある。だが、その源には、そんなことは許されないという、もっと深い信念がある。いったい誰が禁じるのか？ 誰が防ぐのか？ 物理が、そのような恐ろしいことが起きると言い、異議を申し立てる先もないので、実際に起きる。そんな法則に従う宇宙を一つも思い描けないなら、まだ確率を論じる準備はできていない。
感覚ある存在が何千年も何百万年も、魂も来世もなく、完全に死んできた。自然の大計画の一部でもなく、生の意味や無意味さについて大きな教訓を与えるためでもなく、何が不可能かについて深遠な教訓を与えるためですらない。そのため、液体窒素の中で人をガラス化するという、単純で馬鹿げて聞こえる仕掛けが完全な消滅から救いうるのに、10秒でそのばかばかしい考えを退ければ、誰かの魂を消してしまいうる。本当に、そういうことがありうるのか？ 書類にいくつか署名し、生命保険に入ったプログラマーが遠い未来へ続く一方、アインシュタインは墓の中で朽ちる、などということが？ 一つは確かだ。神は許さない。そんなにばかばかしく、釣り合いを欠くことは排除される。神の計画を、物事が今あるようにあるべき強い理由を、嘲ることになるからだ。
何かが許されないことに、世俗的な合理化を与えることもできる。だから、神がいると想像すると役に立つ。あなたが善と理解する意味で慈悲深く、現実全体に最低限の公平と正義を強いる神だ。計画は筋が通り、人の選択に釣り合って左右され、絶対的な恐怖は決して許さない。いつも介入はしないが、少なくとも宇宙が軌道から完全に外れることは禁じる……。これをすべて想像しながら、あなた自身は純粋な数学の仮想世界にいるとも想像してほしい。神の手の届かない、何でも起こりうる、まったく守られていない世界に。
まだ読んでいる人の中に、人生で幸せであることが何より大事だと思う人がいるなら、自分の存在が守られていないことを長く考えるべきではないかもしれない。自分と家族の人体冷凍保存を申し込んだり、ときどき人類存亡リスクを減らす団体へ寄付したりする、そのために必要な間だけ考えればよいのかもしれない。そしてシートベルトを締め、健康保険に入り、一つ怠ると人生を壊しかねない、ほかの退屈で必要なことをする。だがそれ以外には、幸せになりたいなら、生の壊れやすさを思索しても役には立たないだろう。
だが、この記事は、守るものがある人のために書いた。
12世紀の農民には、消滅から自分を救うために何ができる？ 何もできない。自然の小さな難題は、いつも公平とは限らない。難しすぎる課題にぶつかれば罰を受け、致命的な罰にぶつかれば死ぬ。人もそうだし、惑星も変わらない。自然と死の舞踏を踊ろうとする者は、相手が何かを理解しなければならない。絶対的で、徹底した、例外なき中立性だ。
知っていても、いつも救われるわけではない。12世紀の農民は、知っていても救われなかっただろう。自分の窮状を完全に理解する合理主義者なら、きっと出口を見つけられるはずだと思うなら、あなたは合理性を信頼している。それだけで十分だ。
誰かがきっと、暗く語りすぎだと私を非難し、中立的な宇宙に生きるのがすばらしい理由を並べるだろう。人生は少しなら暗くてもよい。だが、埋め合わせの救いなしに、ある一線より暗くなるのは許されないのだから。
それでも、不必要な絶望を生みたくはないので、ここで希望のある言葉を少し述べよう。
人類の未来が適切に進めば、私たちは自分たちの未来光円錐を、もっと公平にできるかもしれない。根本の物理は変えられないが、高次の構成の水準で、柵やクッションを設けることはできる。破局を防ぐ内部点検をするパターンへ、粒子を組織できる。触れられないものは外にたくさんある。だが、未来光円錐の外にあるものをすべて、「一般化された過去」の一部とみなすと助けになるかもしれない。もう起きてしまったかのように。少なくとも、私たちの触れられる唯一の未来、気にかけることが何かを成し遂げる唯一の世界で、中立性を打ち負かす見込みはある。
いつか、未熟な心は確実に守られるかもしれない。子どもは、棒付きキャンディーをもらえなかったり、指をやけどしたりするのに相当することを経験しても、車にひかれることは決してない。
大人も、それほど危険にはさらされないだろう。一度も間違えずに1兆の思考をできる超知能なら、一度の失敗の代価が死である難題にも、おびえない。生の宇宙も、それほど過酷に見えず、解くべき問題の一つにすぎなくなる。
問題は、大人を作ること自体が、大人の課題であることだ。何年も前、私がついに悟ったのはそれだった。
もっと公平な宇宙があるとしても、そこへはこの世界からたどり着かなければならない。中立な世界、クッションのない硬いコンクリートの世界、課題が自分の腕前に調整されていない世界から。
すべての子どもが自然の目を直視する必要はない。シートベルトを締めたり小切手を書いたりすることは、それほど複雑でも命がけでもない。合理主義者が皆、中立性を思索すべきだとは言わない。皆がこれらの不愉快なことを考えるべきだとも言わない。だが、難易度の調整されていない、即死を伴う課題に向き合うつもりの者は、それを避けてはいけない。
子どもが大人の問題を解くには、何をしなければならないのか。どんな規則に従い、どう振る舞うべきなのか？