❦
このエッセイは、こうしたものを測る私の基準では、いつもより少し暗い。楽観主義に惑わされていたと悟ったあと、自分の楽観主義を打ち砕くために考案した思考実験を扱う。「幸せでいる助けになるのだから、私たちのバイアスを保つことは重要だ」といった議論に共感する読者は、読まないことを検討したほうがよい。（自分の命を含め、守るべきものがある場合は別だ。）
さて！ 自らの愚行の大きさを振り返り、その根には「未来」が傷つき得ることへの不信があった、と私は悟った。物事が本当に悪い結末を迎え得ると受け入れることへの抵抗だ。明示的で命題的な、言葉による信念の結果ではない。むしろ、逆境を前にしてさえ、最後にはすべてうまくいくと信じ続けていた、内側の何かに近い。
これを美徳とみなす人もいるだろうし（絶対大丈夫だよ）、心の健康に必要なものだと言う人もいるだろう。
だが私たちは、そんな世界に住んでいない。私たちが住むのは、神の手の届かぬ世界だ。
私が神を信じなくなってから、実に長い、長い時が経った。正統派ユダヤ教徒の家庭で育った私は、神に何かを願った、記憶に残る最後のときを思い出せる。ただし何歳だったかは覚えていない。隣家の少年のために、何かをお願いしていた。正確に何だったかは忘れた――「彼が無事でありますように」とか、あるいは「彼がユダヤ教徒になりますように」といった願いだった。
自分では扱えないことの面倒を見てもらうため、訴えかけられる上位の権威があるとはどんな感覚だったか、私は覚えている。それを「温かい」とは考えなかった。比べる代案がなかったからだ。ただ当然のこととして受け入れていた。
それでも、遠い幼少期の記憶でしかないが、神が存在するという概念上は不可能だが可能な世界で暮らす感覚を思い出せる。子どもや合理主義者が自分のあらゆる信念を文字どおり受け取るのと同じ意味で、神が本当に存在する世界だ。
神が存在する世界では、神が介入してあらゆるものを最適化するのだろうか？ 現実の根本的な性質についてラビが何を主張しようと、この問いを真剣に受け止めた実践上の答えは、明らかに「否」である。自分で冷蔵庫へ取りに行く代わりに、レモネードを持ってきてくれと神に頼むことはできない。はるか昔、子どもらしい真剣さで神を信じていたときでさえ、私はそんなことは信じていなかった。
神がその特定の行為をしないと仮定しても、本格的な神学上の危機は生じない。「私は善意ある、ナノテクノロジーを使う超知能を作った」とあなたが言い、私が「バナナをくれ」と言ってもバナナが現れなかったからといって、それだけではあなたの主張への反証にはまだならない。人間の親も、子どもが求めることをいつもすべてするわけではない。人へ差し伸べられる最善の助けとは、望むものをいつでも即座にすべて与えることだ、という考えには、楽しさの理論に基づくかなりまっとうな反論がある――私自身もそれを信じている。私は、目標を立てれば即座に実現することがエウダイモニアだとは思わない。計画することも、行動することも、考えることも決して必要ない、単純に欲するだけのものになどなりたいとは思わない。
だから、神があらゆる祈りをかなえるわけではないと言っても、必ずしも反証を避けようとする試みではない。友好的AI（Friendly AI）でさえ、すべての要求には応じないかもしれない。
だが明らかに、神が介入するほどひどい恐怖には、何らかの閾値がある。子どもらしい仕方で信じていたころ、それは真実だったと覚えている。
どれほど事態が悪化してもまったく介入しない神――それは、反証を避け、信じているという信念を守ろうとする明白な試みだ。十分に幼い子どもは、本当は神が存在しないという奥底の知識を持っていない。彼らは自宅のガレージにいるドラゴンを本当に見るつもりでいる。決して行動しない愛情深い神を想像する理由はない。十分にひどい事態との境界は正確にはどこか？ その正確な閾値について論争することは、子どもにさえ想像できる。だがもちろん、神はどこかに一線を引く。子どもが強く自立した大人に育つことを望む愛情深い親でも、よちよち歩きの子どもが車に轢かれるままにする人は、ほとんどいない。
神が耐えられないほど大きな恐怖の明白な例は、死――真の死、心の消滅――である。仏教でさえ、それを認めてはいないと思う。古典的な意味での神――完全に発現し、存在論的に根本である、かの神――がいるかぎり、十分にひどい出来事は絶対に、決して起こらないと安心できる。どこにいるどんな魂も、真の消滅を恐れる必要はない。神が防ぐからだ。
自分でシミュレートされた宇宙を作ったらどうなるだろう？ シミュレートされた宇宙の古典的な例は、コンウェイのライフゲームである。ライフゲームで遊んだことがないなら、ぜひ調べてほしい。「物理法則」という概念を理解するうえで重要だ。コンウェイのライフゲームはチューリング完全であると証明されている。したがって、かなり壊れやすく不格好にはなるだろうが、ライフゲーム宇宙のなかに感覚を持つ存在を作ることは可能だ。ほかのセル・オートマトンなら、もっと簡単になるだろう。
シミュレートされた宇宙を作ることで、神の手から逃れられるだろうか？ 感覚を持つ存在を含むライフゲームをシミュレートして、そのなかの存在を拷問できるだろうか？ だが神があらゆる場所を見ているなら、不公正なライフゲームを作ろうとしても、かの神が介入してコンピュータのトランジスタを書き換えるだけだ。コンピュータプログラムに設定した物理が、感覚を持つライフゲーム内の存在を、特に理由もなく果てしなく拷問するよう定めているなら、かの神は介入する。神は遍在するのだから、真の恐怖が逃げ込める場所はどこにもない。生は公正だ。
しかし代わりに、こんな問いを立てるとしよう。
これこれの初期条件が与えられ、これこれのセル・オートマトンの規則が与えられたとき、数学上の結果はどうなるはずか？
神が論理的不可能を実現できると信じないかぎり、神でさえ、この問いの答えを変えられない。かなり幼い子どもだったときでさえ、私はそんなことを信じていた記憶がない。（実際に存在するものなら何でも神が変えられるのに、なぜそれまで信じる必要があるのだろう？）
一つひとつの段階が、その直前の段階だけから導かれるという、この想像上の世界で、ライフゲームはどのように見えるだろう？ 物事が起こるのも、起こらないのも、セル・オートマトンの規則だけが理由である世界では？ 初期条件と規則のなかに、各状態を監視する神が記述されていない世界では？ 神の手の届かぬ世界は、どのように見えるのか？
その世界は公正ではない。初期状態に自己複製できる何かの種が含まれていれば、自然選択が起こるかもしれないし、起こらないかもしれない。複雑な生命が進化するかもしれないし、しないかもしれない。その生命が感覚を持つようになるかもしれないし、ならないかもしれない。進化を導く神はいない。その世界では、意識を持つ牛や、意識を持つイルカに相当するものが進化しても、境遇を改善する手を持たないかもしれない。自分たちが悪事を働いているとは考えもせず、気にもかけない、意識を持つオオカミに食べられるかもしれない。
膨大に存在する世界のなかで、人間のようなものが進化したなら、彼らは病気に苦しむだろう――教訓を与えるためではなく、セル・オートマトンの規則のもとで、ウイルスもたまたま進化したというだけの理由で。
その世界の人々が幸福でも不幸でも、幸福や不幸の原因は、彼らが行った良い選択や悪い選択とは何の関係もないかもしれない。自由意志や、学んだ教訓とも何の関係もない。一つひとつの段階がセル・オートマトンの規則だけから導かれる仮定の世界では、チンギス・ハンに相当する人物が百万人を殺し、笑い、富み、決して罰を受けず、平均よりはるかに幸福な人生を送れる。誰がそれを防ぐのか？ もちろん、神ならそれが実際に起こることを防ぐ。少なくともハンの心に、陰鬱な影を落とすだろう。だが「もしも？」という問いに対する数学的な答えでは、公理のなかに神はいない。だからセル・オートマトンの規則がハンは幸福だと言うなら、それが単純に、仮定の問いに対する完全で唯一の答えだ。防ぐものは何も、絶対に何もない。
ではハンが、自分の楽しみのためにでも、人々を何日もかけて恐ろしく拷問し、死なせるなら？ 被害者は助けを求めて叫び、おそらく神を思い描くだろう。あなたがそのセル・オートマトンを本当に書いたなら、もちろん神がプログラムに介入する。だが仮定の問い、すなわち数学的規則のもとでセル・オートマトンが何をするはずかという問いでは、その系のなかに神はいない。物理法則には効用関数の指定がなく――とりわけ拷問を禁じる規定がないのだから――被害者が救われるのは、適切なセルがたまたま0か1だった場合だけだ。ハンに逆らう者が現れる可能性は低い。もし逆らえば、誰かに剣で斬られ、剣が臓器を破壊して死に、それで終わりだ。だから被害者は叫びながら死に、誰も助けない。それが仮定の問いへの答えである。
被害者が完全に無実ということはあり得るだろうか？ 仮定の世界で、そうならない理由があるだろうか？ コンウェイのライフゲームの規則（これはチューリング完全なので、任意の計算可能な物理を埋め込める）を見ると、実に単純だ。生きた隣接セルが三つあるセルは生き続ける。隣接セルが二つなら同じ状態にとどまる。それ以外のセルはすべて死ぬ。無実の人々を期限なく恐ろしく拷問してはならない、とはどこにも書かれていない。
この世界に、聞き覚えが出てきただろうか？
公正な宇宙への信念は、恐怖が端的に禁止されているべきだと考えるより、もっと微妙な形で現れることが多い。アドルフ・ヒトラーを身ごもった夜、クララ・ペルツルとアロイス・ヒトラーが一時間早く性交し、別の精子が卵子を受精させていたら、二十世紀の歩みは違っただろうか？
それほど多くの命と、それほど大きな喪失が、たった一つの出来事で決まるのは不釣り合いに思える。神の計画は、それよりもっと筋が通っているべきだ。神を信じなくても、神の計画は信じられる――カール・マルクスは確かに信じていた。何百万もの命が、何気ない選択や一時間のずれ、顕微鏡的な鞭毛の速度に左右されるべきではない。そんなことが許されるはずはない。あまりにも不釣り合いだ。だから、もしアドルフ・ヒトラーが高校へ通い、建築家になれていたとしても、誰か別の人物がその役割を引き受け、第二次世界大戦は以前と同じように起きたはずだ。
だが神の手の届かぬ世界では、「物事は筋が通っていなければならない」とか「大きな結果には大きな原因が必要だ」とか「歴史は、これほど脆弱であるには重要すぎる理由によって動く」と定める条項は、物理公理のどこにもない。何百万もの生死が一つの小さな分子事象に左右されることで、これほど激しく破られる秩序を課す神はいない。
この思考実験の目的は、神の宇宙と自然の宇宙を並べ、どのような考え方が神の宇宙に属するか見分けられるようにすることだ。無神論者の多くも、ある種の物事は許されていないかのように、なお考えている。もしヒトラーが建築家になっていても、第二次世界大戦は避けられず、多かれ少なかれ同じように起きた理由を、彼らは議論として並べるだろう。だが冷静な歴史的事実に照らせば、これは不合理な信念だ。私が読んだかぎり、出来事は主にヒトラーの人格によって、しばしば将軍や顧問の意向に逆らって動かされたように思えるため、第二次世界大戦を例に選んだ。この点を疑うための特別な経験的根拠は、私が聞いた範囲では存在しない。疑う主な理由は、宇宙がこれほど筋の通らないものになり得ること――サイコロの一振り以上の理由もなく、それほど軽々と恐ろしいことが起こり得ること――を受け入れたくないという拒絶だろう。
だが、なぜいけないのか？ 何が禁じているのか？
神の宇宙では、神が禁じる。これを認識するとは、私たちがその宇宙に住んでいないと認識することだ。私たちが住むのは神の手の届かぬ仮定の宇宙、数学法則だけに駆動され、それ以外の何物にも駆動されない宇宙だ。物理が起こると言うことは、何であれ起こる。良いことであろうと悪いことであろうと、絶対に何でも起こる。そして自然がもう少し理にかなっていてもよさそうな、本当に極端な場合にさえ、この規則を解除するものは物理法則のどこにもない。
ウィリアム・シャイラーの『第三帝国の興亡』を読み、ナチスの残虐行為の全貌を知ったときに彼やほかの人々が覚えた不信を、彼自身が描写するのを追いながら、私は奇妙なことだと思った。それらすべてを読み、それを防ぐものが初めから一つもなかったと、すでに知っていることが。世界がどのようなものか、すでに理解していたため、恐怖を感じても少しも疑わず、本を最後までただ読み進めて受け入れることが。
かつて私は、人類の絶滅は許されていないと信じていた。そして自らを合理主義者と呼ぶほかの人々にも、なお信頼するものがあるかもしれない。「正和ゲーム」「民主主義」「技術」と呼ばれていても、それらは神聖だ。この神聖さの印は、その信頼できるものが本当に悪い結果をもたらすはずがないこと、あるいは少なくとも、埋め合わせとなる希望の兆しなしに永久に傷つけられるはずがないことにある。あちこちで悪いことが少し起きても、その意味では信頼できる。
展開していく地球の歴史が、正和の傾向から負和の傾向へ転じることなど決してない。それは許されていない。民主主義国家――ともかく現代の自由民主主義国家――が、拷問を合法化することは決してない。技術はこれまで実に多くの善をなしてきたのだから、その傾向を打ち破り、これまでの善のすべてを上回る害をなすブラック・スワン技術など、存在するはずがない。
そのようなことが決して起こり得ない理由には、あらゆる種類の巧妙な議論がある。だが、こうした議論の源には、そのようなことは許されていないという、はるかに深い信念がある。それでも誰が禁じるのか？ 誰が起きるのを防ぐのか？ 物理がそのような恐ろしいことは起きると言い――判決を訴える先などどこにもないため、実際に起きる――法則に従う宇宙を、少なくとも一つ思い描けないなら、あなたにはまだ確率を論じる準備ができていない。
感覚を持つ存在が、魂も死後の世界もないまま、何千年、何百万年にわたって完全に死んできたということが、本当にあり得るのか――しかも自然のいかなる壮大な計画の一部でもなく――生命に意味があるかないかについての偉大な教訓を伝えるためでもなく――何が不可能かについての深遠な教訓を伝えるためですらなく――そのため、人を液体窒素のなかでガラス化するという、馬鹿げて聞こえるほど単純な仕掛けで完全な消滅から救える一方、この愚かな考えを十秒で退けるだけで誰かの魂を破壊できるということが？ 何枚かの書類へ署名し、生命保険を買ったコンピュータプログラマーが遠い未来へ生き続ける一方、アインシュタインは墓のなかで朽ちるということがあり得るのか？ 一つだけ確信できる。神ならそれを許さない。これほど馬鹿げて不釣り合いなことは、すべて排除されるだろう。それでは神の計画――物事が現在のあり方でなければならない強固な理由――が笑いものになる。
物事が許されていないことには、世俗的な合理化も用意できる。だから、あなたが善を理解する意味で善意ある神がいると想像すると役に立つ。現実全体に公正と正義の最低限を強制する神。その計画には筋が通り、人々の選択と釣り合った形で左右される神。絶対的な恐怖を決して許さない神。常に介入するわけではないが、宇宙が進路から完全にねじ曲げられることは少なくとも禁じる神……。そのすべてを想像しながら、同時に、あなた自身は純粋数学からなる仮定の世界――神の手の届かない世界、文字どおり何が起きてもよい、何一つ守りのない世界――に住んでいると想像するのだ。
まだこれを読んでいる人のなかに、幸せであることは人生の何よりも重要だと思う人がいるなら、自分の存在が守られていないことを考えるために、多くの時間を費やすべきではないのかもしれない。自分と家族を人体冷凍保存へ登録し、ときおり実存的リスクを軽減する機関へ小切手を切るのに足りるだけの時間、考えればよいかもしれない。そしてシートベルトを着け、健康保険に入り、その一歩を欠くだけで人生を破壊され得る、あの退屈で必要なことをすべて行う……だがそれ以外では、幸せになりたいなら、生命の脆さを瞑想しても役には立たない。
だがこのエッセイは、守るべきものがある人々のために書かれた。
十二世紀の農民が、消滅から自分を救うために何をできるだろう？ 何もできない。自然が突きつける小さな難題は、いつでも公正とは限らない。難しすぎる難題にぶつかれば罰を受け、致死的な罰にぶつかれば死ぬ。それが人間にとっての現実であり、惑星にとっても何ら変わらない。自然と命懸けの踊りを踊ろうとする者は、何を相手にしているのか理解する必要がある。絶対的で、徹底的で、例外のない中立性だ。
これを知っても、必ず救われるとは限らない。十二世紀の農民なら、知っていたとしても救われない。自分の陥った窮状を完全に理解する合理主義者なら、脱出する道を必ず見つけられるはずだと思うなら――あなたは合理性を信頼している。それで話は終わりだ。
きっとコメント投稿者の誰かが、これらすべてを暗く描きすぎたと私を非難し、それに応じて中立な宇宙に住むことが素晴らしい理由を並べるだろう。結局、生が少し暗いことは許されている。だが埋め合わせとなる希望の兆しがないかぎり、ある一点より暗くなることは許されていない。
それでも、不必要な絶望を生み出したくはないので、ここで希望のある言葉を少し述べよう。
人類の未来が正しい形で展開すれば、私たちは自分たちの未来光円錐を（より）公正にできるかもしれない。根本的な物理は変えられないが、より上位の組織化の階層では、いくつかのガードレールを築き、緩衝材を敷くことができるだろう。粒子を、内部で大惨事を点検するパターンに組織化できる。外には私たちが触れられないものが大量にある――だが、未来光円錐の外にあるものはすべて「一般化された過去」の一部だと考えれば、助けになるかもしれない。すべてがすでに起きたかのように。私たちが触れられる唯一の未来――気にかけることで何かを成し遂げられる唯一の世界――では、少なくとも中立性を打ち破れる見込みがある。
いつか、未成熟な心が確実に保護されるようになるかもしれない。子どもが、キャンディをもらえないことに相当する経験や、指をやけどすることさえあっても、車に轢かれることは決してない。
そして大人たちも、これほど危険にさらされないだろう。超知能――一度も足を踏み外さず一兆の思考を考えられる心――なら、一度の失敗の代価が死である難題にもひるまない。むき出しの宇宙もそれほど過酷には見えず、解決すべきもう一つの問題にすぎなくなるだろう。
問題は、大人を作ること自体が、大人にしか解けない難題だということだ。何年も前、私はようやくそれに気づいた。
公正な（あるいは、より公正な）宇宙があるなら、私たちはこの世界から出発して、そこへ到達しなければならない――中立な世界、緩衝材のない硬いコンクリートの世界、難題があなたの技能に合わせて調整されてはいない世界から。
すべての子どもが自然と正面から見つめ合う必要はない。シートベルトを締めたり、小切手を書いたりすることは、それほど複雑でも命懸けでもない。すべての合理主義者が中立性について瞑想すべきだとは言わない。すべての合理主義者が、こうした不快な考えをすべて考えるべきだとも言わない。だが、一瞬で死ぬ、難易度の調整されていない難題に立ち向かおうとする者は、それを避けてはならない。
子どもが大人の問題を解くには、何をする必要があるのか――どんな規則に従い、どのように振る舞うべきなのか？