非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

自分の欠陥が見えるレンズ

The Lens That Sees Its Own Flaws

❦

太陽から出た光が靴ひもに当たって反射する。光子の一部が瞳孔を通って網膜に当たる。光子のエネルギーが神経インパルスを引き起こす。そのインパルスが脳の視覚処理領域へ伝えられる。そこで光学的な情報が処理され、三次元モデルへと再構成されて、ほどけた靴ひもと認識される。こうして、あなたは自分の靴ひもがほどけていると信じる。

意識的な合理性の秘訣はここにある。この過程全体は魔法ではなく、理解できる。自分がどうやって靴ひもを見ているかを、理解できるのだ。どんな思考過程なら現実を映す信念を作り、どんな思考過程ではそうならないかを、考えられる。

ネズミは見ることができるが、見ることを理解できない。あなたは見ることを理解できる。だから、ネズミにはできないことができる。少し立ち止まって、このことに驚いてほしい。本当に驚くべきことなのだから。

ネズミは見るが、自分に視覚野があるとは知らないので、錯視を補正できない。ネズミが生きる心の世界には、猫や穴やチーズやネズミ捕りはあるが、ネズミの脳はない。そのカメラは、自分自身のレンズの写真を撮らない。だが私たち人間は、奇妙に見える画像を見て、見えているものの一部はレンズそのものだと気づける。いつも自分の目を信じる必要はない。だが、自分に目があることには気づかなければならない。地図と現地、感覚と現実を、心の中の別々の入れ物に入れておく必要がある。これを取るに足りない能力だと思いそうになったら、動物界でこれがいかに珍しいかを思い出してほしい。

科学の考え方は要するに、心の中身に世界の中身を反映させる、もっと信頼できる過程について、内省的に推論することだ。ネズミには決して発明できない類いのものである。「理論を反証するために、再現可能な実験を行う」という営みをよく考えれば、なぜそれがうまくいくのか見えてくる。科学は、現実の生活や普通の人間の理解から遠く離れた、独立した教導権の領域ではない。実験室の中でしか使えないものでもない。科学そのものが、脳を現実と相関させる、理解可能な、世界の中の過程なのだ。

考えてみれば、科学には筋が通っている。だがネズミは思考について思考できないので、科学を持たない。この驚異を見落としてはいけない。そこから得られる力の可能性も、だ。それは科学者の集団だけでなく、私たち一人ひとりにも与えられる。

確かに、思考のエンジンを理解するのは、蒸気機関を理解するよりいくらか複雑かもしれない。だが、根本的に異なる課題ではない。

以前、私はEFNetの#philosophyチャットルームへ行って、こう尋ねた。「今後20年以内に核戦争が起こると思いますか? 思わないなら、なぜですか?」。答えてくれた一人は、今後100年間は核戦争が起きるとは思わないと言った。理由は「核戦争についての意思決定に関わる当事者は、いまのところ誰もその気がない」からだ。「でも、なぜそれを100年先まで延ばすんですか?」と尋ねると、「ただの希望です」という答えが返ってきた。

この思考過程全体を振り返れば、核戦争を考えるとなぜその人が不愉快になり、そのために脳がその信念を退けるのかがわかる。だが、10億の世界——エヴェレットの分岐でも、テグマークの複製1でもよい——を想像したとして、この思考過程は、楽観主義者を核戦争の起きない分岐と体系的に相関させることはない。(きっと気の利いた人がこう言う。「でも、希望があるから仕事を少し余計に頑張り、世界経済を活気づけ、その結果、各国が核戦争も起こりうるような怒りと絶望の状態に陥るのを防ぐ助けになる。だから、やっぱり二つの出来事は関係している」。ここでベイズの定理を持ち出し、その関係を量的に測らなければならない。あなたの楽観的な性分が世界に与える影響は、そこまで大きくはありえない。それだけで核戦争の確率を20%、あるいは楽観的な性分があなたの信念を動かした分だけ、下げることはできない。自分が正しい確率をわずかしか上げない出来事を理由に、信念を大きく動かせば、やはり地図作りは狂ってしまう。)

どの信念が自分を幸せにするかと問うのは、外ではなく内へ向かうことだ。それは自分について何かを教えてくれるが、環境と絡み合った証拠ではない。幸せになることに異論はない。だが幸せは、心の絵筆をいじって生むのではなく、世界の描像から生じるべきだ。

このことが見えるなら——希望が自分の一次の思考をあまりに大きく動かしているとわかるなら——自分の心を、欠陥のある地図作成エンジンとして理解できるなら——内省による修正を加えられる。脳は、現実を見るための、欠陥のあるレンズだ。ネズミの脳にも人間の脳にも、これは当てはまる。だが人間の脳は、自分の欠陥——系統的な誤り、バイアス——を理解し、そこに二次の補正を加えられる、欠陥のあるレンズなのだ。これによって、レンズは実際のところ、はるかに強力になる。完璧にはならないが、はるかに強力になる。

Max Tegmark, “Parallel Universes,” in Science and Ultimate Reality: Quantum Theory, Cosmology, and Complexity, ed. John D. Barrow, Paul C. W. Davies, and Charles L. Harper Jr. (New York: Cambridge University Press, 2004), 459–491. ↩