非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

キャッシュされた思考

Cached Thoughts

❦

人間の脳についての最大級の謎の一つは、ほとんどのニューロンが毎秒10~20回、せいぜい200Hzでしか発火しないのに、この厄介な代物がそもそもどうやって動くのかということだ。神経科学の「100ステップ則」によれば、想定する処理はすべて、逐次的なステップ数が最大でも100で完了しなければならない。どれだけ並列化してもよいが、神経スパイクが順々に100回を超えて起きるような仕組みを仮定してはいけない。できれば、もっと少なくしたい。

いくら数があるとはいえ、100HzのCPUでプログラムを書かなければならない状況を想像できるだろうか。リアルタイムで何かを処理するだけでも、1,000億個のプロセッサが必要になるだろう。

もし1,000億個の100Hzプロセッサでリアルタイムのプログラムを書く必要があったら、最大限に使うはずの工夫の一つはキャッシュだ。過去の計算結果を保存しておき、次回は一から計算し直す代わりに、それを参照する。これは実に神経系らしいやり方である。認識し、連想し、パターンの続きを補うのだ。

人間の認知の実際の大半はキャッシュの参照から成る、というのは妥当な推測だ。

ある種の場面に出会うと、この考えが私の頭をよぎる。

このことを見事に示す話があった。ブックマークしたつもりだったが、見つけ直せなかった。ある男性の、知ったかぶりの隣人が、家の煙突を取り除くいちばんよい方法を、何気なく教えたという話だ。まず暖炉を壊し、れんがが一段分落ちてくるのを待ち、そのれんがを壊す。それを煙突がなくなるまで繰り返せばよい、と。何年かたって、その男性が自分の家の煙突を取り除こうと思ったとき、このキャッシュされた思考が潜み、飛びかかる機会を待っていた……。

後になって男性が指摘したように――うまくいかなかったことは察しがつくだろう――隣人はこうしたことに特に詳しくはなく、信頼できる情報源ではなかった。その案を疑ってみれば、まずい考えだと気づいただろう。キャッシュで見つかった答えでも、計算し直したほうがよいものはある。だが、脳は自動でパターンの続きを補う。そのパターンに修正が必要だと意識的に気づかなければ、手元には完成済みのパターンが残ることになる。

もしその考えを男性自身が思いついていたら――煙突を取り除くこの名案を自分で思いついていたら――もっと批判的に検討したのではないかと思う。だが、ほかの誰かがすでに考え抜いたアイデアなら、その結論をキャッシュしておけば計算能力を節約できる。そうだろう?

とりわけ現代文明では、自分の思考をすべて自分で考え出せるほど速く考えられる人などいない。もし私が乳児のときに森に捨てられ、オオカミや無言のロボットに育てられたなら、人間だとわかるかさえ怪しいだろう。狩猟採集民の集団が持つ知恵を、一生のうちに一から考え直して再現できるほど速く考えられる人はいない。文字を持つ文明の知恵となれば、なおさら無理だ。

だが裏を返せば、批判的思考を志す人々が、批判的に考える人が作ったわけでもない、キャッシュされた思考をそのまま繰り返し口にするのを、私はしょっちゅう見かける。

よい例が、「まあ、事実に基づく証拠で宗教を証明したり反証したりはできない」と譲歩する懐疑主義者だ。別のところで指摘したように、これは確率論として単純に間違っている。また、宗教の実際の心理に照らしても、単純に間違っている。数世紀前なら、こんなことを言えば火あぶりにされたはずだ。娘ががんにかかった母親は、「神様、どうか娘を治してください」と祈るのであって、こう祈るのではない。「神様、宗教には反証可能な帰結があってはならないと承知しています。つまり、あなたが娘を治してくださることはありえません。だから……まあ、要するに、娘の本当の助けになることをする代わりに、自分の気分をよくするために祈っています」

だが人は、「事実に基づく証拠で宗教を証明したり反証したりはできない」と読み、次に宗教に反する証拠を目にしたとき、脳がパターンの続きを補う。無神論者の中にも、この不合理な言葉をためらいなく繰り返す人がいる。他人から聞くのではなく、自分で思いついた考えだったら、もっと疑ってかかっただろう。

死。パターンの続きを補おう。「死があるから人生に意味がある」

善良でまともな人たち――千年かかっても、人類を絶滅させようなどと自発的には思いつきそうにない人たち――に人類の存亡にかかわるリスクの話をして、「まあ、人類には生き残る資格がないのかもしれない」と言われると、いらだたしい。人類の一部である自分の子を撃つことなど、千年たってもしないだろうに、脳はパターンの続きを補うのだ。

あなたの心の中では、自分で選んで取り入れたわけでもない、どんなパターンの続きが補われているだろうか。

合理性。パターンの続きを補おう。「愛は合理的ではない」

もしこの考えが、まったく新しい思考として、突然あなた自身に浮かんだのなら、どう批判的に検討するだろうか。私が何と言うかはわかっている。だが、あなたなら? 新鮮な目で見るのは難しいこともある。ありきたりで、意外性もなく、すでに知っている形で心がパターンの続きを補うのを、止めてみてほしい。お決まりの答えよりよい答えはないかもしれない。だが、脳が自動で答えを埋めるのを止められなければ、その答えについて考えることはできない。

これを読んだあなたは次に、馬鹿げている、あるいは間違っていると思うミームを誰かがためらいなく繰り返すのを聞いたら、「キャッシュされた思考だ」と思うだろう。私の信念は今やあなたの心の中にあり、パターンの続きを補うのを待っている。しかし、それは真実なのか? 心にパターンの続きを勝手に補わせるな! 考えよう!