❦
私が架空の証拠から一般化するという論理的誤謬と呼ぶ、思考の癖がある。たとえば、AIについての報道で映画『ターミネーター』を持ち出す記者は、普通、『ターミネーター』を予言や確定した真実として扱っているわけではない。だが、その映画は、説明に役立つ歴史上の事例であるかのように思い出される——思い浮かべられる。まるで別の惑星で起きたのを記者が見てきたから、ここでも十分起こりうるのだと言わんばかりに。詳しくは「地球規模のリスク判断に影響しうる認知バイアス」の第7節を参照してほしい。1
架空の証拠から一般化することには、逆向きの誤りもある。歴史上の証拠から、十分に心を動かされないことだ。架空の証拠からの一般化がまずいのは、それが作り話であり、実際には起きていないからだ。それは、この現実の宇宙と同じ分布から取り出されたものではない。フィクションは現実と、系統的な仕方で異なる。だが歴史は実際に起きたし、思い浮かべられるものになるべきだ。
祖先の環境には映画がなく、自分の目で見たことは本当だった。本物そっくりの動く映像で見る作り話が、私たちに強すぎる影響を及ぼすのも無理はないだろう。逆に、本当に起きたことには、紙の上のインクとして出会う。それは起きたのに、起きるところを見ていない。自分の身に起きたこととしては、記憶していないのだ。
この逆向きの誤りとは、歴史を単なる物語として扱い、小説を読むのと同じ心の部分で処理することだ。口では「フィクション」ではなく「真実」だと言っていても、本来動かされるべきほど心を動かされているとは限らない。多くのバイアスには、無味乾燥な、抽象的な情報から十分な影響を受けないことが関わっている。
かつて私は、謎めいた問いに、謎めいた答えを出した。それが、星に神秘的な説明を与える占星術師や、物質に魔法の性質を考え出す錬金術師、生物学のすべてを説明しようと、正体のわからない「生命の躍動」を仮定する生気論者と、まったく同じ間違いだとは気づいていなかった。
自分が誰と同じ立場にいるのか、ようやく気づいたとき、過去との思いがけないつながりに、突然衝撃を受けた。本で読んだだけだった生気論の誕生と崩壊は、現実の人々に、本当に起きたことだったのだ。その人々は、私が自分の謎めいた答えの誕生と崩壊を経験したのと、よく似た仕方でそれを経験したのだと気づいた。また、過去を実際に経験していたなら——歴史の本で読むのではなく、過去の科学革命を自分で生きていたなら——おそらく同じ間違いをもう一度犯すことはなかったとも気づいた。また別の謎めいた答えなど思いつかなかっただろう。最初の千回の教訓で、要点を十分に叩き込まれていたはずだ。
だから(と私は考えた)、歴史の重みを十分に感じるには、歴史を実際に生きてきたエリエザーの思考に近づこうとするべきだ。歴史の本で読んだことが、すべて自分の身に実際に起きたかのように考えるべきだ。(歴史書の利用可能性バイアスを考慮し、重みづけを適切に補正すること。支配者一人につき、千人の農民であったことを思い出すべきだ。)歴史に身を浸し、紙の上のインクとしてしか見ていなかった時代を生き抜くことを想像すべきだ。
なぜライト兄弟の初飛行を記憶しているべきなのか。私はそこにいなかった。だが合理主義者として、本当に起きた出来事を、あえて記憶しないでいられるだろうか。目を通して出来事を見ること——それも実際には、直接のつながりではなく、反射した光子を介した因果の鎖だ——と、歴史書を通して出来事を見ることには、それほど大きな違いがあるだろうか。光子も歴史書も、出来事そのものから因果の鎖をたどって伝わってくる。
ある特定の時代に生まれたことによる、偽りの記憶喪失を克服しなければならなかった。たまたま自分と自分の時代に属している記憶だけでなく、すべての記憶を思い出さなければ——思い浮かべられるようにしなければ——ならなかった。
地球は突然、年を取った。
以前の私の記憶では、アメリカ合衆国はずっと存在していた。合衆国のない時代などなかった。そのときまで、私は思い出していなかった。ローマ帝国が興り、平和と秩序をもたらし、何世紀もの間続いて、それ以前の状態があったことさえ忘れてしまったことを。それでも帝国は滅び、蛮族が私の街を蹂躙し、私が身につけていた学問が失われたことを。現代の世界は、私の目にいっそう脆く映るようになった。これが最初の現代世界ではなかったのだ。
私が生きたことのないあらゆる時代に、自分が犯したことを覚えていなかったばかりに、何度も何度も何度も繰り返された、あまりにも多くの間違い……。
それなのに、バイアスを克服することが重要なのかと疑う人さえいるのだから。
自分のバイアスに何度殺されてきたか、覚えていないのか? 覚えていない? 致命的な間違いの後には、突然の記憶喪失がよく起こると私は気づいた。だが、私の言うことを信じてほしい。それは起きた。私は覚えている。そこにはいなかったけれど。
だから今度、未来が奇妙なものになることを疑いそうになったら、一万年前、科学など誰もまったく知らなかったころ、狩猟採集の部族に自分が生まれたことを思い出そう。かつてあれほど崇めた、偉大で恐ろしい聖なる謎を科学が説明したとき、自分が存在の奥底まで震えるほど衝撃を受けたことを思い出そう。昔は、適切なキノコを食べれば空を飛べると信じていたこと、その後、決して飛べないのだと落胆しながら受け入れたこと、そして、それから空を飛んだことを思い出そう。奴隷制は正しく当然だとずっと思っていて、その後、考えを変えたことを思い出そう。どうすればその変化を予測できたかを想像してはいけない。それは記憶喪失だ。実際には予想できなかったのだと、思い出そう。何世紀も何世紀も、世界が予想もしなかった仕方で変わってきたことを思い出そう。
そうすれば、次に起きることへの驚きが、少しは小さくなるかもしれない。
Eliezer Yudkowsky, “Cognitive Biases Potentially Affecting Judgment of Global Risks,” in Global Catastrophic Risks, ed. Nick Bostrom and Milan M. Ćirković (New York: Oxford University Press, 2008), 91–119. ↩