Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

歴史を利用可能にする

Making History Available

私が架空の証拠から一般化する論理的誤謬と呼ぶ思考習慣がある。たとえばAIについて報じる中で映画ターミネーターに触れる記者も、普通はターミネーターを予言や不変の真実として扱っているわけではない。しかしその映画は、歴史上の実例であるかのように思い出される――利用可能になる。まるで記者が別の惑星でそれが起きるのを見たため、ここでも十分に起こり得るかのように。この点については、「地球規模のリスク判断に影響し得る認知バイアス」第7節でさらに論じている。1

架空の証拠から一般化することには、逆向きの誤りがある。歴史的な証拠によって十分に動かされないことである。架空の証拠から一般化することの問題は、それが作り話であり、実際には一度も起きていないことだ。それは、ここ、すなわち現実の宇宙と同じ分布から取り出されてはいない。フィクションは体系的な仕方で現実と異なる。しかし歴史は実際に起きているのであり、利用可能であるべきなのだ。

祖先の環境には映画がなかった。自分の目で見たものは真実だった。実物そっくりの動画で見るフィクションが、私たちへ過大な影響を及ぼすのも不思議だろうか。反対に、本当に起きたことには紙の上のインクとして出会う。それは起きたが、私たちは起きるところを見てはいない。自分に起きたこととして覚えていない。

逆向きの誤りとは、歴史を単なる物語として扱い、小説を処理するのと同じ心の部分で処理することだ。それは「作り話」ではなく「真実」だと口では言えるが、だからといって、そうあるべきほど強く動かされているとはかぎらない。数多くのバイアスは、乾いた抽象的な情報によって十分に動かされないことに関わっている。

昔々、私は謎めいた問いに謎めいた答えを与えた。星へ神秘的な説明を考案した占星術師、物質へ魔法の性質を考案した錬金術師、生物学のすべてを説明するため不透明な「élan vital」を仮定した生気論者と、まったく同じ過ちを犯しているとは気づかなかった。

自分が誰と同じ立場にいるのか、ついに気づいたとき、過去との予想外のつながりに突然衝撃を受けた。生気論の発明と崩壊――私はそれを本で読んだだけだった――が、現実の人々に実際に起きたのであり、彼らは、私が自分の謎めいた答えを発明し、崩壊させたのと、ほぼ同じように経験したのだと気づいた。そして、もし自分が過去を本当に経験していたなら――歴史書で読むのではなく、自分自身で過去の科学革命を生き抜いていたなら――おそらく同じ過ちを二度と犯さなかっただろうとも気づいた。別の謎めいた答えを考え出すことはなかっただろう。最初の千回の教訓が、教えを骨身に染み込ませていたはずだ。

だから(と私は考えた)、歴史の力を十分に感じるには、歴史を生き抜いたことがあるエリエザーの思考に近づくよう努めるべきだ。歴史書で読んだことのすべてが実際に自分に起きたかのように考えようとするべきだ。(歴史書の利用可能性バイアスに対して適切に重みを調整しながら――支配者一人を覚えるごとに、農民千人だったことを覚えるべきである。)歴史に浸り、紙の上のインクとしてしか見ていなかった時代を生き抜くところを想像するべきだ。

なぜライト兄弟の初飛行を覚えておくべきなのか。私はそこにいなかった。しかし合理主義者として、その出来事が実際に起きたのに、あえて覚えないでいられるだろうか。自分の目で出来事を見ること――実際には、反射した光子が関わる因果の連鎖であって、直接のつながりではない――と、歴史書を通して出来事を見ることの間に、それほど大きな違いがあるだろうか。光子も歴史書も、その出来事自体から因果の連鎖をたどって伝わってきたものである。

ある特定の時代に生まれたことによる、偽りの記憶喪失を克服しなければならなかった。単なる偶然によって自分自身と自分の時代に属した記憶だけでなく、すべての記憶を呼び戻し、利用可能にしなければならなかった。

突然、地球はより古くなった。

以前の私の記憶では、アメリカ合衆国はずっと存在しており、アメリカ合衆国がなかった時代など一度もなかった。そのときまで私は、ローマ帝国がどのように興り、平和と秩序をもたらし、あまりに長い世紀にわたって存続したため、物事がかつて別様だったことさえ忘れたのか、覚えていなかった。それでも帝国は崩壊し、蛮族が私の街を蹂躙し、私が持っていた学問は失われた。近代世界は、私の目に以前よりもろく映るようになった。これは最初の近代世界ではなかった。

数多くの過ちを何度も、何度も、何度も繰り返した。私が生きなかったあらゆる時代で、自分がその過ちを犯したことを覚えていなかったから……。

それなのに、バイアスを克服することが重要なのかと疑う人さえいる。

自分のバイアスに何度殺されたか、覚えていないのか。覚えていない? 致命的な過ちの後には、しばしば突然の記憶喪失が起きると私は気づいた。しかし私を信じてほしい。それは起きた。私は覚えている。そこにはいなかったが。

だから、今度、未来の奇妙さを疑ったときには、科学を誰もまったく知らなかった一万年前、狩猟採集民の部族に生まれたことを思い出してほしい。かつて深く崇敬していた偉大で恐ろしい神聖な謎を、科学が説明したとき、存在の奥底まで衝撃を受けたことを思い出してほしい。正しいキノコを食べれば飛べると、かつて信じていたこと、その後、決して飛べないのだと落胆しながら受け入れ、それから飛んだことを思い出してほしい。奴隷制は正しく適切だと、ずっと考えていたが、その後で考えを変えたことを思い出してほしい。その変化をどう予測できたか想像してはならない。それは記憶喪失である。実際には推測できなかったことを思い出してほしい。何世紀にもわたり、自分が推測しなかった仕方で世界が変わったことを思い出してほしい。

そうすれば、次に起きることにも、それほど衝撃を受けないかもしれない。

Eliezer Yudkowsky, “Cognitive Biases Potentially Affecting Judgment of Global Risks,” in Global Catastrophic Risks, ed. Nick Bostrom and Milan M. Ćirković (New York: Oxford University Press, 2008), 91–119.