Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

二重思考(偏向を選ぶこと)

Doublethink (Choosing to be Biased)

オブライエンの指の間に、細長い新聞の切れ端が現れた。おそらく五秒ほど、それはウィンストンの視野の中にあった。写真だった。何を写したものか、疑いの余地はなかった。あの写真だ。十一年前に偶然見つけ、すぐに処分した、ニューヨークの党行事に出席したジョーンズ、アーロンソン、ラザフォードの写真。その別の一枚だった。目の前にあったのは一瞬だけで、すぐにまた見えなくなった。だが彼は見た。疑いなく見たのだ! 上半身を拘束から引きはがそうと、必死の、苦悶に満ちた努力をした。どの方向にも一センチたりとも動けない。その瞬間、彼はダイヤルのことさえ忘れていた。写真をもう一度指に挟みたい、せめてもう一度見たい。ただそれだけを望んだ。

「それは存在する!」彼は叫んだ。

「いや」とオブライエンは言った。

彼は部屋を横切った。

向かいの壁には記憶穴があった。オブライエンが格子を持ち上げた。目には見えないところで、か弱い紙片は暖気の流れに巻かれ、炎のひらめきの中へ消えていった。オブライエンは壁から向き直った。

「灰だ」と彼は言った。「何の灰かさえ分からない。塵だ。それは存在しない。存在したこともない」

「だが存在した! 存在している! 記憶の中に存在する。私は覚えている。あなたも覚えている」

「私は覚えていない」とオブライエンは言った。

ウィンストンの胸は沈んだ。それが二重思考だった。死ぬほどの無力感に襲われた。オブライエンが嘘をついていると確信できたなら、大したことには思えなかっただろう。だが、オブライエンが本当に写真を忘れてしまった可能性は十分にあった。もしそうなら、自分が覚えていることを否定した事実も、忘れるという行為そのものも、すでに忘れているだろう。単なる策略だと、どうして確信できる? あの狂気じみた心の脱臼が、本当に起こりうるのかもしれない。その考えが彼を打ちのめした。

自己欺瞞が私たちの幸福に役立つとしたらどうだろう? 外へ飛び出してバイアスを克服しただけで、なんと私たちが不幸になるとしたら? 真の知恵とは、いつ合理的になるかを選ぶ二階の合理性に違いない。そうすれば、どの認知バイアスに自分を支配させるかを選んで、幸福を最大化できる。

道徳の問題は脇に置くとしても、そのような狂気じみた心の脱臼が本当に起こりうるとは思えない。

二階の合理性が意味するのは、ある時点で自分にこう言うことだ。「さて今から、幸福になるために、宝くじに当たると非合理的に信じよう」。しかし私たちは、自分の信念をそれほど直接には制御できない。意志の力だけで、空は緑色だと信じ込むことはできない。それを信じている、と信じることならできるかもしれない。もっとも、今その違いを指摘したので、少し難しくなっただろう。(どういたしまして!)自分は幸福で、自己欺瞞にも成功している、と信じることさえあるかもしれない。だが、実際に幸福で、自己欺瞞に成功しているわけではない。

二階の合理性が真に合理的であるには、まず現実について良いモデルを持ち、合理的であることと非合理的であることの帰結を予測しなければならない。そのうえで一階では非合理的になると選ぶなら、この正確な見方を忘れる必要がある。そして、忘れたという行為も忘れなければならない。フィクションの証拠から一般化するという論理的誤謬を犯すつもりはないが、この道がどこへ通じるかについて、オーウェルは見事に推論したと思う。

バイアスを取り除くまでは、バイアスを持つことの帰結を知ることはできない。そして取り除いたときには、自己欺瞞を行うにはもう遅い。

もう一つの選択肢は、帰結についてはっきりした見通しを何も持たず、盲目的にバイアスを保つと決めることだ。それは二階の合理性ではない。意図的な愚行である。

自分の運転技術について非合理的に楽観すれば、他人が冷や汗をかき恐れる場面でも、幸福な無頓着さを保てる。シートベルトの不便に我慢する必要もない。一日、一週間、一年、幸福な無頓着さのままでいられる。そして、衝突する。幻肢のかゆいところを掻けたら、と願いながら残りの人生を過ごす。あるいは首から下が麻痺する。あるいは死ぬ。必ずそうなるわけではないが、そうなる可能性はある。その確率はどれほどか? 自分の本当の運転技術を知らなければ、どれほどの危険に身をさらすのか計算できず、その交換を合理的に選ぶことはできない。確率の無視のようなバイアスを知らなければ、その交換を合理的に選ぶことはできない。

幸福な無知のうちに何日過ごせたとしても、たった一度の過ちで一人の人生は台無しになり、愚かさという線路から拾い集めた小銭のすべてを帳消しにしてしまう。

合理主義者を目指す人に私が与える最も大切な助言の一つは、「小賢しく振る舞おうとするな」だ。そして「静かにまとわりつく疑念に耳を傾けよ」。知らないのなら、自分が何を知らないのかも、どれほど知らないのかも、どれほど知る必要があったのかも分からない。

二階の合理性など存在しない。燃えたぎる溶岩の穴かもしれず、そうでないかもしれない場所へ、目をつぶって飛び込むことしかない。いったん知ったなら、もう目をつぶるには遅すぎる。

だが人はこれを見落とす。自分が何を知らないかを知らないからだ。未知の未知は、心に想起可能ではない。地図の空白部分に目を向けず、それを領土の空白に対応するかのように扱う。目をつぶって飛び込むことを考えるとき、記憶の中に危険がないか調べ、空白の地図には燃えたぎる溶岩の穴などないことを確認する。なら、なぜ飛ばない?

経験済みだ。試してみた。火傷した。小賢しく振る舞おうとするな。

以前ある友人に、愚かであることの幸福は大いに過大評価されているのではないか、と言ったことがある。彼女は真顔で首を振り、「いいえ、違う。本当に違う」と言った。

世の中には幸福な愚か者もいるのかもしれない。彼らはあなたより幸福かもしれない。人生は公平ではないし、手に入らないものを妬んでも幸福にはなれない。Overcoming Biasの読者の圧倒的多数は、試してみても「愚かさの幸福」にはたどり着けないだろう。その道はあなたには閉ざされている。そこまで無知にはなれない。知っていることを忘れられず、見たものを見なかったことにはできない。

愚かさの幸福はあなたには閉ざされている。実際に脳を損傷でもしないかぎり、それを得ることはないし、損傷しても得られないかもしれない。愚かさの幸福が最適なのか、人間が目指せる最大の幸福なのかは、考えてみるべきだろう。だが、どちらでもよい。その道は、かつて開いていたとしても、今のあなたには閉ざされている。

いま残されているのは、合理主義者に到達できる幸福を目指すことだけだ。最後には、そちらのほうが大きいと分かるかもしれない。限界のある道と、どこまでも続く道がある。寝そべって怠けられる高原と、登るべき山がある。登るほうが努力を要するとしても、最後には山のほうが高くそびえる。

それに、人生には幸福以上のものがある。そしてあなたの決断には、あなた以外の者の幸福も懸かっているかもしれない。

だが、それは論じても仕方がない。自分に選択肢があると気づいた時点で、もう選択肢はない。見たものを見なかったことにはできない。もう一方の道は閉ざされている。

オーウェル『1984年』。