非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

灰色の誤謬

The Fallacy of Gray

❦

世慣れた人:「世界は白黒では割り切れない。純粋によいことや、純粋に悪いことをする人はいない。すべて灰色だ。だから、誰も他の誰かより優れてはいない」。

ゼテート:「灰色しか知らないからといって、すべての灰色は同じ濃さだと結論する。二色で見る単純さをあざ笑いながら、それを一色で見る考えに置き換えている……」。

この世慣れた人の誤りに正式な名前があるかは知らないが、私は「灰色の誤謬」と呼んでいる。前のエッセイでも、その現れを見た。あることが起こるオッズが、起こらないほうに2の7億5千万乗対1であっても、「まだ可能性はある」と考えた人のことだ。彼にとって、確率はどれも単に「不確か」で、それなら好きに無視してよいということだった。「月は緑色のチーズでできている」も、「太陽は主に水素とヘリウムでできている」も不確かではある。だが、その不確かさは同じではない。

すべては濃淡のある灰色だ。だが、ほとんど白に近いほど薄い灰色も、ほとんど黒に近いほど濃い灰色もある。そうでないとしても、濃さを比べて「より濃い」「より薄い」と言うことはできる。

何年も前、合理主義者としての私を形作った、奇妙で小さなきっかけの一つが、イアン・M・バンクスのPlayer of Gamesにある次の段落、とりわけ太字の文を読んだことだった。2

罪ある体制は、無実の者の存在を認めない。すべての人は味方か敵かのどちらかだと考える権力機構に対してはいつもそうであるように、われわれは敵なのだ。考えてみれば、君もそうだ。君のものの考え方自体が、君をその敵の一員にしている。君のせいではないかもしれない。なぜなら、どの社会も、その中で育った人に自分たちの価値観の一部を押しつける。だが重要なのは、その作用を最大化しようとする社会も、最小化しようとする社会もあるということだ。君は後者の社会から来て、前者に対して自分を説明するよう求められている。言い逃れは想像以上に難しいだろう。中立はおそらく不可能だ。自分の政治的な立場を持たないことは選べない。それは、君という存在の他の部分からどうにか切り離せる、独立した実体の集まりではない。君という存在に応じて決まるものなのだ。私もそれを知っているし、彼らも知っている。君も受け入れたほうがいい。

ここで、社会が価値観を押しつける程度を減らせば、後の世代ほどゼロからやり直す仕事が増えるではないか、という怒りのコメントを書かないでほしい。私がこの段落から得たものは、そういうことではない。

この段落から得たものは、振り返ってみれば、他の百か所で学んでもおかしくないほど明らかなことだった。だが、この段落の何かが、私に腑に落ちる瞬間をもたらした。

それは、道徳的判断や自分をよくする努力といった人生の問題にも、量で考える道を適用するという発想そのものだった。何かをオンからオフにはできなくても、それを増やしたり減らしたりすることはできる、ということだ。

当たり前すぎて、言う価値もないだろうか。私はそうは思わない。多くのブロガーがOvercoming Biasについて、「不可能だ。バイアスを完全になくせる者はいない」と言っているからだ。相手が職業的な経済学者であろうと関係ない。日常生活や自己改善のような事柄に、量で考える道をどう適用するかが、まだ身についていないのは明らかだ。なくせないものにも、減らす価値は十分ありうる。

あるいは、ロビン・ハンソンとタイラー・コーエンの次のやりとりを考えてほしい。ハンソンは、自分の直感に対して、経済理論の処方箋に少なくとも75%の重みを置きたいと言った。「私は、個人的・文化的な判断をほとんど加えず、たいていは経済理論をそのまま適用するように努めている」。コーエンはこう答えた。

私の見るところ、「経済理論をそのまま適用する」などということは存在しない……理論はいつも、個人的・文化的なフィルターを通して適用されるのであり、それ以外ではありえない。

そのとおりだ。だが、その作用を最小化しようとすることもできれば、確実に増やすようなこともできる。そして、もし最小化しようとするなら、その結果を「そのままの適用」と呼ぶことが、多くの場合、不合理だとは思わない。経済学であっても、だ。

「誰もが不完全だ」。モーハンダース・ガンディーも不完全で、ヨシフ・スターリンも不完全だった。だが、不完全さの濃さは同じではなかった。「誰もが不完全だ」は、二色の見方を一色の見方に置き換える、絶好の例だ。「完璧な人はいない。だが、ある人は他の人ほど不完全ではない」と言っても、拍手はもらえないかもしれない。けれど、よりよくなろうと努める人には、希望を差し出したことになる。結局、完全に不完全な人もいないのだ。

(「完璧主義は体によくない」と言われるたび、私はこう返す。「不完全でもいいと思う。ただ、他人に気づかれるほど不完全ではいけない」。)

同じように、「どの科学的パラダイムも、実験の解釈に自分の前提の一部を押しつけている」と言って、それで科学が呪術医のまじないと同じ水準にあると証明できたかのように振る舞うのも愚かだ。どんな世界観も、観察に自分の構造の一部を押しつける。だが重要なのは、それを最小化しようとする世界観と、それを誇る世界観があることだ。白はなくても、他よりはるかに薄い灰色はある。それらをすべて同じ水準のように扱うのは愚かである。

月が過去数十億年、地球を回っていて、ここ数年、空にあるのを見てきて、明日も決まった位置と満ち欠けで見えると予想しても、それは確実ではない。そして、目に見えないドラゴンが娘のがんを治してくれると予想するのも、確実ではない。だが、不確実さの程度はかなり違う。以前に小数点以下12桁まで予測できたのと同じことが再び起こると期待するのと、以前に観察した秩序に反することが起こると期待するのとでは。両方を「信仰」と呼ぶのは、少しばかり区別が粗すぎるように思える。

「科学も信仰に基づいている。どうだ!」というのは、実に奇妙な心理だ。こう言うのは普通、信仰はよいものだと主張する人々である。ではなぜ、「科学も信仰に基づいている!」を褒め言葉ではなく、怒りと勝ち誇りの入り混じった口調で言うのだろう。相手の立場からすれば、かなり危険な褒め言葉でもありそうだ。科学が「信仰」に基づくなら、科学は宗教と同じ種類のものとなり、直接比較できる。科学が宗教なら、それは病人を治し、星々の秘密を明らかにする宗教だ。「科学の聖職者は、信仰に基づく奇跡として、公然と、誰にも検証できる形で、月面を歩いてみせる。だがあなたがたの聖職者の信仰には、同じことはできない」と言っても筋が通る。本当にそこへ進みたいのか、信仰を奉じる人よ。よく考え直せば、「科学も宗教だ!」という話自体、取り下げたくなるかもしれない。

ここには奇妙な力学がある。自分の灰色をきれいにしようと努め、かなり薄いところまで来る。すると誰かが立ち上がり、ひどく気分を害した口調で言う。「でも白じゃない! 灰色だ!」。「具体的にX、Y、Zという問題があるから、あなたが思っているほど薄くない」と言うなら話は別だ。具体的な黒ずみを一つも指摘せず、怒って「白じゃない! 灰色だ!」と言うのは、違うことなのだ。

この場合、普通以上に不完全な心理が働いているのではないかと疑い始める。自分の間違いと悪魔の取引をしてしまい、改善の可能性など聞きたくないのかもしれない。もっとよくなろうとしない言い訳を見つけると、人はしばしば、他の誰かがもっとよくなろうとすることも認めなくなる。それからは、あらゆる改善の方法が敵となり、前進は可能だというあらゆる主張が、自分への侮辱となる。だから、一息で「灰色でよかった」と誇り、その次の息で「そしておまえだって灰色だ!」と怒るのだ。

黒と白がなくても、薄いものと濃いものはある。灰色はすべて同じではない。

G2が、アシモフの「間違いの相対性」を紹介してくれた。3

地球は平らだと人々が考えたとき、彼らは間違っていた。地球は球だと人々が考えたときも、彼らは間違っていた。だが、地球は球だと考えることも、平らだと考えるのと同じくらい間違いだと思うなら、あなたの見方は、その二つを合わせたよりもなお間違っている。

Marc Stiegler, David’s Sling (Baen, 1988). ↩

Iain Banks, The Player of Games (Orbit, 1989). ↩

Isaac Asimov, The Relativity of Wrong (Oxford University Press, 1989). ↩