Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

でも、まだ可能性はあるんでしょう?

But There’s Still a Chance, Right?

何年も前、ある人と話していると、彼は進化論を信じていないと何気なく口にした。そこで私はこう言った。「今は十九世紀じゃない。ダーウィンが初めて進化論を提唱したときなら、疑うのももっともだったかもしれない。でも今は二十一世紀だ。私たちは遺伝子を読める。人間とチンパンジーのDNAは98%共通している。人間とチンパンジーに類縁関係があることはわかっている。もう決着済みなんだ」。

彼は言った。「DNAが似ているのは、ただの偶然かもしれない」。

私は言った。「その確率は、2の七億五千万乗対1くらいだ」。

彼は言った。「でも、まだ可能性はあるんでしょう?」

さて、この会話で過去の私が道徳的に完勝したと厳密に主張できない理由はいくつかある。一つには、2750,000,000という数字をどこから引っ張り出したのかまったく覚えていない。ただし、メタレベルで見た桁数としてはおそらく正しい。もう一つには、過去の私は較正された確信度という概念を適用していなかった。人類史上、人間が何かに対して2750,000,000対1というオッズを計算した事例をすべて集めれば、その人々は間違いなく、2750,000,000回に一度よりも頻繁に誤ってきた。たとえば共通遺伝子の推定値は98%ではなく95%へ修正された――しかも、それすら既知の三万遺伝子だけに当てはまり、ゲノム全体には当てはまらない可能性がある。その場合、メタレベルで見た桁数としても間違っている。

それでも、相手の返答はかなりおもしろいと思う。

そのあと何と答えたかは覚えていない――おそらく「ない」のようなことを言ったのだろう――だが、この出来事は覚えている。悟りを得ていない人々の目に思考の法則がどう映るかについて、いくつもの洞察を与えてくれたからだ。

最初に気づいたのは、人間の直感が「可能性なし」と「ごくわずかな可能性だが、追い続ける価値はある」とを質的に区別していることだった。これはOvercoming Biasでの宝くじ論争にも見て取れる。そこである人が「当たる可能性がゼロであることと、イプシロンだけあることとの間には大きな違いがある」と言い、私は「いや、違いはイプシロンのオーダーだ。疑うなら、イプシロンをグーゴルプレックス分の一としてみればよい」と答えた。

問題は、確率論によって、確かに心の領域を使って追い続ける価値がないほど小さな可能性を計算できる場合があることだ――しかしその時点では、すでに計算してしまっている。人は地図と領土を混同するため、直感の水準では、記号で記述された確率を追うことが「追う価値のある可能性」のように感じられる。たとえその記号的記述の指示対象が、塵の粒だったとしても見えないほど小さな数であってもだ。それほど小さな数を言葉で記述することはできるが、それほど小さな感情は記述できない――そもそもそんなに小さな感情は存在せず、感じられるだけのニューロンを発火させることも、神経伝達物質を放出することもない。人が宝くじを買うのはこのためだ。それほど小さい確率の小ささを感じることは、誰にもできない。

だが私がさらに興味深いと感じたのは、「確実な」議論と「不確実な」議論との質的な区別である。議論が確実でなければ、無視してよいというのだ。つまり尤度がゼロなら信念を捨てなければならないが、尤度がグーゴル分の一なら、その信念を持ち続けてよいことになる。

今は自由な国であり、違法な推論をしたからといって投獄されるべきではない。だが、尤度がグーゴル分の一だという議論を無視するつもりなら、尤度がゼロだという議論も無視すればよいではないか? つまり、どうせ証拠を無視するのなら、確実な証拠を無視することが、不確実な証拠を無視することより、それほど悪いのはなぜだろう?

人生において私は、他人が見せてくれる見事なまでに露骨な悪例から学び、それをもっと微妙な事例へきちんと一般化することがよくあった。この場合、裏返して得られる教訓はこうである。望むからという理由でグーゴル分の一の尤度を無視できないなら、望むからという理由で0.9の尤度を無視することもできない。すべては同じ滑りやすい崖の上にある。

自分が「でも、私が間違っていると証明することはできない」と考えているのに気づいたら、彼の例を思い出してほしい。確率的な反論を無視するのなら、証明だって無視すればよいではないか?