Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

重荷となる細部

Burdensome Details

単なる裏づけの細部にすぎぬ。さもなければ殺風景で説得力のない物語に、芸術的な真実らしさを与えるための……。

連言錯誤とは、人間が確率P(A,B)を確率P(B)より高く評価することである。たとえP(A,B) ≤ P(B)が定理であってもだ。たとえば1981年のある実験では、被験者の68%が、「レーガンは未婚の母親に連邦政府の支援を提供し、地方政府への連邦政府の支援を削減する」ことを、「レーガンは未婚の母親に連邦政府の支援を提供する」ことより起こりそうだと順位づけた。

代替仮説を一つずつ排除し、標準的解釈を確定した、巧妙に設計された長い一連の実験によって、連言錯誤が起きるのは、私たちが「確率の判断を代表性の判断で置き換える」からだと確認された。余分な細部を加えると、その結果を生み出す過程にとって、その結果がより典型的に見えるようにできる。レーガンが未婚の母親を支援するという話に、もう一つの主張を加えることで、よりもっともらしく響かせられる。その主張とは、レーガンが地方政府への支援を同時に削減する、というものだ。一方の主張のもっともらしくなさが、もう一方のもっともらしさで埋め合わされ、両者が「平均化」されるのだ。

言い換えれば、細部を加えると、シナリオはよりもっともらしく聞こえるようになるが、それでも出来事の確率は必然的により低くなる

もしそうなら、仮に言えば、未来学者が法外なほどもっともらしく詳細な未来史を紡いでいたり、中心にある少数の力強く聞こえる断言と一緒に束ねられた、根拠のない主張の巨大な詰め合わせを人々が丸のみしたりすることもあるかもしれない。連言錯誤をむき出しの直接比較として提示されれば、その問題だけは意識的に自分を訂正して正解できるかもしれない。だが、それは問題に絆創膏を貼るだけであって、一般的な解決にはならない。

職業的な予測者たちが、「ロシアがポーランドに侵攻し、続いて米国とソ連が外交関係を停止する」に対して、「米国とソ連が外交関係を停止する」より系統的に高い確率を割り当てた1982年の実験では、各実験群には一つの命題しか提示されなかった。2 誰一人として比較の存在を直接知らないとき、予測者たちは集団としてどんな方策を取れば、連言錯誤をなくせただろうか。その実験が連言錯誤を扱っているとさえ、誰も知らないときにである。どうすれば、彼らは確率判断を改善できただろうか。

一つの引っかけを特殊例としてつぎはぎしても、一般的な問題は解決しない。引っかけは症状であって、病気そのものではない。

直接比較を見ることもなく、連言錯誤について誰かに試されると知ることすらなく、予測者たちはどうすれば連言錯誤を避けられただろうか。私には、彼らは「そして」という言葉に気づく必要があったように思える。それを警戒する必要があった――ただ警戒するだけでなく、そこから飛び退くほどでなければならない。研究者があとで、とりわけ連言錯誤について試そうとしていると知らなくても、である。丸ごと二つの細部の連言に気づき、そんな途方もなく複雑な予測への同意を求める人間の厚かましさに衝撃を受ける必要があった。そして確率を大幅に、実験の詳細によれば少なくとも4分の1にまで引き下げなければならなかった。

米国とソ連が外交関係を停止する可能性のある理由について考えることも、予測者たちの助けになったかもしれない。シナリオは「米国とソ連が何の理由もなく突然、外交関係を停止する」ではなく、「米国とソ連が何らかの理由で外交関係を停止する」である。

では、「レーガンは未婚の母親に連邦政府の支援を提供し、地方政府への連邦政府の支援を削減する」を評価した被験者はどうか。やはり「そして」という言葉に衝撃を受ける必要があった。さらに、ありえなさを平均するのではなく、足し合わせる必要があった――ここで、ありえなさとは対数確率なので足し算ができる。こう考えるべきだったのだ。「レーガンが地方政府への支援を削減するかもしれないし、しないかもしれない(1ビット)。だが、未婚の母親を支援する可能性は非常に低そうだ(4ビット)。ありえなさの合計は5ビット」。あるいは、「レーガンが未婚の母親を支援することはない。一つの不成立で全体がアウトだ。もう一方の命題は、さらに悪化させるだけである」と。

同じように、緑の面が四つ、赤の面が二つある六面体のサイコロを考えよう。被験者は、サイコロを20回振るどこかで現れる並びに賭けなければならなかった。選択肢は、(1)rgrrr、(2)grgrrr、(3)grrrrrである。3 被験者の65%がgrgrrrを選んだが、これはrgrrrに厳密に劣後する。grgrrrを含む並びなら、どれもrgrrrへの賭けでも配当を得られるからである。被験者はどうすればもっとよくできただろうか。包含関係に気づけばよかったのか。おそらくそうだが、それは絆創膏にすぎず、根本的な問題を解決しない。確率を明示的に計算すればよかったのか。それなら確かに根本的な問題を解決するが、常に正確な確率を計算できるとは限らない。

被験者はヒューリスティックにこう考えて負けた。「なるほど! 並び2は赤に対する緑の割合が最も高い! 並び2に賭けよう!」ヒューリスティックに勝つには、こう考える必要があった。「なるほど! 並び1は短い! 並び1にしよう!」

彼らはオッカムの剃刀から、より強い感情的な衝撃を受ける必要があった。サイコロを余分に一回振ることさえ、加えられたあらゆる細部を重荷として感じなければならなかったのだ。

昔、慎重さを欠く未来学者(格好よく聞こえる細部を大量に付け加える人物)に魅了された人と話したことがある。私は、その驚くべき信じがたい理論になぜ自分は同じように魅了されないのかを説明しようとした。そこで連言錯誤について、とりわけ「外交関係の停止±ポーランド侵攻」の実験について説明した。すると彼は、「分かった。でも、それが何の関係が――」と言った。私は答えた。「宇宙が何らかの理由で複製する確率のほうが、宇宙がブラックホールを通じて複製する、なぜなら高度文明がブラックホールを製造する、なぜなら宇宙は高度文明にそうさせるよう進化するからだ、という確率より高い」。すると彼は、「ああ」と言った。

それまで、彼はこうした余分な細部を、余分な重荷として感じていなかった。むしろ、それらは物語に真実らしさを与える、裏づけの細部だった。誰かが奇妙な考えの詰め合わせを提示し、その一つとして、宇宙は複製するという考えを挙げる。次に、宇宙は複製するという主張への裏づけを示す。しかしこれは、すべてが一つの物語として語られてはいても、詰め合わせ全体の裏づけではない。

細部を解きほぐさなければならない。一つひとつを独立に掲げて、「この細部は、どうして分かるのか?」と問わなければならない。誰かが、ナノテクノロジー戦争へと人類が転落していく図を描く。中国が国際的な管理協定の順守を拒み、それに続いて軍拡競争が起きる……。ちょっと待て――中国だとどうして分かる? ポケットの中に水晶玉でもあるのか、それとも未来学者でいられてうれしいだけなのか? この細部のすべては、どこから来るのか。その特定の細部は、どこから来たのか。

こう記されている。

重荷を軽くできるなら、そうしなければならない。

あなたの背を折る力を持たない藁などない。

William S. Gilbert and Arthur Sullivan, The Mikado, Opera, 1885.

Tversky and Kahneman, “Extensional Versus Intuitive Reasoning.”

Amos Tversky and Daniel Kahneman, “Judgments of and by Representativeness,” in Judgment Under Uncertainty: Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic, and Amos Tversky (New York: Cambridge University Press, 1982), 84–98.