非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

正義の天秤、合理性のノート

The Scales of Justice, the Notebook of Rationality

❦

正義の女神は、よく天秤を持つ姿で描かれる。天秤には、一方を下げるものは何でも、もう一方を押し上げるという性質がある。これはとても便利で、状況を把握しやすい。だが、たいていは現実をひどく歪めてもいる。

人間の言論には、議論を一種の戦闘、戦争の延長、スポーツとして扱いがちな傾向がある。そしてスポーツなら、各チームが何点取ったかだけを追えばよい。陣営は二つしかなく、一方から奪った点は、もう一方にとっての得点になる。聴衆は皆、それぞれの弁論者が相手から何点取ったかを、頭の中で数え続ける。討論が終われば、より多く得点した弁論者が、もちろん勝者だ。だから、その人の言うことはすべて正しく、負けた人の言うことはすべて間違っているに違いない。

「リスクと便益の判断における感情ヒューリスティック」は、原子力などの技術がもたらしうる便益についての判断と、その技術がもたらしうるリスクについての判断とを、被験者が混同し、その技術全体への一つのよい、あるいは悪い感情にまとめてしまうかどうかを調べた。1まず私が、ある型の原子炉は、競合する設計より核廃棄物の排出量が少ないと話したとしよう。だがその後で、その原子炉は競合する設計より不安定で、十分多くの問題が同時に起きると、炉心溶融を起こす危険性がより高いと伝える。

炉心溶融を起こしやすいなら、それはその原子炉への「マイナス点」、あるいは原子炉の建設を主張する人への「減点」のように思える。そして廃棄物が少ないなら、その原子炉への「プラス点」、あるいは建設を支持する「加点」になる。では、この二つの事実は互いに対立しているのだろうか? そうではない。現実の世界では、対立していない。この二つの事実は、同じ討論の別々の陣営から持ち出されるかもしれないが、論理的には別々のものだ。事実は、自分がどちらの味方なのかなど知らない。

ある原子炉の設計が受動的に安全であること――周囲の冷却系などが壊れても超臨界にならないこと――が物理的事実だとしても、その原子炉の廃棄物の排出量が必ず少ないとか、より低コストで発電するということにはならない。どれもよいことだが、同じ一つのよいことではない。原子炉が出す廃棄物の量は、その原子炉の特性によって生じる。核反応をより不安定にするのは、原子炉の別の物理的特性だ。同じ設計特性が一部関わっているとしても、炉心溶融の確率と、年間に生じる廃棄物の予測量は、別々に考えなければならない。これは二つの異なる物理的な問いであり、事実としての答えも二つ、別々にある。

しかし、上記のような研究は、人が技術を、そして多くのほかの問題を、全体としてよいか悪いかという感情で判断しがちであることを示している。ある原子炉の設計は廃棄物が少ないと伝えると、人はその炉心溶融の確率も低く見積もる。これは、事実に基づく明確な答えがある物理的な問いに、間違った答えを出すということだ。論理的には別々の問いを混同してしまったからである。事実を、戦争で敵味方に分かれた人間の兵士のように扱い、一方の陣営の兵士なら誰でも、他方のどの兵士とでも戦わせられると考えたのだ。

正義の女神が、有罪か無罪かという純粋に事実についての問いを調べているなら、天秤はまったく不適切というわけではない。ジョン・スミスはジョン・ドウを殺したか、殺していないかのどちらかだ。私たちはE・T・ジェインズから、ベイズ的な証拠はすべて、仮説の間を移動する確率からなると教わる。ほかの仮説がよりうまく説明できるか、できないかということを抜きにして、一つの仮説を「支持する」または「否定する」証拠など存在しない。正義の女神が、答えの候補が二つしかない、純粋に事実に関する一つの問いを調べているかぎり、天秤は適切な道具だろう。ユスティティアがそれより複雑な問題を考えなければならないのなら、天秤を手放すか、剣を手放すべきだ。

すべての議論が、単に上がるか下がるかに還元できるわけではない。合理性の女神はノートを携え、誰の味方でもない事実を、そこへすべて書き留める。

Melissa L. Finucaneほか「リスクと便益の判断における感情ヒューリスティック」Journal of Behavioral Decision Making 13巻1号(2000年):1–17。 ↩