Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

正義の天秤、合理性の手帳

The Scales of Justice, the Notebook of Rationality

正義の女神は、天秤を持つ姿で広く描かれる。天秤には、一方を下へ引けば、他方が上へ押し上げられる性質がある。これは物事を追跡するうえで、とても便利で簡単だ。同時に、たいていは甚だしい歪曲でもある。

人間の言説には、議論を戦闘の一形式、戦争の延長、競技として扱う自然な傾向がある。競技では、各チームが何点取ったかだけを記録すればよい。陣営は二つしかなく、一方に対して取った点は、すべて他方に有利な一点になる。聴衆は全員、各話者が相手から何点取ったかを心の中で逐次数える。討論の終わりに、より多くの点を取った話者が、当然、勝者である。したがって、その話者が言うことはすべて真実であり、敗者が言うことはすべて間違っているに違いない。

「リスクと便益の判断における感情ヒューリスティック」は、ある技術(たとえば原子力)のありうる便益についての判断と、その技術のありうるリスクについての判断を、被験者が、その技術全体への良い感情または悪い感情に混同するかを研究した。1まず私が、特定の種類の原子炉は、競合する原子炉設計より核廃棄物が少ないと伝えたとしよう。だが次に、その原子炉は競合設計より不安定で、十分な数の不具合が同時に起きると、炉心溶融する危険が大きいと伝える。

原子炉が炉心溶融しやすいなら、それは原子炉への「反対点」、あるいは原子炉建設を主張する人への「反対点」のように見える。原子炉が生む廃棄物が少ないなら、それは原子炉への「賛成点」、あるいは建設への「賛成点」である。では、この二つの事実は互いに対立しているのか? いや、現実世界では違う。この二つの事実は、同じ討論の異なる陣営に引用されるかもしれないが、論理的には別個である。事実は自分がどちらの陣営かを知らない。

ある原子炉設計が受動的に安全であること(周囲の冷却系などが故障しても、超臨界に達しないこと)が物理的事実でも、その原子炉が必ず廃棄物を減らし、より低い費用で発電するとは含意しない。それはどれも良いことだが、同じ一つの良いことではない。原子炉が生み出す廃棄物の量は、その原子炉の性質から生じる。原子炉のほかの物理的性質は、核反応をより不安定にする。同じ設計上の性質の一部が関係していても、炉心溶融の確率と、年間に生じると期待される廃棄物を、別々に考えなければならない。これは二つの異なる物理的な問いであり、二つの異なる事実上の答えを持つ。

だが、先ほどのような研究は、人々が技術——そして多くのほかの問題——を、全体的な良い感情か悪い感情によって判断しがちだと示す。ある原子炉設計が生み出す廃棄物は少ないと伝えると、人々は炉心溶融の確率も低く評価する。これは、明確な事実上の答えがある物理的な問いに、間違った答えを出すということだ。論理的に別個の問いを混同し、事実を、戦争の異なる陣営に属する人間の兵士として扱い、一方の兵士なら誰でも、他方の兵士の誰とでも戦うために使えると考えたためである。

正義の女神が、有罪か無罪かという厳密に事実的な問いを調べているなら、天秤はまったく不適切というわけではない。ジョン・スミスはジョン・ドウを殺したか、殺さなかったかのどちらかだ。ベイズ的証拠はすべて、仮説のを流れる確率で構成される、と(E・T・ジェインズから)私たちは教わった。ほかの仮説の成績が悪いか良いという範囲を除けば、単一の仮説を「支持」または「反証」する証拠というものはない。正義の女神が、二値の回答空間を持つ、単一で、厳密に事実的な問いを調べているかぎり、天秤は適切な道具だろう。ユースティティアがもっと複雑な問題を考慮しなければならないなら、天秤を手放すか、剣を手放すべきだ。

すべての議論が、単なる上か下へ還元されるわけではない。合理性の女神は、誰の味方でもない事実をすべて書き留める手帳を持つ。

メリッサ・L・フィヌケーンほか「リスクと便益の判断における感情ヒューリスティック」『Journal of Behavioral Decision Making』13巻1号(2000年)、1–17頁。