Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

一つの議論で軍勢に抗う

One Argument Against An Army

私は、反対する議論を一つも許さないため、支持しない観測はすべて議論で退けなければならなくなる推論様式について論じた。ここで私が示唆するのは、人々が反対する議論に出会うと、すでに知っている支持を反復することで、自分の確信を下げないようにする、ということである。

フリードニアという国で、隣国シルヴァニアが、最近相次いで都市を襲った隕石の責任を負うかどうか議論しているとしよう。責任を示唆する証拠はいくつかある。隕石がシルヴァニア国境に近い都市を襲ったこと。攻撃の前にシルヴァニアの株式市場で異常な動きがあったこと。そしてシルヴァニア大使トレンティーノが「天の復讐」について呟くのを聞かれたことである。

誰かがあなたのところへ来て言う。「シルヴァニアに隕石攻撃の責任があるとは思わない。彼らは毎年、私たちと何十億ディナールもの貿易をしている」。「だが」とあなたは答える。「隕石はシルヴァニアに近い都市を襲い、彼らの株式市場には不審な動きがあり、彼らの大使は後になって天の復讐について語った」。これら三つの議論が最初の議論を上回るため、あなたはシルヴァニアに責任があるという信念を保つ――質的には、信じないのではなく信じる。明らかに、証拠の釣り合いはシルヴァニアに不利である。

すると別の人があなたのところへ来て言う。「シルヴァニアに隕石攻撃の責任があるとは思わない。小惑星攻撃の照準を定めるのは非常に難しい。シルヴァニアには宇宙開発計画すらない」。あなたは答える。「だが、隕石はシルヴァニアに近い都市を襲い、彼らの投資家はそれを知っており、大使ははっきり認めた!」。やはり、これら三つの議論が最初の議論を上回る(三つの議論対一つの議論)ので、あなたはシルヴァニアに責任があるという信念を保つ。

実際、あなたの確信は強まっている。今や二つの別々の機会に証拠の釣り合いを評価し、どちらのときも釣り合いは3対1の比率でシルヴァニアに不利だった。

あなたは、シルヴァニア支持の裏切り者たちによるさらなる議論に出会う――何度も、何度も、百回も――しかし、そのたびに新しい議論は3対1であっさり打ち負かされる。そして毎回、感じられた証拠の釣り合いに従って事前確率を変え、シルヴァニアに本当に責任があったという確信をさらに強めている自分を感じる。

もちろん問題は、議論を反復することである――すでに知っていた議論を反復し、証拠を二重に数えている。たとえすべての証拠を二重に数えたとしても、これは重大な罪である。(50人の被験者で実験し、統計的に有意な結果が得られなかったため、すべてのデータを二回数える科学者を想像してほしい。)

しかし、証拠の一部だけを選択的に二重に数えるのは、まったくの茶番である。子供のころ、悪役が次のアルゴリズムで戦利品を分けている漫画を見たのを覚えている。「お前に一つ、俺に一つ。お前に一つ、俺に一つ、二つ。お前に一つ、俺に一つ、二つ、三つ」

前のエッセイで強調したように、大切な信念がであっても、合理主義者はすべての証拠を統合する際、ときに確率を下げなければならない。そう、支持の釣り合いは、まだ大切な信念に有利かもしれない。しかし、それでも確率を下へ、そう、下へ動かさなければならない。反対する証拠を聞く前にどれほどだったとしても、そこから下げる必要がある。支持する議論を反復しても役に立たない。それらはすでに考慮済みだからである。

それでも私には、人々は新しい反論に直面すると、確信を下げなくてよい正当化を探し、もちろん、すでに知っている支持する議論を見つけるように見える。私自身もそうしないよう、絶えず警戒し続けなければならない! それは、手近な盾で剣の一撃を受け流すのと同じくらい自然に感じられる。

適切な種類の誤った推論を使えば、一握りの支持――あるいはたった一つの議論――で、矛盾の軍勢に立ち向かえる。