発生論的誤謬 | Yudkowsky Sequences

❦

論理的誤謬の一覧には、「発生論的誤謬」が含まれている。ある人がその信念を持つに至った原因に基づいて、信念を攻撃する誤謬である。

一見すると、これは非常に奇妙な考えだ。信念が生じた原因によって、その信念の系統的な信頼性が決まらないのなら、いったい何によって決まるのか？　ディープ・ブルーがチェスの指し手を勧めたとき、私たちはゲーム木を探索するコードへの理解に基づいて、それを信頼する。実際のゲーム木を自分で評価することはできないからである。何らかの系統的に信頼できる過程が生んだ、ということ以外の何が、確率の割り当てを「合理的」なものとして認めうるだろうか？

発生論的誤謬についての記事を読むと、発生に基づく推論が常に誤謬であるわけではない、と書かれている。信頼できる専門家の場合のように、証拠の起源がその評価に関係しうるからである。しかし記事が言うには、別の場合には、それは誤謬である。化学者ケクレは夢の中で初めてベンゼンの環構造を見たが、だからといって、この信念を決して信頼できないわけではない。

では発生論的誤謬は、あるときには誤謬で、あるときには違うというのか？

形式的に言えば、発生論的誤謬は誤謬である。信念の最初の原因は、その信念の現在の正当化の状態、すなわち現在知られている支持と反証の総体と同じではないからだ。

それでも、私たちは自分で思うほど頻繁には考えを変えない。発生を非難する議論は、理想的なベイズ主義者には持たない力を、人間に対しては持つ。

自分の考えの多くが欠陥ある情報源に由来したのではないか、という新たな疑いへ直面したとき、心をいったん空にすることは強力なヒューリスティックである。一度ある考えが頭へ入ると、証拠によって根こそぎにするのは必ずしも容易でない。聖書を信じて育ち、後になって聖書が神の手で書かれたという考えを（意識的な水準では）退け、それでもなお聖書には不可欠な倫理的知恵が含まれていると考える人々を思い浮かべてほしい。その人々は心を空にできていない。聖書が言うことは何であれ、聖書がそう言うという理由で疑うなら、はるかにうまく考えられるだろう。

同時に、愚かさを逆転しても知性にはならないという原則を、しっかり心に留めなければならない。目標は、聖書の否定をそのまま自分のアルゴリズムとすることではなく、本当に心を揺さぶって解き放ち、独立して考えることである。

一度ある考えが頭へ入ると、どこを見ても、それを支持するものを見つけがちになる。だから元の情報源へ突然疑いが投げかけられたなら、もともとその枝から生えた葉のすべてを疑うのが、実に賢明である……。

できるものなら！　心を空にするのは簡単ではない。心が繰り返しキャッシュ済みの議論を唱えるパターンへ陥るのではなく、実際に考え直すには、心が痙攣するほどの努力が要る。「どちらへ転んでも同じほど不思議でないのでなければ、本物の信仰の危機ではない」とソー・シェンケルは言った。

いまでは信頼できないと分かっている情報源から示唆された考えを多数持っているのに、なんということか、どの考えも結局は正しかったように見えるなら、最大限に疑うべきである。聖書が明白な典型例だ。

その一方で……十分に明白な証拠というものもあり、それがあれば、考えがもともとどこから来たかは、もはやほとんど問題でなくなる。この種の明白な証拠を蓄積することこそ、科学のすべてである。ケクレが夢の中で初めてベンゼンの環構造を見たことは、もはや問題にならない。無作為なコンピュータ画像を生成して検証すべき仮説を見つけていても、詐欺師だと暴かれた霊媒師から得ていても、聖書から得ていてさえ、問題にはならなかっただろう。ベンゼンの環構造は、提案の出所を無関係にするほど十分な実験的証拠によって、しっかり確定されている。

そのような明白な証拠がないなら、考えの元の情報源へ注意を払う必要がある。その分野が敬意を勝ち得ているなら、素人より専門家を信用する。もともと疑わしい情報源から得た考えを疑う。動機が信頼できない者が、自分自身の権威から独立した議論を提示できないなら、その者を信頼しない。

発生論的誤謬が誤謬なのは、主張された発生上の事実を超える正当化があるのに、発生への非難が問題を決着させるかのように提示される場合である。ハル・フィニーは、主張の起源へ正しく訴えることを「発生論的ヒューリスティック」と呼ぼうと提案している。

（人間向けの）役立つ経験則をいくつか挙げよう。

自分の嫌いな信念への発生論的な非難には注意せよ。特に、主張者が、話者の単なる権威を超える正当化を示している場合には注意が必要である。「飛行は宗教的な考えだから、ライト兄弟は嘘つきに違いない」は、古典的に挙げられる例の一つである。
同じ理由から、関係者の人格と欠陥ある動機を訳知り顔で精神分析するだけで、技術的問題について良質な情報を得られるとは思わないこと。技術的議論があるなら、それが優先される。
自分の根本的な情報源の一つへ新しい疑いが向けられたとき、その根から育った枝葉をすべて、本当に疑うべきである。愚かさを逆転しても知性にはならないので、結論として即座に退ける権利まではない。しかし……。
後になって退けた情報源から初期に示唆されたことを、いまも信じていると気づいたなら、最大限に疑うこと。