Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

科学はあなたの合理性を信用しない

Science Doesn’t Trust Your Rationality

スコット・アーロンソンは、多世界解釈とリバタリアニズムは、どちらも銃弾をかわすのではなく飲み込む事例だという点で似ている、と示唆している。

リバタリアニズムと多世界解釈はともに、ほとんどすべての教養人が受け入れる前提(一方では量子力学、他方では経済学入門)から出発し、ほとんどの教養人が拒絶するか、少なくとも困惑する結論(並行宇宙の存在/消防署を廃止することの望ましさ)へ到達すると主張する、壮大な哲学理論である。

これはまさに、私には決して思いつかなかった類比である。

私は以前、科学は多世界解釈を退けるが、ベイズは受け入れると論じた。(ここで「科学」を大文字扱いしているのは、科学の現実の社会的過程だけでなく、理想化された形としての「科学」を論じているからである。)

さらに、小文字の「l」で始まるリバタリアニズムと科学のあいだには、深い類比があるように私には思える。

  1. どちらも、もっともらしく聞こえる議論を実用上信用しないことに基づく。
  2. どちらも、その中にいる人々より信頼できる仕組みを築こうとする。
  3. どちらも、人間には欠陥があると認め、その欠陥を利用して仕組みを動かそうとする。

リバタリアニズムの中心的な論拠は、「XYZと定める規則さえ作れば、社会はどれほどよくなるだろう」という麗しい理論を、歴史に照らして信用しないことにある。その種の仕掛けが実際に機能するなら、社会が局所最適から大域最適へ移るにつれ、規制が増えるほど経済成長も高くなるはずだ。しかし、ある個人や利益集団が、よいと思うことを何でも始められるほどの権力を得たとき、実際に起きるのはフランス革命やソビエト・ロシアだと歴史は告げている。

麗しい理論上はすべての人を永遠に幸福にするはずだった計画が、もっともらしい議論の予測した結果を生まない。そして権力は腐敗させ、腐敗した者を引き寄せる。

したがって、麗しい理論も、それを実行する人々も信用できないので、規制はできるかぎり少なくする。

人々が利己的だと指を振って叱ったりはしない。取引を自発的なものに限定することで、利己的な参加者から効率的な生産システムを築こうとする。そうすると人々は正和ゲームをせざるをえない。なぜなら、そうして初めて相手に契約へ署名してもらえるからだ。暴力を抑え、契約を執行すれば、個人の利己性が大域的に生産的なシステムを駆動しうる。

もちろん実際には、どれも理論どおりうまく機能するわけではない。ここで市場の失敗、共有地の問題などに立ち入るつもりもない。リバタリアニズムの中心的な論拠は、完全な世界なら機能するということではなく、現実へ持ち込んでも穏やかに性能が劣化するということだ。より正確には、既知の他のどの経済原則よりも不格好でない形で劣化する。(リバタリアニズムを、完全な人々のための完全な解決策と見る人々は、「実用上の不信」という要点をいささか見失っているように私には思える。)

科学が最初に自らを知ったのは、アリストテレスの言葉を信頼することへの反乱としてだった。その革命に加わった人々が、単に「アリストテレスではなく自分たちを信頼しよう!」と言っただけなら、フランス革命のように一瞬輝き、消えていただろう。

しかし科学革命が長く続いたのは、アメリカ革命と同じく、その設計者たちがもっと奇妙な哲学を唱えたからである。「誰も信頼しないことにしよう! 自分たちさえも!」

最初に現れたのは、アリストテレスの机上の推論を捨てて、別の机上の推論に置き換えるだけではいけない、という発想だった。自然に語りかけ、その返答を実際に聴く必要がある。この発想自体が、天才的な一撃だった。

しかし次に、実行上の難題が現れた。人間は頑固であり、実験の判定を受け入れたがらないかもしれない。眉をひそめて指を振り、「悪い子だ」と言うべきだろうか?

そうではない。個々の科学者が自分の理論に狂おしいほど執着することを、私たちは前提とし、受け入れる。この傾向を訓練で誰からも取り除けるとは仮定しない。公平であるはずの高名な審判を選ぼうともしない。

代わりに、個々の科学者が自説を証明したいと頑固に望むことを利用しようとする。「新しい実験的予測を立て、実験を行え。あなたが正しく、その実験が再現されれば、あなたの勝ちだ」と言うのである。科学者がこれを真実だと信じるかぎり、自説を反証しうる実験を行う動機が生まれる。敗北の可能性を受け入れて初めて、勝つことができる。そして重大な主張には再現が必要になる。これは、大恥をかく恐れによって科学者に正直である動機を与える。

こうして個々の科学者の頑固さが利用され、集団の水準では知識の安定した流れが生み出される。「システム」は、その構成要素よりいくらか信頼できる。

リバタリアニズムは、二度と訪れないレストランでもチップを置くほど、ほとんどの個人が向社会的であることへ密かに依存している。人間並みの真に利己的なエージェントからなる経済は内破するだろう。同様に科学も、合理化でごまかしきれないほど甚だしい罪を、ほとんどの科学者は犯さないことに依存している。

科学者が、学界政治を操れば自説を推進できると信じるほど——あるいは、負ける可能性なしに勝つため統計的手法を攻略できると信じるほど——あるいは、誰も主張を再現しようとしないほど——科学は有効性を失う。それでも、この種のものとしては穏やかに劣化する。

成功した予測は、それを最初に行った理論と理論家に属し、後から現れた理論が——新しい実験的予測を伴わずに——ただ盗むことはできない。これは、この社会的過程の重要な特徴である。

最終的な帰結は、科学が確率論と容易には調和しないということだ。確率論的計算を正しく行えば、合理的な答えが得られる。科学はあなたの合理性を信用せず、真理を裁定するものとして確率論を使えるあなたの能力に頼りもしない。科学は、決定的な実験を組み立てるよう要求する。

科学を、合理性についての何らかの確率論的理想への単なる近似とみなすことは……確かに合理的に思える。ベイズの定理は、科学がなぜ機能するかを説明する隠れた構造だ、という非常にもっともらしい議論があるように見える。しかし、科学をベイズ主義の壮大な体系に従属させ、適切と思われるときにはベイズ主義が入り込んで科学の判定を覆せるようにするのは、些細な一歩ではない!

科学は、あなたがあまりに愚かで自己欺瞞的であるため、ソロモノフ帰納をただ使うことなどできない、という前提を軸に築かれている。結局、それほど単純なら、科学という社会的過程は必要なかったはずだ……そうだろう?

では、結局のところ光速より速い量子「収縮」の妖精を信じるのか? それとも、自分はそこまで愚かではないと思うだろうか?