非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

合理性――さまざまな活動に共通する利益

Rationality: Common Interest of Many Causes

❦

Less Wrongには、それほど隠してはいない狙いがある。合理性が広まると恩恵を受ける活動が、たくさんあるのだ。その主張を支持者として、あるいは好意的な傍観者として理解するだけでも、普通より少し高い合理性が要るからである。無神論のようなわかりやすいものだけではない。たとえば大麻の合法化もそうだ。この問題では、人々が自分の動機やシグナリングの性質をもう少し自覚し、不都合で冷厳な事実にももう少し心を動かされれば、と願いたくなる。機械知能研究所(MIRI)は、単にこれが並外れて極端な形になった例にすぎない。何年も停滞した末、私はお手上げになり、合理主義者を育てるという仕事へ明示的に立ち戻ったのだ。

もちろん、私が育てる合理主義者が全員、私自身のプロジェクトに関心を持つわけではない。それでいい。自分が生んだ価値をすべて自分のものにすることはできないし、そうしようとすると悪い副作用が起きることもある。

ほかの活動を支持する人たちも、同じように考えられるほど開明的であれば……。

合理性の普及から恩恵を受ける活動はすべて、支持者に紹介できる共通教材のようなものを持てるかもしれない。共通の仕事を一か所にまとめ、労力を節約するのだ。そして、自分たちも活動のかたわらで合理性を少し広めている、と考えられる。生み出した価値のすべてが自分たちに戻るわけではない。それでよい。他者が生んだ価値の一部が戻ってくる。無神論と大麻合法化には、直接の関係はほとんどない。だが、無神論者も大麻禁止に反対する人も、少し引いて、正義の熱弁に水を差す不愉快な真実と向き合う、という一般的・抽象的な原則について少し語るなら、どちらの取り組みからも、無神論と大麻合法化の双方が恩恵を受ける。

ただし、そのためには――繰り返しになるのは承知だが、大切なことだ――自分が生んだ価値をすべて自分で受け取れなくてもよいと思う必要がある。合理性について語る間は、自分の活動について一時的に黙ることができなければならない。それが史上最高の活動であっても、だ。また、自分も相手も、支援能力に限りのある、限られた人数の合理主義者を奪い合っているとは考えず、合理主義者を増やし、その支援能力を高めていると考える必要がある。自分の努力の成果の一部しか得られないが、他者の努力の成果の一部も得られるのだ。

自分と相手の考えがすべて一致するわけではないなら――とりわけ優先順位が違うなら――その不一致については黙ると合意できなければならない。(例外があるとすれば、そうした不一致を明示的に論じる、主流の議論から離れた専門の場だろう。)

ある組織の代表に就任しようとしていた人が、かつてこう指摘した。その組織の「これは、あなたにできる最善のことです」というメッセージは、あまり成功していない。対して、たとえばXプライズ財団は、富裕層に「こんなすてきなことができます」と伝えて、大成功を収めた、と。

これは、思わず目をぱちくりさせたあと、どれほど理にかなっているかが腑に落ちるような洞察の一つだ。人間の脳は大きな利害を把握できないし、人間は期待効用最大化者からは程遠い。そして私たちは概して、利他行動をしたいのに実行できない人間だ。「これが最善です」と言っても、「これはすてきなことです」以上の動機はあまり加わらない。ただ、はるかに重い立証責任が生じるだけだ。さらに、知っているほかのあらゆる善いこととの、反感を招いて意欲を削ぐ比較を誘う。すでに手に入れた道徳的な満足まで損ないかねない。

誰もが基本的には、利他行動をしたいのに実行できない人、つまり、もっと行動することを選べたらと思っている人だと仮定するなら――少なくとも、関心を寄せてくれそうな潜在的支持者の大半がそうだとするなら――どの活動を支援するのが最善かを争うことは、利他行動の総量を減らすかもしれない。

「でも」とあなたは言う。「お金は互いに代替可能です。あることに使った1ドルは、実際、ほかのことには使えません!」それに私は答える。だが、人間という認知システムは、本当に期待効用最大化者ではない。お金は心の中の異なる勘定から出てきて、状況によって異なる量の意志力を必要とする。真に限られている資源は、その意志力なのだ。人は、一つの活動が失敗したときの後悔を最小限にするため、心の会計として寄付先を分散させたがる。さらに別の活動を紹介すると、その人が支援しようと思う総額が増えることもある。

もちろん、この好意的な寛容の原則にも限界はある。誰かの熱心なプロジェクトがサルサダンスを教えることだとしたら、それが人類の進歩という偉大な共通の新啓蒙プロジェクトの、意義ある下位課題に取り組んでいると言うのは、かなり無理があるだろう。

だが、それが本当に、人類のために成し遂げてほしいと思う仕事である限り……その活動を自分のお気に入りと、反感を招く形で比較しても、思うほど自分の活動のためにはならないかもしれない。ほぼあらゆる場で、習慣として、「こんなすてきな合理主義者のプロジェクトがあります」と言えるようになる必要があるだろう。「私のプロジェクトだけが、追加の1ドル当たりの期待効用単位の収益が最大です」ではなく。感情面の副作用を気にせず、使途を自由に変えられるお金の期待効用を最大化できるほど冷静な人が、明示的に尋ねてきたなら、専門の下位フォーラムに案内してもよいだろう。そこでは、自分が最優先だと主張したい人どうしが争えばよい。ただし、うまくいけば、この種の支援不足を強く主張できるプロジェクトには資金が増え、限界収益が下がるので、競い合う主張の勝者は、もはや明確ではなくなるだろう。

正気の水準を底上げすることで恩恵を受ける合理主義者のプロジェクトがたくさんあれば、相互の寛容と、合理性の普及への共同投資には、共有資源の問題が起きるかもしれない。だが、対処はそれほど難しくなさそうだ。自分たちが育てた合理主義者を独占しようとしたり、ほかにも新啓蒙のプロジェクトがあるかもしれないと知らせようとしなかったりする集団があるなら、共通の合理性の教材や資源から、その集団のプロジェクトを、やる価値のあることとして紹介する記述を外せばよい。

これは理想主義的で未来に向けた考えではあるが、私たち全員にとっての恩恵は、今欠けている大切なものを見つけることかもしれない。多くの合理主義者のプロジェクトでは、支持者は少なく、遠く離れて散らばっている。人類の進歩という共通のプロジェクト、新啓蒙の一部だと皆が自認できれば、どの都市でも仲間を十人見つけられる確率は、ずっと高くなるだろう。今のところ、そうした活動の多くは、支持者にとって少し孤独なものだ。合理性は世界で最も重要なものではないかもしれない。もちろん、それは私たちが守るものである。だが合理性は、より多くの私たちが共有する、すてきなものだ。自分を合理主義者でもあると捉えることで、大きなものを得られるかもしれない。