非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

見せかけの最適化基準

Fake Optimization Criteria

❦

私は以前から、私たちの信念が、実際にそうであるよりもはるかにいっそう強く証拠と一致しているように見えてしまうような、さまざまな形の後づけの理屈について、かなりの長さを割いて論じてきた。この点を強調しすぎているわけでもない。もしこの根本的なメタバイアスを克服し、あらゆる仮説が本当は何を予測するのか見抜けるようになれば、事実に関するほとんどどんな間違いからも立ち直れるだろう。

意思決定理論には、これと表裏をなす課題がある。選択基準が本当はどの選択肢を支持しているのかを見抜くことだ。表明している道徳原則が、すべての人にノートパソコンを提供せよと命じるなら、それが本当に支持するのは、100万ドルの宝石をちりばめたノートパソコンを自分用に買うことなのか、それとも同じお金でOLPCのノートパソコン5,000台を送り届けることなのか。

私たちは、ほとんどどんな目標からでも、ほとんどどんな行動でも導けると論じる才能を、進化によって身につけたようだ。神はすべての子を無限に愛するからこそ、その一部を火あぶりにしなければならない、と説明する異端審問官に比べれば、マグネシウムを燃やすと重くなる理由を説明するフロギストン論者など、足元にも及ばない。

ここに不思議はない。政治は祖先の環境の一部だった。私たちは、部族の利益のためには憎いライバルのウグラクを処刑すべきだと、最も説得力のある議論をした者の子孫なのだ。(ウグラクの子孫でないことだけは確かだ。)

それでも……ロバート・ムガベがジンバブエのためだけを思っているなら、大統領を辞めるはずだ、と証明することはできるのだろうか。その目標からその方針が導かれると論じることはできる。だが、人間はどんな目標もどんな方針にでも結びつけられると、いま見たばかりではなかったか。自分が正しくムガベが間違っていると、どうしてわかるのか。(そう考えるのがもっともな理由はいくつもあるが、ここでは少し付き合ってほしい。)

人間の動機は多岐にわたり、わかりにくく、意思決定の過程は脳と同じくらい途方もなく複雑だ。そして現実のどの方針を選ぶにせよ、世界そのものが途方もなく複雑である。確実な足場が一つもないのに、人間は後づけの理屈を作っている、つまり原則から方針へ至るつながりを系統的にゆがめている、と証明できるのだろうか。たった一つの最適化基準ですら、そこから何が導かれるかを正確に知る方法がないのに。(実のところ、職場の駆け引きについて人々の意見が食い違う仕方が、奇妙なほど各人の利害と相関していながら、当人たちはそうした利害が働いていることを否定する、と観察するだけでよい。だが、ここでも少し付き合ってほしい。)

完全な道徳体系をXMLファイルで入力すれば、それをこの世界に適用したとき本当は何を勧めるのかがわかる、標準化されたオープンソースの、汎用的に知的で結果主義的な最適化過程は、どこにあるのか。現実の事例で、選択基準が何を勧めるかを正確に知ることのできるものが、一つでもあるだろうか。効用関数がわかっていて、最適化をゆがめかねない他の余計な欲望がすべて取り除かれ、その信頼できる出力を、同じ効用関数について人間がこじつける理屈と比べられる、純粋な道徳的推論者はどこにいるのか。

もちろん、おなじみの異質な神だ! 自然選択には、慈悲も、愛も、思いやりも、美的感覚も、政治的な派閥意識も、イデオロギーへの忠誠も、学問上の野心も、リバタリアニズムも、社会主義も、青派も緑派も、一切ないことが保証されている。自然選択は、包括適応度という基準を最大化するわけではない。そこまで賢くないからだ。だが自然選択の出力を見るなら、それが包括適応度だけに向けて最適化されたものであり、米国の農業界の利益に向けたものではないことは保証されている。

進化科学の事例史、たとえば「群選択主義の悲劇」では、既知の基準に従う純粋な最適化の結果と、人間のこじつけを直接比べられる。ウィン=エドワーズは、部分集団の規模を小さく保つ群選択から、どんな結果が生じると考えたのか。個体が自発的に繁殖を控え、皆に十分な食料が行き渡ることだ。実際に実験室で得られた結果は? 共食いだった。

ここで、こう問うかもしれない。こうした進化科学の事例史は、人間の道徳に本当に関係があるのか。人間の道徳は、包括適応度が愛、思いやり、美、癒やし、自由、公平さなどの妨げになるなら、そんなものは少しも気にかけないではないか。人間社会には、20世紀まで「包括適応度」という概念すらなかった。

だが、私はこう問い返す。一つの単調な最適化基準の結果をはっきり見抜けないなら、たった一つの澄んだ音を聞く訓練すらできないなら、どうしてオーケストラを聴けるのか。包括適応度に向けて遺伝子を最適化することでさえ、社会全体の資源を保つために繁殖機会を犠牲にする生物が生まれると思っているなら、「常に利己的であれ」「常に政府に従え」が、人間の採るべき指針としてまずいものだと、どうやって見抜けるのか。

はっきりと見抜く力を鍛えるには、単純な練習問題が必要なのだ。