Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

汝は神の砕片なり

Thou Art Godshatter

20世紀以前には、盲目の愚神が唯一絶対の執着とする「包括的遺伝適応度」を、明示的な概念として持つ人間は一人もいなかった。私たちはコンドームやオーラルセックスへ、本能的な嫌悪を抱かない。あの究極の生殖器官である私たちの脳は、性的快楽を与える前に、繁殖上の有効性を検査したりはしない。

なぜか。なぜ私たちは包括的遺伝適応度へ意識的に執着していないのか。なぜ「人間の進化の妖精」は、コンドームを発明するような脳を作ったのか。「そんなのは実に簡単だったはずだ」と、一日の午後で新しい複雑な系を設計できる人間は考える。

誰もが知るように、進化の妖精は包括的遺伝適応度へ執着している。どの遺伝子を集団全体へ広めるか決めるとき、遺伝子が作るコピーの数以外は何一つ考慮していないように見える。(なんと奇妙なことだろう!)

しかし知性の作り手がそれほど執着しているなら、同じように包括的遺伝適応度だけを純粋に気にかける知的な行為者――それを人間とは呼べない――を、なぜ作らなかったのか。そのような行為者は、繁殖の手段としてしかセックスをせず、避妊を伴うセックスには手を出さないだろう。味が好きだからではなく、繁殖には食物が必要だという明示的に推論された信念から食べることができる。そのため、キャンディが生存や繁殖へ有害になれば、食べないだろう。閉経後の女性は、病気が重くなって資源を差し引きで消耗させるまでは孫の世話をし、その時点で自殺するだろう。

進化の妖精の視点からは、あまりにも明白な設計改善に見える。

さて、十分に強力な帰結主義者を作るのが難しいことは明らかである。自然選択はある意味で帰結主義的に推論するが、実際の帰結へ依存することによってしか推論しない。人間の進化理論家は、適応と繁殖成功のつながりを想像するために、実にご大層な抽象的推論をしなければならない。

しかし人間の脳は、タンパク質上でこうしたつながりを明らかに想像できる。それなら進化の妖精が人間を作ったとき、包括的遺伝適応度以外の動機を、なぜわざわざ備えたのか。

タンパク質の脳が自然選択の概念を初めて表象してから、二世紀も経っていない。現代的な「包括的遺伝適応度」の観念はさらに繊細で、高度に抽象的な概念である。重要なのは、共有する遺伝子の数ではない。チンパンジーはあなたと遺伝子の95%を共有する。重要なのは、繁殖集団で共有する遺伝的分散である。あなたの姉妹とあなたの血縁係数が二分の一なのは、ヒトという種の内部で、あなたのゲノムにある変異を、姉妹も50%の確率で共有するからである。

進化生物学者が、互恵的利他主義やコストのかかるシグナリングなど、繁殖成功の原因の全範囲を本当に理解し始めたのは、過去一世紀になってから――議論によっては、過去五十年になってから――である。この高度で詳細な知識がすべてなければ、「包括適応度を最大化する」ため行動を始めた知的な行為者は、派手に転ぶだろう。

それなら、その知識をタンパク質の脳へあらかじめプログラムしてはどうか。「包括的遺伝適応度」という概念を、明示的な戦略のライブラリとともに、私たちへプログラムしておかなかったのはなぜか。そうすれば、あらゆる強化子を省ける。生物は、脂肪分の多い食物が高い確率で適応度につながると、生まれながらに知っているだろう。後に、それがもはや真でないと学んだなら、脂肪分の多い食物を食べるのをやめるだろう。系全体をリファクタリングできる。そしてコンドームやクッキーを発明しないだろう。

これは原理上、十分に可能であるように見える。帰結主義をよく理解していない人に、ときどき出会う。彼らはこう言う。「しかし、その生物に食べたいという独立した欲求がなければ、餓死して、繁殖に失敗するだろう」。生物がまさにこの事実を知り、繁殖を評価する効用関数を持つかぎり、自動的に食べる。実際、これは自然選択そのものが、自動的に食べる生物を作るために用いた帰結主義的推論そのものである。

好奇心はどうか。帰結主義者は、好奇心を持つべき具体的な理由を見たときしか、好奇心を持たないのではないか。そのため、調査すべき具体的理由が付随しない重要な知識を、大量に逃すのではないか。ここでも、帰結主義者は、まさにこの同じ事実を知っているだけで調査する。人間の好奇心という欲求を考えてみよう。それは無差別ではなく、問題の特定の特徴へ反応する。この複雑な適応は、DNAによる帰結主義的推論、すなわち知識の暗黙的な表象だけから生じた。この種の探究をした祖先が、より多くの子孫を残したのである。

したがって原理上、純粋に繁殖を求める帰結主義者は可能である。原理上、認知的適応の中で暗黙に表象されている祖先の歴史すべてを、中心となる帰結主義者の上で動く、明示的に表象された知識へ変換できる。

しかし盲目の愚神は、それほど賢くない。進化は、コードアーキテクチャ全体を一斉にリファクタリングできる人間のプログラマーではない。座って一分間に六十語の速さで命令を入力できる人間のプログラマーでもない。

ヒト科の帰結主義が現れるまでの何百万年ものあいだ、強化学習が存在した。報酬信号は、繁殖と確実に相関する出来事であった。ヒト科でない脳に、今、脂肪分の多い食物を食べた子は冬を生き延びると予見させることはできない。そこでDNAは、脂肪分の多い食物を食べると報酬信号を生成する、タンパク質の脳を作る。その後、どの獲物が最もおいしいか学ぶのは、その生物次第である。

DNAは、繁殖適応度とは長い距離で相関するが、生物の行動とは短い距離で相関する報酬信号を持つ、タンパク質の脳を構築する。秋に糖分の多い食物を食べればカロリーを消化し、それを脂肪として蓄え、冬を生き延びる助けとなり、春に交尾して夏に子を残せる、と解明する必要はない。リンゴはただおいしく、あなたの脳は、木からもっとリンゴを取る方法を計画するだけでよい。

こうして生物は、食べること、巣を作ること、競争相手を追い払うこと、兄弟姉妹を助けること、重要な真実を発見すること、強固な同盟を結ぶこと、説得力豊かに論じること、そしてもちろんセックスすることに、報酬を感じるよう進化する……。

領域横断的な帰結推論のできるヒト科の脳が現れ始めると、それまで存在していた強化子を得る方法について、帰結主義的に推論した。これは比較的単純な応急処置であり、「包括適応度最大化器」を一から作り直すより、はるかに単純であった。タンパク質の脳は、「包括適応度」を明示的に認知表象することなく、カロリーとセックスを得る方法を計画した。

人間の技術者なら、こう言っただろう。「うわっ、帰結主義者を発明したぞ! これまで苦労して得た、どの行動が適応度を高めるかについての知識をすべて、明示的に宣言できる! この複雑な強化学習機構を、『脂肪分の多い食物とセックスは、通常、あなたの包括適応度を高める』という単純な宣言的知識へ変換できる。残りは帰結推論が自動的に処理してくれる。そのうえ、コンドームを発明するという明白な故障形態も生じない!」

しかし、それを言うなら、人間の技術者は網膜を前後逆にも作らなかっただろう。

盲目の愚神は、単一の目的ではなく、多数の破片へ砕けた注意である。キツネはウサギを捕らえるよう進化し、ウサギはキツネから逃れるよう進化する。種の数だけ進化がある。しかしそれぞれの種の内部では、盲目の愚神は包括的遺伝適応度へ純粋に執着している。生存でさえ、繁殖適応度を高める範囲を除けば、どんな性質にも価値を置かない。鋼鉄の皮膚を持つ生物でも、それによって繁殖能力が1%低下するなら、何の意味もない。

それでも盲目の愚神がタンパク質コンピューターを作ったとき、包括的遺伝適応度だけへ向けられた偏執的な焦点は、忠実に伝達されなかった。その最適化基準は、うまく自己複製しなかった。進化の作品である私たちは、作り手が私たちにとって異質であるのと同じく、進化にとって異質である。一つの純粋な効用関数が、千の欲望の破片へ砕けた。

なぜか。何より、進化は絶対的な意味で愚かだからである。しかしまた、最初のタンパク質コンピューターは、盲目の愚神ほど汎用的ではまったくなく、短期的な欲望しか利用できなかったからでもある。

最終的に、なぜ進化は包括的遺伝適応度を最大化する人間を作らなかったのかと問うことは、なぜ進化は人間へリボソームを渡し、自分の生化学を設計せよと言わなかったのかと問うようなものだ。なぜなら、進化はそれほど速くコードをリファクタリングできないからだ。しかし知性が愚かにも愚神の支配を続けさせたなら、自然選択がさらに十億年続いた後、まさにそれが起きるのかもしれない。

ニーヴンとパーネルの『神の目の小さな塵』は、生物学的なままでいる期間が少し長すぎた知的種を描いている。その種はゆっくりと進化の真の奴隷となり、互いより多く繁殖することへ執着する、真の適応度最大化器へ徐々に変わっていく。しかし、ありがたいことに、それは起きなかった。この地球では。少なくとも、まだ。

だから人間は糖と脂肪の味を愛し、息子や娘を愛する。社会的地位とセックスを求める。歌い、踊り、遊ぶ。学ぶことを愛して学ぶ。

かつて繁殖適応度と相関した古い強化子へ合致する、千ものおいしい味――今では繁殖を促すかどうかにかかわらず求められる。避妊を伴うセックス、チョコレート、CDで聴く、とうに亡くなったバッハの音楽。

そしてついに進化について学ぶと、私たちはこう思う。「一日中、包括的遺伝適応度へ執着するだって? それのどこが楽しいのか?」

盲目の愚神の、ただ一つの偏執的な目標は、千の欲望の破片へ砕けた。そして、それでよいのだと私は思う。もっとも、そう言う私は人間である。そうでなければ、未来をどうすればよいのか。夜空にある十億の銀河をどうすればよいのか。最大限に効率的な複製子で満たすのか。私たちの子孫は、ほかのすべてをその目的の手段としか見ず、自らの包括的遺伝適応度を最大化することへ、意図的に執着すべきなのか。

千の欲望の破片であることは、いつでも楽しいとは限らない。しかし少なくとも退屈ではない。どこかの時点で私たちは、新奇さ、複雑さ、優雅さ、挑戦を好むよう進化した。その好みは盲目の愚神の偏執的な焦点を裁き、美的に満足できないとみなす。

そして確かに、まさにその好みも、盲目の愚神の砕片から得た。それがどうした。