❦
ここでまだ掘り下げていない主題の一つに、最適化過程という概念がある。大まかに言えば、心としてのあなたの力は、広大な探索空間で小さな標的に当てる能力だという考えである――その空間は、可能な未来の空間（計画）でも、可能な設計の空間（発明）でもよい。
一台の車があり、あなたの選好に移動が含まれることはすでにわかっているとしよう。ここで、車にある全部品、あるいは全原子を取り出し、無作為にかき混ぜるとする。移動用の人工物が少しでも生まれる見込みは非常に小さい。車輪つきの荷車すら難しく、まして、元の車と同じほど選好順位の高い移動用人工物など到底生まれない。したがって、あなたの選好順序との関係で、この車はきわめてありそうにない人工物である。最適化過程の力とは、この種のありそうになさを生み出せることである。
知性と自然選択のどちらも、最適化の特殊例として見ることができる。暗黙の選好によって定義されたきわめて小さな標的に、広大な探索空間のなかで当てる過程である。自然選択は、より効率的な複製子を選好する。人間の知性は、より複雑な選好を持つ。進化にも人間にも一貫した効用関数はないため、これらを「最適化過程」と見ることは近似だと了解されている。目的は、なされている仕事の種類を捉えることであって、人間や進化がこの仕事を完璧に行うと主張することではない。
私は生命と知性の物語を、このように見ている――最適化過程が、ありそうにないほど優れた設計を生み出す物語である。ここでの「ありそうになさ」は、絶対的な意味でのありそうになさではなく、設計空間からの無作為抽出に対するありそうになさである――最適化過程が存在すれば、「ありそうにないほど」優れた設計は起こりそうになる。
これまでの地球における最適化の歴史を見渡すと、最初の一歩は、メタ水準と対象水準を概念上分離すること――最適化の構造と最適化されるものを分けることである。
ヒト科の存在しない生物学を考えるなら、対象水準には恐竜、蝶、猫などがある。メタ水準には、有性組換えや無性集団の自然選択などがある。お気づきのとおり、対象水準はメタ水準よりかなり複雑である。自然選択は簡単な主題ではなく、数学も関わる。だが猫一匹の解剖学全体を見れば、猫には「突然変異、組換え、繁殖」より途方もなく複雑な力学がある。
これは驚くことではない。自然選択は偶発的な最適化過程であり、基本的には、ある日どこかの潮だまりでたまたま始まっただけである。猫は、何百万年、何十億年という進化の対象である。
もちろん猫にも脳があり、生涯を通じて学習するよう働く。だが猫の生涯が終わると、その情報は捨てられるので蓄積しない。したがって、最適化するものとしての猫の脳が世界へ及ぼす累積的効果は、比較的小さい。
あるいは、ハチの脳やビーバーの脳を考えてみよう。ハチは巣を作り、ビーバーはダムを作る。だが一から作り方を解明したのではない。ビーバーは巣の作り方を解明できず、ハチはダムの作り方を解明できない。
だから動物の脳は――最近まで――地球規模の最適化ゲームにおける主要なプレイヤーではなかった。それらは駒であって、プレイヤーではなかった。進化に比べると、脳には最適化能力の一般性（進化が生み出した驚くほど広範な人工物を生み出せなかった）も、累積的な最適化能力（その産物の複雑さは時間とともに蓄積しなかった）も欠けていた。この主題についてはProtein Reinforcement and DNA Consequentialismも参照してほしい。
ごく最近、ある動物の脳が、最適化能力の一般性（自然選択が重要な役割を果たせないほど短い時間尺度で、驚くほど広範な人工物を生み出すこと）と、累積的な最適化能力（言語と文字によって技能が伝えられた結果、複雑さを増す人工物）の両方を示し始めた。
自然選択は、何かをするにも何百世代もかかり、新規の複雑な設計には何百万年もかかる。人間のプログラマーは、相互依存する百の要素を備えた複雑な機械を一日の午後で設計できる。これは驚くことではない。自然選択は、基本的にはある日たまたま始まった偶発的な最適化過程なのに対し、人間は、何百万年もかけて自然選択が手作りした、最適化するよう最適化された存在だからだ。
進化の驚異は、うまく働く度合いではなく、最適化されていないのに少しでも働くことである。このように、最適化は自力で宇宙へ入り込んだ――予想どおり、きわめて非効率な偶発的最適化過程から始まったのである。念のため言うと、それは偶発的な最初の複製子ではなく、偶発的な最初の自然選択過程である。対象水準とメタ水準を区別せよ！
宇宙で最適化が始まって以来、自然選択と人間の知性のどちらにも、ある構造上の共通性が保たれてきた……。
自然選択は遺伝子に対して選択するが、一般的に言って、遺伝子が振り返って自然選択を最適化することはない。有性組換えの発明はこの規則の例外であり、細胞とDNAの発明もそうである。進化生物学者が、地球の生命史全体をこれらの出来事を中心に構成しているという事実から、こうした出来事の力と希少さの両方がわかる。
だが、一歩下がって人間の立場を取り――プログラマーのように考えれば――自然選択がそれでもさほど複雑でないとわかる。異なる遺伝子を一緒にまとめてみようか？ 情報の保存を動く機構から分けてみようか？ 遺伝子群を無作為に組み換えてみようか？ 絶対的尺度で見れば、これらは、賢いハッカーならシステム構成を考え始めた最初の十分間に思いつく類の名案である。
自然選択は（完全に偶発的な過程として）非常に非効率な状態から始まった。そのため、複製子からフィードバックされた、猫の構造ほどにも複雑でない、メタ水準のほんの一握りの改善が、地球生命の進化上の時代を区切っている。
そして、そのすべてを経た後でも、自然選択はなお盲目で愚かな神である。あらゆる細胞と性が存在しても、遺伝子プールは絶滅へ向かって進化しうる。
さて、それぞれの新たな適応が、さらなる適応への新たな道を開くという意味では、自然選択は自分自身を糧にする。だがそれは対象水準で起こる。遺伝子プールは自分自身の複雑さを糧にする――ただしそれも、背景で動き、種の進化によって書き換えられも変更されもしない、保護された自然選択の解釈器があるおかげにすぎない。
同じように、人間は科学と技術を発明するが、人間の脳それ自体の保護された構造を書き換えることを、まだ始めてはいない。最初に農業を発明した人々と同じく、私たちにも前頭前皮質、側頭皮質、小脳がある。自分自身を遺伝子工学で改変し始めてはいない。対象水準で科学は科学を糧にし、新たな発見の一つ一つが、さらなる発見への道を開く――だがそのすべては、保護された解釈器である人間の脳が、背景で手つかずのまま動くなかで起きる。
科学のように、人間へ考え方を教えようとするメタ水準の発明がある。だがベイズの定理を最初に発明した人物は、ベイズ主義者にはならなかった。その知識と力の両方を欠いていたため、自分自身を書き換えられなかった。文字と科学のような思考の技芸における重要な革新は、人類史の流れを形作るほど強力である。それでも複雑さでは脳そのものに及ばず、脳に対する効果は比較的浅い。
現在の最先端にある合理性訓練も、無作為に選ばれた死すべき人間をAlbert Einsteinへ変えるには不十分である。それは、二十世紀に書かれたあらゆる自己啓発書に比べ、脳設計におけるいくつかの小さな遺伝的癖がどれほど強力かを示している。
脳は背景で目に見えず動き続けるため、人々はその寄与を見落とし、当然視しがちである。そして「考えを実験で検証せよ」という単純な指示や、p < 0.05という有意性規則が、人間の脳全体と同じ規模の寄与であるかのように語る。チンパンジーに、考えを実験で検証せよと教え、どこまで進めるか見てみるとよい。
さて……私たちの一部は、機械語の水準まで自分自身を知的に再設計できる知性を、知的に設計したいと望んでいる。そうだろう？
最初は機械語が、後には物理法則が、一種の保護水準になるだろう。しかし、その「保護水準」に最適化の力学は含まれない。保護水準が仕事を構成することはない。人間の脳は、学校で何を教えようとしても、それ自体で相当量の最適化を行い、それ自体で失敗する。だが、この完全回帰型の再帰的最適化器には、最適化を行う保護水準がない。最適化の構造全体が、それ自体による最適化の対象になる。
そしてこれは、最初の複製子以来の過去全体と袂を分かつ一大変化である。保護されたメタ水準という様式を破るからだ。
これまでの地球史は、最適化器が一定速度で車輪を回し、一定の最適化圧力を生み出す歴史だった。そして最適化された産物を、一定速度ではなく加速する速度で作る歴史だった。対象水準の革新が、ほかの対象水準の革新への道を開くからである。だが、その加速は、実際に最適化を行う保護されたメタ水準とともに起きている。それは、探索空間で島から島へ跳び、よい島ほどさらによい島と隣り合いがちだが、跳ぶ者の脚は変わらない探索のようなものだ。性や科学のように、いくつかのごく小さな変化が、ときおりメタ水準へ反作用することに成功する。すると最適化の歴史は新しい時代に入り、それ以後はすべてが速く進む。
投資のない経済、言語のない大学、道具を作る道具がない技術を想像しよう。一億年に一度、あるいは数世紀に一度、誰かが金槌を発明する。
これまでの地球で、最適化はそのようなものだった。
地球史を見るとき、私には時間に沿った最適化の歴史は見えない。入力される最適化能力と、出力される最適化された産物の歴史が見える。これまでは、ほぼ完全に保護されたメタ水準が存在したおかげで、最適化の歴史を時代に分割し、各時代の内側で、時間に沿った累積的な対象水準の最適化をグラフにできた。保護水準が背景で動き、その時代の内側ではそれ自体が変化しないからである。
完全回帰型で再帰的に自己改善するAIを作ったら、何が起こるのか？ そのとき、「最適化を入力し、最適化されたものを出力する」グラフを取り、それ自体の中へ折り返すことになる。比喩的に言えば。
AIが弱ければ、何もしない。自分自身を大幅に改善するほど強力でないからである――チンパンジーに自分の脳を書き換えよと教えるようなものだ。
さらなる改善を行う能力を高める形で自分自身を書き換えるほどAIが強力であり、それがAI自身のソースコードと、最適化器としての自己設計を完全に理解するところまで及ぶなら……「最適化能力の入力」と「最適化された産物の出力」のグラフが本質的に同じ形に見えても、時間に沿った最適化のグラフは、これまでの地球史とはまったく違って見えるだろう。
人々はよく、「だが線形の改善だけを得るのに、指数関数的に増える自己書き換え量が必要だったらどうする？」などと言う。これへの明白な答えは、「自然選択は、人間をどうにか吐き出す過程で、ヒト科の系統におおむね一定の最適化能力を及ぼした。そして、線形な改善が一段階増えるごとに、指数関数的に多くの時間を必要としたようには見えない」である。
このすべては、まだ単なる類推による推論でしかない。最適化の性質を考え、独自のAI研究を行い、自分のソースコードを書き換える完全な汎用人工知能は、地球史のグラフをそれ自体の中へ折り返したものに本当に似ているわけではない。異なる種類の獣である。こうした類推は、よくても定性的予測に役立つだけである。しかもその場合さえ、私はまだ説明していないほかの信念を大量に持っており、それらがどの類推を行うべきかなどを私に告げている。
だが、トランジスタ速度で考え、自己複製する分子ナノ工場を発明し、自分のソースコードを改善するAIという地平を越えて、生命と経済の成長を時間に沿って表すグラフを未来へ延長することに、私がなぜ気乗りしないのか知りたいなら、その理由はこれだ。あなたは間違ったグラフを描いている。描くべきは、最適化された産物対時間ではなく、最適化能力の入力対最適化された産物の出力である。