AI設計という夢

❦

10年か20年、心の中で生きていれば、心の働きについて多少はわかると思うかもしれない。そうだろう？　かなりの数のAGI志望者（自分には汎用人工知能をプログラムする力があると思っている人たち）は、そう結論したようだ。残念ながら、それは間違っている。

人工知能の本質は、心的なものを、心的でないものへ還元することにある。

この一文について、しばらく考えてみてもよいだろう。重要なのだ。

人間の心の中で生きても、還元主義の技は身につかない。仕事のほぼすべてが、見えないところで、脳の不透明なブラックボックスによって行われているからだ。あまりに見えないところで起こるので、そこにブラックボックスがあるという内省的な感覚さえない。仕事を任せたことを知らせる、内的な感覚上の出来事がないのだ。

アリストテレスは、出来事のテロス、つまり目的因について語るとき、予測の仕事を脳の複雑な計画機構に任せ、「この物体が計画できるとしたら、何をするだろう？」と問うているのだと、わかっていただろうか？　私は疑わしいと思う。アリストテレスは、脳は血液を冷やす器官だと考えていた。しかも、それを重要だと考えていた。人間は脳が大きいおかげで、より穏やかで思慮深いのだ、と。

では、これでAIが設計できるではないか！　コンピューターをたっぷり冷やせば、穏やかで思慮深くなり、今のコンピューターのように愚かなことへ猪突猛進しなくなるはずだ。これは偽の還元主義の例である。「人間がより思慮深いのは、血液が冷たいからだ」という説明のことだ。それは思慮深いという言葉のブラックボックスを解明していない。単に物質的で、単に因果的な要素からなる可動部品を内部に持つ複雑なモデルを使って、思慮深いものが何をするかを予測することはできない。そうした、単に物質的で因果的なモデル要素の典型は、トランジスタにかかる正負の電圧だ。できるのは、自分が思慮深くしている姿を想像して、思慮深い主体が何をするかの見当をつけることだけだ。

つまり、「思慮深さ」について推論するには、共感による推論しか使えない。自分の脳を、思慮深さのレバーを引いたブラックボックスとして使い、別のブラックボックスの出力を予測するのだ。

別の主体が思慮深くしているところは想像できる。だが、それもやはり共感による推論だ。この想像が働く仕組みは、自分の脳を思慮深さのモードで動くよう調整することであり、相手の脳をニューロン一つずつモデル化することではない。確かに、そのほうが効率的かもしれない。だが、それで「思慮深い」心をゼロから作れるようにはならない。

「冷たい血液が思慮深さを引き起こす」と言えても、手に入るのは偽の因果関係だけだ。「冷たい血液」と書かれた箱から「思慮深さ」と書かれた箱へ、小さな矢印を描いただけで、箱の中は見ていない。いまだに共感を使って予測を生み出している。

「一つ一つは厳密に電気的・化学的なものであり、存在論的に基本的な思慮深さなど含まない小さなニューロンが、たくさん集まって複雑なネットワークを作り、思慮深さを創発的に示す」と言うこともできる。それもまだ偽の還元であり、まだブラックボックスの中は見ていない。共感を使わないモデルで、「思慮深い」ものが何をするかを言うことは、やはりできない。「ニューロンがいっぱい」とラベルを貼った箱を取り、「創発」とラベルを貼った矢印を、思慮深さについて覚えている感覚を入れたブラックボックスへ引いただけだ。その感覚を想像すると、あなたの脳は思慮深く考えることで、その箱に共感するよう指示される。

では、本当の還元とはどんなものか？

たとえば、証拠らしさや正当化らしさの感覚と、E・T・ジェインズの『Probability Theory: The Logic of Science』との関係だ。一日中、堂々巡りをしながら、証拠の本性は、ある命題が真である可能性が高いと意味することによって、その命題を正当化することだ、と言い続けられる。だが、これらはすべて、脳内の証拠らしさ、正当化らしさ、ありそうな感じを呼び出しているだけだ。その部分、つまり堂々巡りの部分は簡単である。そこからベイズの定理へ進む部分が、難しいのだ。

そして、人工知能を学べるようにする根本的な心の能力は、その違いを見分ける能力である。「証拠とは、観察が信念を正当化することだ」と言っても、まだ終わっておらず、実際には始まってすらいないとわかるための能力だ。しかし原子は、証拠的でも、正当化的でも、有意味でも、もっともらしくも、命題的でも、真でもない。ただの原子だ。たとえば次のようなものだけが、

実質的な進歩と呼べる。（しかも、それは還元の第一歩にすぎない。EやHという対象は、謎のブラックボックスでないなら何なのか？　仮説はどこから来るのか？　あなたの創造性からか？　どの原子も仮説ではないのに、仮説とは何なのか？）

本物の還元のもう一つの優れた例は、ジューディア・パールの『Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference』に見つかる。1原因とは、ほかの何かを起こさせるものだ、と一日中堂々巡りをすることはできる。だが、条件付き独立の本性を理解するまでは、因果関係について推論するAIを作ることはできない。防犯警報が鳴ったと知り、その後、小さな地震が起きたと知ったら、家に泥棒が入ったという最初の結論を撤回する。このように脳が不思議な仕方で判断するとき、何が起きているのかを理解していないからだ。

チェスをするAIが欲しいなら、AIにはよい手を打ってほしい、よい手とは勝利が期待できる手だ、それは相手を倒すための賢明な戦略だ、といった話を、いつまでも堂々巡りで続けられる。そうすればあなたには、AIにどんな手を打ってほしいかが多少わかるかもしれない。だが、ミニマックス探索木という考えを思いつくまで、それはすべて無駄なのだ。

しかし、探索木を知るまでは、条件付き独立を知るまでは、ベイズの定理を知るまでは、よい手や非単調推論や証拠の評価がどこから来るか、十分理解しているように思えるかもしれない。たとえば、血液を冷やすことから来るように思えるかもしれない。

そして実際、私は、知能は常識的な知識や大規模な並列性や創造的破壊や合理的でなく直感的な推論などから生じると信じる人を、たくさん知っている。だが、これらはみな夢にすぎない。人間を指さす以外に、知能とは何なのか、知能を持つものが次に何をするのかを述べる方法を与えてくれない。そして、その人がすばらしいAIを作り始めると、できるのはつながっていないレバーの集まりだけだ。「知識」は、appleなどのラベルを持つLISPのトークンからなる。あるいは、「人間の脳そっくりの、大規模並列ニューラルネット」を作るのかもしれない。そして、大したことが何も起きないと知って、驚く。本当に驚くのだ！

人間的な部品でできたAI設計は、夢でしかない。想像の中には存在できるが、トランジスタに置き換えることはできない。これは特に、意味ありげなラベルの貼られた箱を矢印で結んだような「AI設計」に当てはまる。（本当に壮大な例なら、どれでもいいからMentifexの図を見てほしい。）

この話は後でさらに続けるが、指針の一つは先に伝えられる。自分のAIは人間と同じようにXYZをする、と言う人に会っても、ベンチャー資金を渡してはいけない。代わりにこう言おう。「申し訳ないが、私は人間の脳も、ほかの知能も見たことがなく、そういうものが存在しうると信じる理由はまだない。では、人間を例として指ささずに、あなたのAIが何をするのか、なぜそれをすると信じるのかを説明してほしい」。飛行機は、設計が同じなら、鳥が一度も存在しなかったとしても同じように飛ぶ。類推のおかげで空中にいるわけではない。

これで、強いAIについて基礎的な仕事をするよう誰かに教えたいなら、なぜある種の話を長々とするのか、わかってもらえただろうか。これは明らかに非常に難しい技であり、探索木のような既存の還元を教わるだけでは、学生の圧倒的大多数は身につけない。それを踏まえると、還元主義という精妙な技について、合理主義者のタブーをすることで問題のある言葉?を切り取り、それが指すものに置き換えることについて、擬人化について、そしてもちろん、謎めいた問いへの謎めいた答えで早々に立ち止まることについて、長く語ることになるのだ。