AI設計の夢

❦

十年か二十年、心の中で暮らしてきたのだから、心がどう働くかを少しは知っていると思うかもしれない。そうだろう？　かなり多くのAGI志望者（汎用人工知能をプログラムするだけの力が自分にはあると思っている人々）は、そう結論づけたように見える。残念ながら、それは間違いである。

人工知能とは、根本的に、心的なものを非心的なものへ還元する営みである。

この文について、しばらく熟考するとよい。重要だからだ。

人間の心の中で暮らしても、還元主義という技芸は学べない。作業のほとんどすべては、脳という不透明なブラックボックスによって、あなたの目の届かないところで行われるからだ。作業が委任されたことを示す内的な感覚事象すらなく、ブラックボックスの存在を内省的に感じられないほど、はるか深いところで。

アリストテレスは、出来事のテロス、すなわち目的因について語ったとき、予測という労働を脳内の複雑な計画機構へ委任し、「もしこの物体が計画を立てられるなら、何をするだろう？」と尋ねていたのだ、と気づいていただろうか？　まず間違いなく、気づいていなかった。アリストテレスは、脳を血液を冷やす器官だと考えた——そして、それを重要だとも考えた。人間は大きな脳のおかげで、より冷静で、思慮深いというのだ。

では、AI設計案が一つできた！　コンピュータを大いに冷やすだけで、もっと冷静で思慮深くなり、現代のコンピュータのように愚かなことへ向かって突進しなくなる。これは偽りの還元主義の例である。「人間は血液が冷たいから、より思慮深い」という部分のことだ。それでは、思慮深いという言葉のブラックボックスは解消されない。単なる物質的、単なる因果的な要素でできた、内部に動く部品のある複雑なモデルを使って、思慮深いものが何をするかを予測できない。トランジスタ上の正電圧と負電圧は、モデルの単に物質的で因果的な要素の標準例である。できるのは、自分が思慮深くなったところを想像して、思慮深いエージェントが何をするかについて考えを得ることだけだ。

つまり、「思慮深さ」について推論できるのは、共感的推論によってだけである。自分の脳を、思慮深さのレバーを引いたブラックボックスとして使い、別のブラックボックスの出力を予測する。

別のエージェントが思慮深いところを想像することはできる。だが、それもやはり共感的推論である。この想像という行為は、相手の脳をニューロン一個ずつモデル化するのではなく、自分の脳を思慮深さモードで動くよう調整することで働く。確かに、そのほうが効率はよいかもしれない。だが、それによって「思慮深い」心を一から作れるわけではない。

「冷たい血液が思慮深さを引き起こす」と言えば、得られるのは偽りの因果性でしかない。「冷たい血液」と書かれた箱から、「思慮深さ」と書かれた箱へ、小さな矢印を引いたが、箱の中は見ていない。予測は今なお、共感を使って生み出している。

「存在論的に基礎的な思慮深さを一切含まず、どれも厳密に電気的・化学的な、小さなニューロンが大量に集まり、複雑なネットワークを作って、思慮深さを創発的に示す」と言うこともできる。だが、それもやはり偽りの還元であり、やはりブラックボックスの中を見ていない。非共感的なモデルを使って、「思慮深い」ものが何をするかを、やはり述べられない。ただ「大量のニューロン」と札を貼った箱を取り、「創発」と札をつけた矢印を、思慮深さについて記憶している感覚を収めたブラックボックスへ引いただけだ。その感覚を想像すると、脳は熟考することで、その箱に共感するよう指示される。

では、本物の還元はどのような姿をしているのか？

証拠らしさ、正当化らしさの感覚と、E・T・ジェインズの『確率論——科学の論理』との関係のようなものだ。証拠の本質とは、ある命題が真である可能性が高いと意味することによって、その命題を正当化することだ、と一日中ぐるぐる言い続けられる。しかし、そのすべてが、証拠らしさ、正当化らしさ、ありそうらしさという、脳内の感覚を呼び出しているだけだ。その部分は簡単である——ぐるぐる回る部分は。そこからベイズの定理へ進む部分は難しい。

人工知能を学ぶことを可能にする、根本的な心的能力は、その違いを見分ける能力である。だから「証拠とは、観察が信念を正当化するときのことだ」と言っても、まだ終わっていないどころか、本当には始めてもいないと分かる。しかし原子は、証拠的でも、正当化するものでも、意味のあるものでも、ありそうなものでも、命題的でも、真でもない。ただの原子である。次のようなものだけが、

実質的な進歩に数えられる。（しかも、これは還元の最初の一歩にすぎない。このEとHという対象は、謎めいたブラックボックスでないなら、何なのか？　仮説はどこから来る？　あなたの創造性から？　そして、どの原子も仮説ではないなら、仮説とは何なのか？）

真の還元のもう一つの優れた例は、ジューディア・パールの『知的システムにおける確率的推論——もっともらしい推論のネットワーク』に見つかる。1　原因とは、ほかの何かを起こるようにさせるものだ、と一日中ぐるぐる語り続けることはできる。だが条件つき独立の性質を理解しないかぎり、因果について推論するAIを作ることはできない。防犯警報が鳴ったと知り、しかしその後、小さな地震が起きたと知ると、家に泥棒が入ったという最初の結論を撤回する——そのとき、あなたの脳が不可思議に決定するところで、何が起きているかを理解していないからだ。

チェスをするAIがほしいなら、AIに良い手を指してほしい、良い手とはゲームに勝つと期待できる手だ、それは相手を倒すための慎重な戦略だ、といったことを、いつまでもぐるぐる語り続けられる。そしてあなた自身には、AIにどの手を指してほしいか、いくらか分かるかもしれない。だが、ミニマックス探索木という考えを思いつくまでは、すべて無駄である。

しかし、探索木を知るまでは、条件つき独立を知るまでは、ベイズの定理を知るまでは、良い手、非単調推論、証拠の評価がどこから来るかを完全によく理解しているように、なお思えるかもしれない。たとえば、それらは血液を冷やすことから生じるように思えるかもしれない。

実際、知能は、常識的知識、大規模並列性、創造的破壊、合理的ではなく直観的な推論、あるいは何かそのようなものの産物だ、と信じる人を私は大勢知っている。だが、そのすべては夢にすぎない。人間を指さす以外に、知能とは何か、知能が次に何をするかを述べる方法を何も与えない。そしてその人物が驚異のAIを作りに行くと、作るのは切り離されたレバーのシステムだけだ。「知識」はappleなどと札を貼ったLISPトークンからできている。あるいは、「人間の脳とまったく同じ、大規模並列ニューラルネット」を作るかもしれない。そして、大したことが何も起こらないと、衝撃を受ける——衝撃を！

人間の部品でできたAI設計は、夢にすぎない。想像の中には存在できても、トランジスタへ翻訳することはできない。これは特に、箱の間を矢印で結び、箱に意味ありげな札をつけたような「AI設計」に当てはまる。（その真に壮大な実例は、どのMentifex図にも見られる。）

あとでこの話題について、さらに述べる。だが指針の一つなら、いま教えられる。自分のAIはXYZを人間と同じように行う、と言う人物に会ったら、ベンチャー資金を一円も与えてはならない。代わりにこう言おう。「申し訳ないが、私は人間の脳も、それ以外の知能も、一度も見たことがない。そのようなものが存在しうると信じる理由は、今のところ何もない。では、人間を例として指ささずに、あなたのAIが何をするのか、そして、そうするとなぜ信じるのか説明してほしい」。鳥が一度も存在しなかったとしても、設計が同じなら、飛行機は同じようによく飛ぶ。飛行機は類推によって空中に支えられているのではない。

これで、強いAIについて基礎的な研究をする方法を誰かに教えたいなら——これは明らかにきわめて難しい技芸であり、探索木のような既存の還元を教わっただけの学生の圧倒的多数は習得できないことを念頭に置いて——還元主義という精妙な技芸、問題のある言葉?を切除し、その指示対象で置き換えるために合理主義者のタブーをすること、擬人化、そしてもちろん、謎めいた問いへの謎めいた答えに対する早期停止といった事柄を長々と論じることになる理由を、理解してもらえただろうか。