❦
前章では、幼いエリエザーが「知能」と呼んだものをめぐる感情的死の螺旋を扱った。エリエザー1996は――さらに言えば、エリエザー1999でさえ――数学的な定義を与えようとすることを拒んだだろう。意識的かつ意図的に拒んだはずだ。実際、「知能」にどんな定義を与えることも嫌っただろう。
なぜか？ AIには、標準的なおとり商法の問題がある。「知能」を「論理的推論」や「もはや適切でない結論を撤回する能力」のような意味に定義し、それから安物の定理証明器や場当たり的な非単調推論器を作り、「見よ、知能を実装した！」と言うのである。人々は知能について貧弱な定義――中核ではなく相関するものに焦点を当てた定義――を考え出し、書き留めた表面的な定義を追いかけ、ご存じのとおり実際の知能を忘れた。エリエザー1996は、人工知能で出世しようとしていたわけではない。実際にナノテクノロジーを構築できる心が欲しかっただけだ。だから論文を立派に見せるため、知能を再定義する誘惑はなかった。
振り返ると、私の過ちのかなり多くは、他者の愚かさを見て、逆方向へ押されすぎたこととして定義できるように思える。「知能」を定義する試みがあまりに頻繁に悪用されるのを見て、私は定義すること自体を拒んだ。知能はXだと言って、本当はXでなかったらどうする？ 自分が探しているもの――原材料のため星を分解できるほど強力な何か――は直感的には分かっていた。そして定義に気を取られる罠へ落ち、そこから逸れたくなかった。
同じように、単純で優美な数学へ固執し、その結果おもちゃの系に制約されるという、物理学への羨望によって非常に多くのAI計画が打ち倒されるのを見て、整然とした方程式へ形式化できるほど単純な数学は、ご存じのとおり本当の知能には、おそらく働かないだろうと一般化した。「ベイズの定理を除いて」と、エリエザー2000は付け加えた。見方によって、これは彼の罪の全面性を和らげるか、一つの例外を加えようとする代わりに一般化全体を疑うべきだったと示す。
エリエザー2000が、なぜそのようなこと――知能の数学を信じないこと――を考えたのか疑問なら、これほど昔のことは、私にもなかなか思い出せない。数学を嫌っていたからでないことは確かだ。根本原因を指摘しなければならないなら、人工知能の本を読む数が少なすぎ、一般向けすぎ、しかも誤った本を読んだことだろう。
しかし当時、答えが人工知能から生まれるとは考えていなかった。人工知能を、病み、死んだ分野として、ほとんど見限っていた。だから調べる時間が少なすぎたのも無理はない。私は、人工知能は大風呂敷を広げるという決まり文句を信じた。それを「逆方向へ行きすぎる」というパターンに当てはめられる。この分野は約束を果たしてこなかったため、私はすぐに見限ろうとした。その結果、偽物でない数学を見つけるほど懸命に調査しなかった。
一般知能の数学に対する若い頃の不信は、私の史上最悪の過ちの一つであると同時に、史上最良の過ちの一つだった。
知能に単純な答えなどありえないと信じていたため、私は認知心理学、機能神経解剖学、計算論的神経解剖学、進化心理学、進化生物学、そして人工知能の複数の分野について調べ、読んだ。単純で素晴らしく思える考えを持っても、そこで止まったり、急いで実装しようとしたりしなかった。たとえ真で、必要なものでも、十分ではないと知っていたからだ。知能は単純であってはならず、Tシャツに収まる答えを持つはずはなかった。たくさんのピースを持つ大きなパズルであるはずだった。そして一つのピースを見つけても、勝ち誇って高く掲げて駆け出さず、探し続けた。一つのピースが欠けた心を構築しようとしても、興味深いことは何も起きないかもしれない。
学術分野としての人工知能が荒涼とした不毛の地だと考えたことは誤りで、知能の数学などありえないと考えたことは、さらに誤りだった。だが、人工知能は人間の脳とまったく似るべきではないと現在では考えているにもかかわらず、たとえば機能神経解剖学を学んだことは後悔していない。神経解剖学を学んだことで、心を部品へ分ければ、その部品は「株式市場取引モジュール」や「常識推論モジュール」ではなく、「視覚野」や「小脳」のようなものだという考えから入れた。後者はAIにおける典型的な誤った道である。
機能神経解剖学や認知心理学のような分野を学んだことで、AIの本だけを――たとえ良いAIの本でも――読んだ場合とは、心がどのようなものでなければならないかについて、非常に異なる考えを得た。
誤った結論と誤った正当化をすべて塗りつぶし、その信念が幼いエリエザーを実際に何を行うよう導いたかだけを問うなら……
人工知能は病んでおり、本当の答えは外のもっと健全な分野から生まれなければならないという信念は、多くの認知科学を学ぶよう彼を導いた。
AIに単純な答えはありえないという信念は、一つの見事な考えで早々に止まらず、多くの情報を蓄積するよう彼を導いた。
知能を定義すべきでないという信念は、何年も後に体系化を提案し始めるまで、彼が長いあいだ問題を研究した状況を生んだ。
私の史上最良の過ちの一つだと言うとき、指しているのはこのことである。
何年も後に振り返り、私は次のような非常に強い教訓を引き出した。
結局、実際に何をするかが、なぜそれをするかという巧妙な理由を遮断する。
多くの科学を学ぶよう導く、驚くほど巧妙な推論と、そうした本をすべて読む必要はないと言う、驚くほど巧妙な推論を対比しよう。後になり、驚くほど巧妙な推論が愚かだったと判明したとき、前者の型の推論だったなら、はるかに良い位置へ行き着いているだろう。
過去を振り返ると、半ば偶然の成功、誤った理由から正しいことをした回数の多さに驚かされる。あなたの観点からは、これを人間原理のためと考えるべきだろう。本当の行き止まりへ落ちていたなら、おそらくこの本で私の言葉を聞いてはいない。私の観点からは、いささか恥ずかしいことであり続ける。私が受けた伝統的合理主義者としての教育は、その「偶然の成功」へ大きな方向性の偏りを与えた――学ばない理由ではなく、学ぶ理由を合理化するよう偏らせ、完全に道を失わないようにし、過ちから回復する助けとなった。それでも、どれも正しい理由による正しい行動ではなかった。若い頃の来歴を振り返って目にするには、恐ろしいことだ。私がOvercoming Biasで書く第一の目的の一つは、偶然に行き着いた場所までの道筋を残すこと――合理主義者としての私の鍛造に、運が果たした役割を不要にすること――である。
では、何がこれを私の史上最悪の過ちの一つにするのか？ 「非形式的」は、「低い基準にしか従わない」を言い換えたものでもあるからだ。「知能」と、ほかの用語の一部も、正確に定義しなくてよい驚くほど巧妙な理由を、私は持っていた。すなわち、ほかの人々は定義しようとして道を誤った、というものだ。これは、ずさんな推論が入ってこられる門だった。
ならば先を急ぎ、ただちに正確な定義を鍛えようとすべきだったか？ 違う。それが誤った行いだと知っていた理由は、すべて正しかった。知識が不十分なら、正しい定義を何もないところから呼び出すことはできない。
原子と分子について知らなければ、火のその定義へは到達できない。「あのオレンジ色に明るいもの」と言うほうがよい。そして火を調べるためには、それが正確には何なのか言えなくても、そのオレンジ色に明るいものについて話せなければならない。だが現在の私なら、その水準にある推論はすべて、信頼できないものだと言う。それは、より深く知るまでの道中で行うものではあるが、信頼せず、そこへ全体重をかけず、非形式的な推論がどれほど逃れようなく見えても、そこから確固たる結論を引き出さない。
幼いエリエザーは、誤った床板へ全体重をかけた――罠を仕掛けられた板を踏んだのである。