人工足し算

❦

人間が、自分はどうやって算術をしているのか、まったく知らなかったとしよう。羊を数えたり足したりする能力を、学んだのではなく、進化で得たと想像してほしい。生まれつきの能力を使う人々は、その仕組みを知らない。アリストテレスが、視覚野によって物が見える仕組みを知らなかったように。私たちが知るペアノ算術は、まだ発明されていない。数についての直感を形式化しようとする哲学者はいるが、次のような表記を使う。

Plus-Of(Seven, Six) = Thirteen

「七」に「六」を足せば、もちろん「十三」になるという、直感的に明らかな事実を形式化するためだ。

この世界の電卓は、算術上の事実を巨大な検索表に保存して動く。専門の人工算術研究者チームが、ゼロから百までの入力値について、手作業で登録したものだ。実用的には役立つかもしれないが、多くの哲学者は、電卓は足し算を模擬しているだけで、本当に足してはいないと論じる。機械に本当に数えることはできない。だから人間が十三頭の羊を数えてから、「十三」と入力しなければならないのだ。電卓は保存した事実を復唱できるが、その言明の意味は決して分からない。「二百足す二百」と入力すれば「エラー：範囲外」と言う。言葉の意味が分かっていれば、答えが「四百」なのは、直感的に明らかなのに。

もちろん、そんな直感にだまされるほど素朴でない哲学者もいる。数は実際には純粋な形式体系だ。「三十七」というラベルに意味があるのは、言葉そのものの内在的な性質ではなく、外の世界の三十七頭の羊を指すからである。数がこの指示の性質を持つのは、ほかの数との関係からなる意味ネットワークによる。だから、コンピュータープログラムのLISPで「三十七」を表すトークンに、内部構造は要らない。意味があるのは参照と関係のおかげであり、「三十七」それ自体の計算上の性質によるのではないのだ。

汎用人工算術装置は、まだ誰も開発していない。もちろん、「二十」から「三十」までなどの数で動く、領域特化型の狭い人工算術装置はたくさんある。「二百」あたりの数での進歩がどれほど遅いかを見れば、汎用人工算術は当分得られないと明らかに分かる。この分野の最高の専門家は、人間の12歳児ほど上手に足し算する電卓ができるまで、少なくとも百年かかると見積もっている。

だが、この見積もりや、人工算術についての単なる常識的な信念に、全員が同意しているわけではない。次のような発言はよく聞かれる。

• 「これはフレームの問題だ。『二十一足す』がいくつになるかは、『足す三』なのか『足す四』なのかによる。誰もが知る常識的な真実を覆うだけの算術的事実を保存できれば、ネットワークに本物の足し算が見え始めるだろう」
• 「だが、専門家を雇って手入力させても、そんなに多くの算術的事実をプログラムには入れられない。必要なのは、人間が幼いころリンゴの集まりを観察して身につける、数のあいだの巨大な関係ネットワークを学べる人工算術装置だ」
• 「違う。本当に必要なのは、自然言語を理解できる人工算術装置だ。二十一足す十六は三十七だと明示的に教わらなくても、ウェブを探索して知識を得られるようにするのだ」
• 「率直に言って、君たちは自分に解けると自分を納得させようとしているだけに見える。誰も算術が何か本当には知らないから、こういう一般論でもがいているのだ。『Xを学べるAAが要る』『インターネットからXを取り出せるAAが要る』と。聞こえはよいし、進歩しているようで、広報にもよい。誰もが提案された解決策を分かったつもりになれるからだ。だが、領域特化の足し算ではない、汎用の足し算には、実際には少しも近づいていない。おそらく算術の根本的な性質は、決して分からないだろう。人間が解くには難しすぎるのだ」
• 「だから自然と同じ方法、進化で、汎用算術装置を開発する必要がある」
• 「トップダウンの手法が算術を生み出せなかったのは明らかだ。ボトムアップの手法、算術を創発させる方法が要る。複雑系の根本的な予測不能性を認めなければならない」
• 「全員間違っている。過去の機械算術への試みは、単に計算能力が足りなかったから、初めから無駄だった。人間の脳に何兆ものシナプスがあることを考えれば、電卓の検索表はまるでその大きさに届いていない。人間の脳と同じくらい強力な電卓が必要だ。ムーアの法則によれば、それは2031年4月27日、午前4時から4時30分のあいだに実現する」
• 「機械算術は、研究者が人間の脳全体を、ニューロン一つずつコンピューターに読み込み、人間の足し算を行う生物学的回路を模擬できるようになれば、開発されると思う」
• 「脳全体のスキャンを待つ必要はないと思う。ニューラルネットワークは人間の脳と同じで、どうやるかを知らなくても訓練して何かをさせられる。作り手である私たちが足し算の仕組みをまったく理解しないまま、算術を行うプログラムを作るのだ」
• 「だがゲーデルの定理によれば、どんな形式体系も算術の基本的な性質を捉えきれない。古典物理学は形式化できるのだから、脳が二足す二を計算するには、量子物理学を利用しなければならない」
• 「ねえ、人間の算術がコンピューターで再現できるほど単純なら、コンピューターを作れるほど大きな数を数えられないはずだよ」
• 「ジョン・サールの中国語電卓実験を聞いたことはないのか？ 『二十一』と『十六』を足せる巨大な規則集があっても、すべての言葉を中国語に訳すところを想像すれば、本物の足し算が行われていないと分かる。システムのどこにも本当の数はない。人間が数に使うラベルしかないのだ……」

この寓話には複数の教訓があり、私は文脈を変えて、異なる教訓とともに語ってきた。たとえば、構成の階層という考えを示している。CPUが大きな数を二つ足せるのは、数が不透明なブラックボックスではなく、32ビットの順序ある構造だからだ。

だが、バイアスを乗り越える目的では、二つの教訓を取り出そう。

• 第一に、自分の知識から再び生み出せない主張を信じる危険。
• 第二に、根本的な混乱を避けて立ち回ろうとする危険。

架空の証拠から一般化していると非難されないよう言っておくと、両方の教訓は、人工知能の実際の歴史からも得られる。

第一の危険は、AA装置が遭遇した対象レベルの問題だ。AAは、内部では捉えられない過程を使ってシステムの外で生まれた「知識」を、再生する録音機として動いていた。人間は「二十一足す十六は三十七」と教え、AAはその文を記録して再生し、さらには「二十一足す十六」をパターン照合して「三十七！」と出力することもできた。だが、自分でその知識を生み出すことはできなかった。

これは、「光は波だ」と言う物理学者を信じ、魅力的な言葉を記録し、「光は何でできている？」と聞かれたら再生するが、自分でその知識を生み出せないことを、強く思わせる。

第二の教訓は、人工算術の研究者や意見の多い傍観者を飲み込んだ、メタレベルの危険だ。知識の中の混乱した穴を避けて立ち回る危険である。歯を食いしばり、腰を据え、その厄介な穴を埋めること以外なら、ほとんど何でもしてしまう傾向だ。

「創発だ！」と言っても、「不可知だ！」と言っても、どちらも、手に入れることはできるが、自分はまだ持っていない、必要な基本的洞察があるとは認めていない。

新しい基本的洞察がいつ得られるか、どうして分かるだろう。問題と格闘し、学べるすべてを学び、できるだけ多くの角度から調べる以外に、手に入れる方法はない。何年もかかるかもしれない。毎月最低一本の論文を出す必要がある学界は、そういう追求を許す仕組みにはなっていない。ベンチャー投資家が資金を出すようなことでも、もちろんない。あなたは、今システムを作ってしまうか、諦めて別のことをしたくなる。

上の発言を見てほしい。数をもはや謎でなくし、「二十七」をブラックボックス以上のものにする、欠けた洞察を探す旅へ出ようとする発言は、一つもない。困難が算術の内在的な性質ではなく、自分自身の心の無知や混乱から来るとは、誰も気づかなかった。混乱させるものがもう混乱させなくなる状態に至ろうとは、していなかったのだ。

ジューディア・パールの知的システムにおける確率的推論――もっともらしい推論のネットワークを読めば、1グラフィカルモデルの背後の基本的洞察は、それを必要とする問題に不可欠だと分かる。（残念ながら、Tシャツに書けるようなものではないので、自分で本を読んでほしい。ベイジアンネットワークの原理の理由や、数学が厳密にその形であることの重要性を十分伝えるオンラインの一般向け解説は、見たことがない。だが、パールの本は素晴らしい。）かつては、「防犯警報が鳴れば、おそらく泥棒がいた。だが近くで小さな地震があったと知れば、おそらく泥棒ではなかった」といった直感を、不器用に捉えようとする「非単調論理」が何十もあった。グラフィカルモデルの洞察があれば、一階論理の性質がこの仕事になぜ合わないかを数学的に正確に説明し、常識的な細部をすべて、一挙に鮮やかに捉える簡潔な形で、正しい解を表せる。その洞察がなければ、「明らかに真」に思えるすべてに無理やり合わせるため、ここで論理に継ぎを当て、あちらでも継ぎを当て、場当たり的な仕組みを増やし続けるだろう。

鍵となる洞察なしには人工算術の問題が解けないと、あなたには分からないだろう。規則を知らなければ、何かをするには規則を知る必要があるという規則も知らない。だから、自然言語を読んでネットから何百万もの算術的主張をダウンロードできる人工算術装置を作るなど、うまくいきそうな賢い案がいくらでも出てくる。

だが、どういうわけか、賢い案は決してうまくいかない。どういうわけか、いつも、うまくいかない理由が見えなかったのは、障害がなかったからでなく、自分が障害を知らなかったからだと分かる。目隠しをして遠い標的を撃つようなものだ。「中心に当たらないと証明はできないだろう！」と叫びながら、闇雲に何発でも撃てる。だが目隠しを外すまで、狙いを定める競技にさえ参加していない。大切な案が正しくないと「誰にも証明できない」とき、それは、巨大な答えの空間の、小さな標的を射抜く情報が足りないということだ。うまくいくと分かるまでは、その案はうまくいかない。

人工知能における過去の重要な洞察と、それ以前に提案された壮大な混乱の歴史から、私は現実の重要な教訓を得る。根本の問題が自分の無知であるとき、無知を迂回する賢い戦略は、自分の足を撃つ結果を招く。