人工加算

❦

人間が、自分がどう算術を行っているのか、まったく何も知らなかったとしよう。人間が、羊を数え、羊を足し合わせる能力を進化によって獲得したのであり、学習したのではないと想像してほしい。この生得的能力を使う人々は、Aristotleが、自分の視覚野が物を見る能力をどう支えているか知らなかったのと同じく、それがどう働くかを知らない。私たちの知るPeano算術は発明されていない。数についての直観を形式化しようとする哲学者はいるが、次のような記法を用いる。

Plus-Of(Seven, Six) = Thirteen

「七」と「六」を足すと、当然「十三」になるという、直観的に明白な事実を形式化するためである。

この世界で、ポケット電卓は、専門家である「人工算術家」の一団が、ゼロから百までの初期値について手作業で入力した、算術的事実の巨大なルックアップテーブルを保存することで動く。こうした電卓は実用的な意味では役立つかもしれないが、多くの哲学者は、加算をシミュレートしているだけで、真に加算しているのではないと主張する。機械は真に数えることができない――だから人間が十三匹の羊を数えてから、電卓へ「十三」と入力しなければならない。電卓は保存された事実を暗唱できるが、その言明が何を意味するかは決して理解できない――「二百足す二百」と入力すると、電卓は「Error: Outrange」と言う。だが答えが「四百」なのは直観的に明白である。言葉の使い方を知り、その意味を理解していれば、だ。

もちろん、哲学者のなかには、この直観に騙されるほど単純でない者もいる。数は実のところ、純粋に形式的な体系である――「三十七」というラベルに意味があるのは、言葉自体に備わる性質のためではなく、そのラベルが外界の三十七匹の羊を指示するからである。数には、ほかの数との関係からなる意味ネットワークによって、この指示的性質が与えられる。だからコンピュータプログラムで「三十七」を表すLISPトークンには、内部構造が何も必要ない――意味があるのは、指示と関係のためであって、「三十七」自体の何らかの計算的性質のためではない。

「汎用人工算術家」を開発した者は誰もいない。もちろん、「二十」から「三十」までの数を扱う、といった領域特化型の狭い「人工算術家」ならたくさんある。そして「二百」の範囲にある数で進歩がどれほど遅かったかを見れば、「汎用人工算術」が近いうちに実現しないことは明らかである。この分野の第一人者たちは、電卓が人間の十二歳児と同じくらいうまく加算できるようになるまで、少なくとも百年かかると見積もっている。

しかし、この見積もりや、「人工算術」についての単なる通念に同意しない人もいる。次のような発言を耳にすることは珍しくない。

• 「これはフレーミング問題だ。『二十一足す』が何になるかは、それが『三を足す』のか『四を足す』のかによって変わる。誰もが知る常識的真理を網羅するのに十分な算術的事実を保存できさえすれば、ネットワークに本物の加算が現れ始めるだろう」
• 「だが専門家を雇い、手作業で入力させることで、これほど多くの算術的事実をプログラムすることは決してできない。必要なのは、人間が幼少期にリンゴの集合を観察して獲得する、数の間の広大な関係網を学習できる『人工算術家』だ」
• 「いや、本当に必要なのは自然言語を理解できる『人工算術家』だ。そうすれば、二十一足す十六は三十七だと明示的に教えなくても、ウェブを探索して知識を得られる」
• 「率直に言って、皆さんは問題を解決できると自分自身に信じ込ませようとしているだけに見える。誰も算術が本当は何なのか知らないので、この種の一般論を持ち出してもがいている。『Xを学べるAAが必要だ』『インターネットからXを抽出できるAAが必要だ』。つまり、響きはよいし、進歩しているように聞こえ、広報にさえ役立つ。提案された解決策を皆が理解したと思うからだ――だが実際には、領域特化型の加算から汎用的な加算へ少しも近づかない。おそらく、算術の根本的性質を私たちが知ることは決してない。この問題は、人間が解くには難しすぎるのだ」
• 「だから『汎用算術家』を、自然と同じ方法――進化――で開発する必要がある」
• 「トップダウン方式が算術を生み出せなかったのは明らかだ。ボトムアップ方式、算術を創発させる何らかの方法が必要である。複雑系が根本的に予測不能であることを認めなければならない」
• 「全員間違っている。機械算術を作ろうとした過去の努力は、十分な計算能力がなかったため、最初から無駄だった。人間の脳に何兆ものシナプスがあるかを見れば、電卓のルックアップテーブルがそれに到底及ばないことは明らかである。人間の脳と同じほど強力な電卓が必要だ。ムーアの法則によれば、これは2031年4月27日午前4時から4時30分までの間に実現する」
• 「研究者が、完全な人間の脳のニューロンを一つ一つコンピュータへスキャンし、人間の加算を行う生物学的回路をシミュレートできるようになったとき、機械算術は開発されると思う」
• 「脳全体のスキャンを待つ必要はないと思う。ニューラルネットワークは人間の脳とまったく同じであり、どう行うのかを知らなくても、何かを行うよう訓練できる。創造者である私たちが、それがどう算術を行うかを理解することなく、算術を行うプログラムを作るのだ」
• 「だがGödelの定理は、形式体系が算術の基本的性質を完全に捉えることは決してできないと示している。古典物理学は形式化可能なので、二と二を足すため、脳は量子物理学を利用しているに違いない」
• 「おい、人間の算術が、コンピュータで再現できるほど単純だったなら、コンピュータを作れるほど大きな数まで数えられなかっただろう」
• 「John Searleの『中国語電卓の実験』を聞いたことがないのか？ 『二十一』と『十六』を足せる巨大な規則の集合があったとしても、すべての言葉を中国語へ翻訳すると想像するだけで、本物の加算など起きていないとわかる。体系のどこにも本物の数はなく、人間が数のため使うラベルがあるだけだ……」

この寓話には複数の教訓があり、私は異なる文脈で、異なる教訓とともに語ってきた。たとえば、組織階層という考えを例証する――CPUが二つの大きな数を足せるのは、数がブラックボックスになった不透明な物体ではなく、32ビットからなる順序づけられた構造だからである。

だがバイアスを克服するという目的のため、二つの教訓を引き出そう。

• 第一に、自分の知識から再生成できない主張を信じる危険。
• 第二に、根本的な混乱の周りを踊って済ませようとする危険。

架空の証拠から一般化していると非難されないよう付け加えると、どちらの教訓も人工知能の現実の歴史から同じく引き出せる。

第一の危険は、AA装置が直面した対象水準の問題である。AA装置は、内部で捉えられない過程を使い、体系外で生成された「知識」を再生するテープレコーダーとして機能した。人間はAA装置に「二十一足す十六は三十七である」と教えることができ、AA装置はこの文を記録して再生し、さらには「二十一足す十六」とパターンマッチして「三十七！」を出力することさえできた――だがAA装置は、そのような知識を自分自身で生成できなかった。

これは、物理学者が「光は波である」と教えるのを信じ、魅力的な言葉を記録し、誰かが「光は何でできている？」と尋ねると再生する一方、自分自身ではその知識を生成できないことを、強く思い起こさせる。

第二の教訓は、「人工算術」の研究者と一家言ある傍観者をのみ込んだメタ水準の危険――自分の知識にある混乱した隙間の周りを踊る危険である。その忌々しい隙間を埋めるため、歯を食いしばって本腰を入れること以外のほぼ何でもしようとする傾向である。

「それは創発的だ！」と言おうが、「それは知りえない！」と言おうが、どちらの場合も、必要な基本的洞察は獲得可能だが、自分が獲得していないのだと認めてはいない。

新しい基本的洞察をいつ得るかなど、どうしてわかるだろう？ そして洞察を得る方法は、問題へ頭を打ちつけ、それについて学べるものをすべて学び、できる限り多くの角度から、おそらく何年も研究すること以外にない。少なくとも月一本の論文を発表する必要がある学界は、そのような追求を許すようにはできていない。ベンチャーキャピタリストが資金を出すものでも絶対にない。求められるのは、今すぐ先へ進んでシステムを作るか、諦めて代わりに別のことをするかのどちらかである。

上の発言を見てほしい。欠けた洞察を探す旅に出て、数をもはや謎ではなくし、「二十七」をブラックボックス以上のものにしようと狙ったものは一つもない。発言者は誰も、自分たちの困難が算術に内在する性質ではなく、自分自身の心にある無知または混乱から生じていると気づかなかった。混乱しているものが混乱したものでなくなる状態を達成しようとしていなかった。

Judea PearlのProbabilistic Reasoning in Intelligent Systems: Networks of Plausible Inferenceを読めば、1グラフィカルモデルの背後にある基本的洞察が、それを必要とする問題には不可欠だとわかる。（残念ながらTシャツに収まるものではないので、自分で本を読まなければならない。ベイジアンネットワークの原理の背後にある理由や、数学がまさにその形であることの重要性を十分伝えるオンライン上の一般向け解説を、私は見たことがない。だがPearlの本は素晴らしい。）かつては何十もの「非単調論理」が、「防犯警報器が鳴れば、おそらく泥棒がいた。だがその後、自宅近くで小さな地震があったと知れば、おそらく泥棒はいなかった」といった直観を、不格好に捉えようとしていた。グラフィカルモデルの洞察があれば、一階述語論理がこの仕事に間違った性質を持つ理由を数学的に正確に説明し、すべての常識的細部を一度に見事に捉える、簡潔な形で正しい解を表せる。その洞察を得るまで、ここで論理に継ぎを当て、あそこで継ぎを当て、「明らかに真」に見えるすべてと一致させるため、ますます多くの場当たり的修正を加え続けるだろう。

鍵がなければ「人工算術」問題が解けないことを、あなたは知ることはない。規則を知らなければ、何かをするには規則を知る必要があると述べる規則も知らない。そこで、自然言語を読み、インターネットから何百万もの算術的主張をダウンロードできる「人工算術家」を作る、といった、うまくいきそうに見えるあらゆる巧妙な考えが現れる。

それでもどういうわけか、巧妙な考えは決してうまくいかない。「うまくいかない理由が何も見えなかった」のは、障害が存在しなかったからではなく、障害を知らなかったからだと、どういうわけか毎回判明する。目隠しをして遠い標的を撃つようなものだ――「中心に当たらないとは証明できない！」と叫びながら、闇雲な弾を何発も撃てる。だが目隠しを外すまで、狙いを定めるゲームに参加してさえいない。大切な考えが正しくないことを「誰も証明できない」なら、それは広大な答えの空間にある小さな標的を射抜けるほどの情報を持っていないという意味である。自分の考えがうまくいくとわかるまでは、うまくいかない。

人工知能における過去の重要な洞察の歴史と、その洞察以前に提案された壮大な混乱から、私は現実に役立つ重要な教訓を引き出す。根本的な問題が自分の無知であるとき、無知を迂回する巧妙な戦略は、自分の足を撃つことにつながる。