❦
Garry Kasparovがチェスでどんな手を指すか、私にはわからない。では、「Kasparovは非常に知的なチェス選手である」という私の信念には、どんな経験的内容があるのか？ その信念は、現実世界でどんな経験を予期せよと私に告げるのか？巧妙に仮面をかぶった完全な無知なのだろうか？
このジレンマを鮮明にするため、Kasparovが、世界王者候補ではない単なるチェスのグランドマスター、G氏と対局するとしよう。私自身の能力は、この二つの技能水準を区別するにはあまりに低い。Kasparovの手やG氏の次の手を推測しようとしても、自分の乏しいチェス知識で「最善手」を推測することしかできない。すると、どんな特定の盤面でも、Kasparovの手とG氏の手についてまったく同じ予測を出すことになる。では、「KasparovはG氏より優れたチェス選手である」という私の信念には、どんな経験的内容があるのか？
私の信念の経験的内容は、最終的なチェスの局面が、引き分けやG氏の勝ちではなく、Kasparovの勝ちとなる局面のクラスに属する、という検証可能で反証可能な予測である。（投了を、負けに分類されるチェスの局面へ至る合法手として数える。）Kasparovがどれほど「優れた選手」だと思うかは、「引き分け」と「G氏の勝ち」という結果のクラスに対し、「Kasparovの勝ち」という結果のクラスへどれほどの確率質量を集中させるかに反映される。これらのクラスは、可能なチェス局面の広大な空間を指すという意味ではきわめて曖昧である――だが「Kasparovの勝ち」は、最大エントロピーより具体的である。チェス局面の広大な集合によって明確に反証できるからだ。
Kasparovの対局の結果を予測できるのは、私がKasparovの目標を知り、理解しているからである。チェス盤の範囲内で、私はKasparovの動機を知っている――成功基準、効用関数、最適化過程としての目標を知っている。Kasparovが未来を最終的にどこへ導こうとしているかを知り、そこへ到達できるほど強力だと予期している。ただし、Kasparovがそれをどう行うかについては、ほとんど何も予期していない。
遠方の都市を訪れていて、地元の友人が空港まで車で送ると申し出たと想像しよう。私は近隣の地理を知らない。友人が交差点へ近づくたび、左折するか、右折するか、直進するか、私にはわからない。個々の交差点へ近づいても友人の動きを予測できない――まして、動きの全系列を事前に予測することなどできない。
それでも、友人の予測不能な行動の結果は予測できる。私たちは空港に到着する。友人の家が街の別の場所にあって、まったく異なる一連の曲がり角を通ったとしても、やはり同じ確信をもって、空港への到着を予測するだろう。車に乗り込むより前、はるか前もって予測できる。私の飛行機は間もなく出発し、無駄にできる時間はない。車が予測不能な経路を通って空港へ行くと確信をもって予測できなければ、そもそも車に乗り込まないだろう。
科学的な観点から見て、これは驚くべき状況ではないだろうか？ 過程の中間的な段階を一つも予測できないのに、過程の結果を予測できるのである。
一体どうして、そんなことが可能なのか？ 普通は、現在を思い描き、その可視化を時間に沿って先へ走らせることで予測する。惑星の摂動を考慮する、太陽系の精密なモデルが欲しいなら、主要な天体すべてのモデルから始め、そのモデルを一段階ずつ時間に沿って先へ走らせなければならない。
より単純な問題には、時刻Tの未来を計算する作業量が、Tにかかわらず同じになる閉形式の解がある場合もある。一枚の硬貨がテーブルに載り、一分ごとに裏返る。最初は表を見せている。百分後、どちらの面を見せているだろう？ もちろん、この問いに答えるため、途中の百段階を可視化したのではない。結果を予測でき、途中のどの段階にも使える閉形式の解を用いたのである。
しかし、友人が私を車で空港へ送るとき、どの中間段階の予測にも使えない奇妙なモデルによって、結果を正しく予測できる。私のモデルには、初期条件を入力する必要さえない――街のどこから出発するかを知る必要がない！
友人については、何かを知る必要がある。友人が、私に飛行機へ間に合ってほしいと望んでいることを知らなければならない。友人が（そう望むなら）私を空港まで車で無事に送れるほど優れた計画者であると認めなければならない。これらは友人の初期状態の性質である――途中の曲がり角は予測できなくても、最終目的地を予測できるようにする性質である。
また、友人が無事に運転できるほど街をよく知っていると認めなければならない。これは友人と街の関係、したがって双方の性質と見なせる。だがそれはきわめて抽象的な性質であり、街についても、友人が街について持つ知識についても、具体的な知識を一切必要としない。
これは、私が人生を捧げてきた主題を見る一つの方法である――私たちをこのように奇妙な認識論的位置へ置く、この驚くべき状況である。そして私の仕事は、ある意味で、私たちが持ちうるその奇妙な抽象的知識の正確な形を解き明かすことだと見なせる。その知識によって、行動を知らなくても、帰結を正当に知ることができる。
「知性」は、この驚くべき状況を完全に一般化して記述するには狭すぎる語である。むしろ「最適化過程」と呼びたい。たとえば、生物学的自然選択の研究にも同様の状況が伴う。次に観察される生物の正確な形を、私たちは予測できない。
しかし私自身の専門は、「知性」と呼ばれる種類の最適化過程である。さらに狭く言えば、「友好的AI（Friendly AI）」と呼ばれる特定の種類の知性であり、これについて私は、とりわけ精密な抽象的知識を得られるようになることを望んでいる。