❦
自分を「ベイズ主義者」だと初めて認識したときのことを覚えている（人間の記憶らしく、おぼろげに）。ある人が、昔からある確率のパズルを不適切な形で出した直後だった。
道で数学者に出会い、彼女が「私には二人の子どもがいて、少なくとも一人は男の子です」と言ったとき、二人とも男の子である確率はいくらか？
この話の正しい形では、数学者が「私には二人の子どもがいます」と言い、あなたが「少なくとも一人は男の子ですか？」と尋ね、彼女が「はい」と答える。このとき二人とも男の子である確率は1/3だ。
だが、不適切な形の話では――と私は指摘したのだが――常識的にこう推論するだろう。
数学者に男の子と女の子が一人ずついるなら、彼女が「少なくとも一人は男の子です」と言う私の事前確率は1/2で、「少なくとも一人は女の子です」と言う事前確率も1/2だ。女の子に言及するのは、それ以外の可能性がない場合だけだと、アプリオリに信じる理由はない。
そこで私はこれを指摘し、ベイズの規則を使って答えを計算し、子どもが二人とも男の子である確率は1/2だという結果を得た。この時点で、ベイズの規則がそう呼ばれることを知っていたかどうかは定かでないが、使ったのはそれだった。
すると、なんと誰かが私にこう言った。「まあ、今のはベイズ主義の答えだけれど、正統派の統計学では答えは1/3だ。本当の確率を知る方法などなく、主観的すぎるのだから、数学者がこれを言う確率、あれを言う確率を推測しようとはせず、排除された可能性を除き、残ったものを数えるだけなんだ」
私は答えた――これは完全にその場で出た反応だった点に注目してほしい――「いったいどういう意味だ？ 数学者が一方の発言をするか、もう一方の発言をするかに確率を割り当てずにはいられない。あなたはその確率が1だと仮定しているだけで、それこそ正当化されていない」
すると相手は、「そう、それがベイズ主義者の言うことだ。でも頻度主義者はそう信じない」と答えた。
私は仰天して言った。「非ベイズ的な統計学なんて、どうして存在し得るんだ？」
このとき私は、自分が「ベイズ主義者」と呼ばれる種類だと知った。私に分かるかぎり、私はそのように生まれた。私の数学的直観にとって、ベイズ主義者が言うことは何もかも、まったく率直で単純であり、自分なら当然そうするというやり方に思えた。一方、頻度主義者の言うことは、夢見るクトゥルフが口にする、手が込み、ねじ曲がり、狂った冒瀆のように聞こえた。魚が水を呼吸することを選ばないのと同じく、私はベイズ主義者になることを選んだわけではなかった。
だが、私が「ベイズ的開眼」と呼ぶのはこのことではない。「ベイズ主義」について初めて聞いたとき、私はそれを当然のこととして分類した。ベイズの規則そのものより奥へは、それほど踏み込まなかった。当時の私はまだ、確率論を法則ではなく道具だと考えていた。知能に数学法則があるとは思っていなかった（私の最良にして最悪の過ち）。ほとんどすべてのAGI志望者と同じく、エリエザー2001は、技巧、手法、アルゴリズム、自分が実行できる格好いいものを詰めた道具箱を作ること、という観点で考えていた。理解ではなく、道具を探していた。ベイズの規則は、驚くほど多くの場合に応用できる、本当に優れた道具だった。
次に、ヒューリスティクスとバイアスへの入門があった。行動経済学を紹介するPowerPointから変換されたウェブページに行き当たったことが始まりだった。そこではヒューリスティクスとバイアスの成果の一部が、参考文献もなく、ついでに触れられていた。私はあまりに驚き、これは実際に行われた本物の実験なのか、それとも逸話にすぎないのかと、著者へメールで尋ねた。著者はトヴェルスキーとカーネマンの1973年の論文をスキャンして送り返してくれた。
恥ずかしい話だが、私の物語は実際にはそこから始まらない。私はそれを調べることの一覧に加えた。「Judgment Under Uncertainty: Heuristics and Biases」という論文集があるとは知っていたが、見たことはなかった。当時の私は、オンラインにないなら、それなしで何とかやっていこうと思っていた。読むものの山にはほかにも大量にあり、大学図書館を簡単には利用できなかった。メーリングリストでこの話をしたに違いない。オンライン限定という私の方針にエミール・ギリアムが苛立ち、その本を買ってくれたからだ。
ここでの彼の行動には、かなりの得点を認めるべきだろう。
だがこれも、私が「ベイズ的開眼」と呼ぶものではない。私の伝統的合理性の腕前が不十分だと悟るための重要な一歩ではあった――リチャード・ファインマンに教えられたことをするだけの範囲を越え、そこには新しい科学が、はるかに多く存在した。そして、ヒューリスティクスとバイアスの研究計画がベイズを最高基準として掲げるのを見て、私の思考は前へ進んだ――だが最後までには至らなかった。
記憶は脆い。そして思い出すたびに記憶は再構築されること――記憶がいかに脆いかを示す科学――を学んで以来、私の記憶は大抵の人より脆くなったようだ。ほかの人は本当にもっと記憶力がよいのか、それとも、実際には私以上に覚えていないのに、心が作り出す細部をただ信じているのか？ ある種の事柄については、ほかの人の記憶力が実際によいのだろうと推測している。構造化された科学知識なら十分簡単に思い出せるが、日常生活のつながりのない混沌は、私からきわめて速く薄れていく。
人生である事柄がなぜ起きたかは分かる――それは覚えていられる因果構造だ。だが、ある出来事がどんな順序で自分に起きたかさえ思い出すのが難しいこともある。まして何年だったかなど、なおさらだ。
E・T・ジェインズの『Probability Theory: The Logic of Science』を読んだのが、自らの愚行の大きさに気づき、自分が大人の問題に直面していると理解した日の前だったか、あとだったか、定かでない。
だが決定打となったのは『Probability Theory』だった。そこでは確率論が、巧妙な道具ではなく、逆説を招くという代価なしには侵せない「規則」そのものとして提示されていた。「規則」は直接使うには計算量が大きすぎるため近似しようとすれば、その妥協がどれほど必要であろうと、やはり最適未満のことをする結果になる。ジェインズは正当な手法を使えば常に同じ答えが生じることを示すため、異なる方法で計算を行った。また、ほかの人々がたどり着いた異なる答えを示し、不当な一歩を突き止めた。彼の精密さと逆説は共存できなかった。一つの答えではなく、その答えだった。
こうして――自分の過ちと、私を逆説と落胆へ導いた、あらゆる「一つの答え」を振り返ったあと――ここに私より上の水準があると気づいた。
以前の私が考えついた「一つの答え」のような曖昧な答えに基づいてAIを作り、その難題を生き延びようとする姿は、もう思い描けなかった。
友好的AI（Friendly AI）について議論しようとしたAGI志望者たちと、彼らが持っていたさまざまな友好性の夢を見た。（私が問いを投げかけると、その場で考案されることも多かった！）頻度主義の統計手法と同じく、どれ一つとして互いに一致しなかった。実際に何年かにわたり、この問題を専業で研究してきた私は、希望に満ちた彼らの計画がぶつかる問題をいくらか知っていた。そして「なぜこれが失敗するのか分からない」と言うとき、その「分からない」は自分の無知を映しているだけだと分かった。私も「それはよさそうな考えだ」という同様の基準を自分に課せば、破滅することが見えた。（よさそうに見える驚くべき新しい統計計算を発明する頻度主義者によく似ている。）
しかし、よさそうに見えることをしてはいけないなら――失敗するところを想像できないことをしてはいけないなら――何ができるのか？
大人の問題に取り組み、生き延びるには、ジェインズのような水準が必要だと思えた。これが私の妙案だではなく、これが、あなたにできる唯一の正しい方法だ（そして理由はこうだ）という水準だ。ジェインズが確率論について達したのと同じ熟達の水準に、自分の分野で達するなら、友好的AIを作ろうと試み、その経験を生き延びることは、少なくとも想像可能だった。
私の心に、ある一節が閃いた。
正義だから、称賛に値するから、高貴だからという理由で、何事もしてはならない。よいことに思えるからという理由で、何事もしてはならない。しなければならないこと、ほかのどんな方法でもなし得ないことだけをせよ。1
よいと思えることをした結果、私は道を踏み外しただけだった。
そこで私は完全停止を宣言した。
そしてそのときから、何年も前に従っていれば私を救えた戦略へ従うと決めた。FAI設計には、よさそうなことをしないという、より高い基準を課す。その方法以外ではなし得ないと分かるほど、十分深い水準で理解したことだけをする。
私があれほど多くを注ぎ込んできた古い理論は、どれもこの基準を満たさなかった。この基準に近づいてすらいなかった。この基準へ至る軌道上にさえなかった。だから私は、それらを窓から投げ捨てた。
私は確率論と決定理論の研究に取りかかり、反映性や自己改変といったものを包摂できるよう拡張する道を探った。
記憶が正しければ、この時点ですでに、認知がベイズ構造を現すものとして見え始めていた。これも私がベイズ的開眼と呼ぶものの大きな部分だ――ただし、これについてはすでに語った。また、すでに語った自然主義的覚醒もあった。そして伝統的合理性は十分に厳格でないと悟ったことで、人間の合理性に関しては、確率論と認知心理学からさらに多くの着想を得るようになった。
こうしたことをすべて足し合わせたものが、多かれ少なかれ、私のベイズ的開眼の物語である。
人生には、整然とした境界があることなど滅多にない。物語は先へ続く。
たとえば、ジューディア・パールを研究していたとき、精密さは時間を節約できると気づいた。それ以前、まだ「気の利いた道具やアルゴリズムを探す」モードにいたころ、非単調論理について自分でも多少考えたことがあった。『Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference』を読みながら、2あの鍵を知らなければ、場当たり的なシステムと特殊な場合にどれほどの時間を浪費していたか想像できた。「しなければならないこと、ほかのどんな方法でもなし得ないことだけをせよ」は、無駄になった数か月ではなく、無駄になった経歴そのものを救う単位で測られる時間の節約へ変換される。
こうして、精密さについてこのより高い基準を自分へ課して初めて、かなり多くの重要な問題について本当に、そもそも考え始めたのだと気づいた。何かを精密に述べるのは難しい――それは何かを形式的に述べたり、問題へ投げつける新しい論理を発明したりすることとは、まったく同じではない。人間は怠惰なので、多くの人がその不便さを避け、「不可能だ」や「時間がかかりすぎる」と言う。五分間さえ本当に試したことはないのに。だがその不便なほど高い基準を自分に課さなければ、どんなこともまかり通らせてしまう。実際に考え始めさせるほど高い基準を見つけることだけでも、難しい問題なのだ！ 一つひとつの段階が正しくなければならず、たった一つの誤った段階でどこへでも運ばれ得る数学的証明の基準を、自分に課すのは骨が折れるように思えるかもしれない。だがそうしなければ、追ってみると、それまで一度も考えなかった、まったく新しい懸念へ実際につながる、あの小さな不協和音を突き止めることはない。
だから今の私は、精密な基準を自分に課すために必要な、不便さという英雄的な重荷について、それほど不平を言わない。時間の節約にもなり得る。実際のところ、それはそもそも問題について考え始めるための、いわば参加料なのだ。
これもまた、私の「ベイズ的開眼」の一部と考えるべきだ――そこには罰だけでなく、利点もあると悟ったことを。
だがもちろん、物語はその後も続く。人生とはそういうものだ。少なくとも、私が覚えている部分では。
この歴史から一つ学んだことがあるとすれば、「しまった」と言うのは楽しみに待つべきことだ。確かに、将来「しまった」と言う見込みは、今この瞬間のあなたが、よだれを垂らす愚か者であり、未来の自分には、あまりの身悶えのため今の自分の言葉を読めないことを意味する。だが将来「しまった」と言うことは、未来のあなたが、現在の自分には存在すら夢想できない新しいジェダイの力を得ることも意味する。恥ずかしい気持ちにはなるが、同時に生きていると感じられる。若いころの自分が完全な馬鹿だったと悟ることは、すでに二十代であっても、まだ頂点を過ぎてはいないことを意味する。だから未来の自分が、今の私はよだれを垂らす愚か者だと気づくよう願おう。現在の能力で問題を解決する計画ではあるが、ジェダイの力を追加でもらえれば、きっと役に立つ。
あの恐怖と羞恥の叫びは、合理主義者がレベルアップするときに立てる音だ。以前ほど速くレベルアップしていないのではないかと、ときどき心配になる。それが、ついに要領をつかみ始めたからなのか、それとも脳内のニューロンがゆっくり死んでいるからなのかは分からない。
敬具、エリエザー2008。