❦
初めて自分を「ベイズ主義者」だと認識したときを、人間の記憶らしく、ぼんやり覚えている。誰かが古い確率パズルを、誤った形で出したのだ。
道で数学者に会い、彼女が「子どもが二人いて、少なくとも一人は男の子です」と言ったら、二人とも男の子である確率はいくらか？
この話の正しい形では、数学者が「子どもが二人います」と言い、あなたが「少なくとも一人は男の子ですか？」と尋ね、彼女が「はい」と答える。この場合、二人とも男の子である確率は1/3だ。
だが、間違った形の話では、私が指摘したように、常識的にはこう考える。
数学者に男の子と女の子が一人ずついるなら、「少なくとも一人は男の子」と言う事前確率は1/2で、「少なくとも一人は女の子」と言う事前確率も1/2だ。ほかに選択肢がまったくないときにしか女の子に言及しない、と事前に信じる理由はない。
私はそう指摘し、ベイズの定理で計算して、二人とも男の子である確率は1/2だという答えを得た。その時点で、その規則がベイズの定理と呼ばれると知っていたかは定かでないが、使ったのはそれだった。
すると、ある人にこう言われた。「今のはベイズ的な答えですが、正統的な統計学では1/3です。排除される可能性を除き、残りを数えるだけで、数学者が何を言う確率がいくらかを推測はしません。それを本当に知る方法はないし、主観的すぎますから」
私は答えた。これは完全に自然に出た返答だった。「いったいどういう意味ですか？ 数学者がどの発言をするかに、確率を割り当てずには済みません。あなたは単に確率を1と仮定している。正当化されていないのは、それでしょう」
相手は言った。「ええ、ベイズ主義者はそう言います。でも頻度主義者は、そう考えません」
私は驚いて言った。「ベイズ的でない統計学なんて、どうしてありうるんですか？」
それで、自分が「ベイズ主義者」と呼ばれる種類だと分かった。分かるかぎり、私はそういうふうに生まれた。数学的直感がそうなっていて、ベイズ主義者の言うことはすべて、まったく素直で簡単で、自分も当然そうすると思えた。頻度主義者の言うことは、夢見るクトゥルフの、入り組んだ、歪んだ、狂った冒瀆に聞こえた。魚が水中呼吸を選ばないように、私もベイズ主義者になることを選んだわけではなかった。
だが、これが私の言う「ベイズ主義への目覚め」ではない。初めて「ベイズ主義」を聞いたとき、当然のこととして片づけ、ベイズの定理そのものから先へは、あまり進まなかった。当時はまだ、確率論を法則ではなく道具と考えていた。知能の数学的法則があるとは思わなかった。最良にして最悪の間違いだ。ほとんどのAGI志望者と同じく、エリエゼル2001は手法、方法、アルゴリズムという観点で考え、自分にできる格好いいことを道具箱へ詰め込んでいた。求めていたのは理解ではなく道具だった。ベイズの定理は、驚くほど多くの場合に使える、実にすてきな道具だった。
それから、ヒューリスティックとバイアスに入門した。きっかけは、行動経済学入門のPowerPointから作ったウェブページに偶然出会ったことだ。いくつかの研究結果が、参考文献なしに、さらりと紹介されていた。私は驚き、実際の実験なのか、ただの逸話なのかと、著者にメールで尋ねた。すると、トヴェルスキーとカーネマンの1973年の論文をスキャンして送ってくれた。
恥ずかしいが、本当の始まりはそこでもない。私はそれを、調べることの一覧に入れた。『不確実性のもとでの判断――ヒューリスティックとバイアス』という論文集があるのは知っていたが、見たことはなかった。当時、ネットになければ、それなしで何とかしようと思っていた。ほかにも読むものは山ほどあり、大学図書館も気軽に使えなかった。おそらくメーリングリストでそう言ったのだろう。エミール・ギリアムが私のネット限定主義に腹を立て、その本を買ってくれた。
彼のこの行動は、かなりの得点に値すると見なすべきだろう。
だが、これも私の言う「ベイズ主義への目覚め」ではない。伝統的な合理性についての自分の技能が不十分で、ファインマンに教わったことをするだけでは届かない、新しい科学が外に山ほどあると気づく重要な一歩ではあった。そして、ヒューリスティックとバイアスの研究がベイズを基準に据えるのを見て、考えも進んだ。だが、まだ最後までは届かなかった。
記憶は脆い。思い出すたびに記憶が作り直されること、その脆さの科学を学んでから、私の記憶は人並み以上に脆くなったように思える。ほかの人は、本当にもっとよく覚えているのだろうか。それとも、私以上には覚えていないのに、心のでっち上げる細部を信じているだけなのか。私の推測では、ある種のことについては、本当に記憶がよいのだろう。私は構造化された科学的知識なら覚えやすいが、日常生活のばらばらな混沌は、すぐに消える。
人生のある出来事がなぜ起きたかは知っている。それは覚えられる因果構造だからだ。だが、ときには、何年だったかどころか、どんな順番で起きたかすら思い出せない。
E・T・ジェインズの確率論――科学の論理を読んだのが、自分の愚かさの大きさに気づき、大人の問題に直面していると理解した日の前か後か、定かでない。
だが、決定的だったのは確率論だった。そこには、賢い道具としてでなく、破れば逆説に陥る、不可侵の規則として、確率論が示されていた。直接使うには計算費用が高すぎるからと近似すれば、その妥協がどれほど必要でも、最適より劣ることになる。ジェインズは違う方法で計算し、正当な手法を使えば、必ず同じ答えが出ることを示した。そして他人の違う答えを示し、不当な段階を突き止めた。彼の精密さと逆説は両立しなかった。一つの答えではなく、唯一の正答なのだ。
自分の間違いと、逆説や狼狽へ導いた数々のただの一つの答えを振り返り、これが自分より一段上の水準なのだと思った。
以前自分が出していたような曖昧な答えをもとにAIを作り、その難題を生き延びることは、もはや想像できなかった。
友好的AIについて議論しようとしてきたAGI志望者たちと、彼らのさまざまな友好性の夢に目を向けた。私が質問したその場で考え出すことも多かった！ 頻度主義の統計手法のように、どの二人の案も一致していなかった。何年かこの問題を専業で研究していた私は、その希望に満ちた計画がぶつかる問題を、いくらか知っていた。そして「失敗する理由が分からない」と言うとき、「分からない」のは、自分の無知を映しているだけだと分かった。自分も同じく「良い案に見える」という基準で済ませれば、破滅するだろうと思えた。良い案に見える新しい統計計算を発明する頻度主義者のように。
だが、良い案に見えることも、失敗を想像できないこともしてはならないなら、何ができるのか。
大人の問題に取り組み、生き延びるには、ジェインズのような水準が必要に思えた。「すばらしい案を思いついた」ではなく、「これが唯一の正しい方法であり、理由はこうだ」という水準だ。ジェインズが確率論で達したのと同じだけ、自分の分野に熟達できれば、友好的AIを作ろうとして生き延びることも、少なくとも想像はできた。
頭に、次の一節が浮かんだ。
正しいから、称賛に値するから、高貴だからという理由で、何かをするな。良いことに思えるからという理由で、何かをするな。しなければならず、ほかのどんなやり方でもできないことだけをせよ。1
良さそうなことをするだけでは、道を誤るばかりだった。
そこで私は、すべてを止めた。
そして、何年か前に従っていれば救われたはずの戦略に、今後は従おうと決めた。FAIの設計に、もっと高い基準を課す。良い案に見えることをするのではなく、ほかのやり方ではできないと分かるほど深く理解したことだけをする。
多くを投じた昔の理論は、どれもこの基準を満たさず、近くもなく、そこへ至る道の上にさえなかった。だから、窓から投げ捨てた。
確率論と意思決定理論を学び始め、内省や自己改変のような事柄まで含めるよう、拡張しようとした。
記憶が正しければ、この時点ですでに、認知をベイズ構造の現れとして見始めていた。それも私の言う目覚めの大きな部分だが、これについてはすでに語った。自然主義への目覚めもあった。それも語った。そして、伝統的な合理性は厳しさが足りないと気づき、人間の合理性については、確率論や認知心理学から、もっと多くの着想を得るようになった。
これらをすべて合わせたものが、おおむね、私のベイズ主義への目覚めの物語である。
人生には、きれいな区切りはめったにない。話はまだ続く。
たとえば、精密さは時間を節約してくれると気づいたのは、ジューディア・パールを学んでいたときだ。その前、まだすてきな道具やアルゴリズムを探す状態だったころ、私も非単調論理を少し考えていた。知的システムにおける確率的推論――もっともらしい推論のネットワークを読むと、2その鍵を知らなければ、その場しのぎの仕組みや特殊事例に、どれほど時間を浪費したか想像できた。「しなければならず、ほかのどんなやり方でもできないことだけをせよ」は、無駄になる何か月を救うというより、無駄になる人生の仕事を丸ごと救う時間節約になる。
そして、この高い精密さの基準を自分に課して初めて、多くの重要な問題を本当に考え始めたのだと気づいた。精密に述べるのは難しい。形式的に述べたり、問題にぶつけるための新しい論理を発明したりすることとは、まるで違う。人間は怠惰なので、その不便さを避け、「不可能だ」「時間がかかりすぎる」と言う。5分と本気で試しもせずに。だが、その不便なほど高い基準を課さなければ、何でも許してしまう。実際に考え始められるほど高い基準を見つけるだけでも、難問なのだ！ 一段一段が正しくなければならず、一段の間違いでどこへでも行ってしまう、数学的証明の基準を課すのは大変に思えるだろう。だが、そうしなければ、それまで考えもしなかったまったく新しい問題へつながる、あの小さな不協和音を追わなくなる。
だから今は、精密な基準を課すための英雄的な不便の重荷について、あまり愚痴を言わなくなった。時間も節約できるし、実際、それは問題をそもそも考え始めるための参加料のようなものだ。
不利だけでなく利点もあると気づいたこと、これも「ベイズ主義への目覚め」の一部に数えるべきだろう。
もちろん、話はまだ続く。人生はそういうものだ。少なくとも、私が覚えている部分は。
この歴史から一つ学んだなら、「しまった」と言うのは楽しみにしてよい、ということだ。確かに、将来そう言う見込みがあるとは、今の自分がよだれを垂らす愚か者で、未来の自分は顔をしかめすぎて今の文章を読めないということだ。だが同時に、今の自分には想像もできないジェダイの能力を、将来は身につけるということでもある。恥ずかしいが、生きていると感じる。若いころの自分が完全なばかだったと分かるのは、すでに二十代でも、まだピークを過ぎてはいないということだ。だから未来の私が、今の私をよだれを垂らす愚か者だと気づくよう願おう。今の能力で問題を解く計画は立てているが、ジェダイの能力が増えれば、きっと役立つ。
恐怖と恥ずかしさのその叫び声は、合理主義者がレベルアップするときの音だ。最近、以前ほど速く上がっていないのではと心配することがある。ようやく要領をつかんだからなのか、脳のニューロンが少しずつ死んでいるからなのか、分からない。
敬具、エリエゼル2008。