❦
「再帰的正当化が底に達するところ」で私は、帰納が過去に機能してきたことを前提に、将来も機能する確率を推理するために帰納を使ってもよいと結論した。あるいは、Occamの剃刀が機能する理由のもっとも単純な説明は、宇宙そのものが根本的に単純だからであると、Occamの剃刀を使って結論してもよいと述べた。
もちろん、推論原理を内省的に適用することを考えたのは私が最初ではまったくない。Chris Hibbertは私の見解をBartleyの汎批判的合理主義と比較した（そうなるかと思っていた）。そこで、私が考える自分の内省観の特徴、他の哲学者の内省観と偶然共有されているかもしれず、いないかもしれない特徴を述べておく価値はあるように思える。
- ここでの私の哲学はすべて、自分のソースコードを書き換える過程で、自分自身に対して自身の推論原理を適用する自己修正型AIをどう作るかを解明しようとしたことから本当に生まれている。だから、帰納を認めるために帰納を使うことを語るたび、私が実際に考えているのは、帰納型AIが、帰納を行う自身の部分の書き換えを検討する場面である。AIにソースコードを書き換えさせ、帰納を使わなくさせたいのでなければ、あなたの哲学は帰納を正当化不可能と認定しないほうがよい。
- AI全般について私が知るもっとも強力な原理の一つは、真の道は概して自然主義的なものだと判明することである。内省的推論においては、AI内部のトランジスタを、環境中に見つかったトランジスタであるかのように扱い、行き当たりばったりの特例としては扱わないことを意味する。これが、「再帰的正当化」で、「私の版のOccamの剃刀はどれほどうまく機能するか？」という問いを、ごく普通の問い、少なくともごく普通の深刻な問いと同じように検討すべきだと私が強く主張する真の根拠である。正しく構築されたAIが、Occam的推論を実装するソースコード部分の修正を沈思するとき、沈思のために何か特別なことをする必要はないと、私は強く疑っている。とりわけ、Occam的推論の使用を避けるために特別な努力をすべきではない。
- 「内省的整合性」や「内省的一貫性」を、それ自体が望ましい性質だとみなすべきだとは思わない。「合理性の十二の徳」と「単純な真実」で述べたように、同じ都市の正確な地図を5枚作れば、地図は必然的に互いと整合する。しかし想像で地図を1枚描き、それを4枚複製すれば、5枚は整合するが正確ではない。同じように、意図的に内省的一貫性を追求している者はおらず、内省的一貫性が信頼性を特別に保証するものでもない。目標は勝つことである。しかし、自分の現在の「勝つ」という概念を用いて勝利という目標を追求しながら、自分のソースコードを変更する者は誰でも、副作用として結局は内省的に一貫する。それは、世界地図を絶えず改良しようと努める人が、副作用として、その各部が互いにより一貫するようになるのを見出すはずなのと同じである。AI用のゴーグルをかけて見れば、自分のソースコードを書き換えるAIは、自分を「内省的に一貫」させようとしているのではない。自分のソースコードの期待効用を最適化しようとしており、それを現在の心が予想する帰結によって行っているのである。
- 「帰納」と「Occamの剃刀」を検討するために帰納とOccamの剃刀の使用を認める一つの方法は、計算能力が許す限り、計算では常に利用可能なすべての情報を使うべきだというE. T. Jaynesの原理に訴えることである。帰納が機能すると考えるなら、自分の力を最大限に用いるため帰納を使うべきであり、それは帰納について考えるときも同じである。
- 一般に、自分を問い質す哲学者に対して自分の哲学をどう正当化するか想像する防御的姿勢と、できる限り真実に近づこうとする攻撃的姿勢は区別する価値があると思う。したがって、Occamの剃刀を疑い、しかも現在の心と知能を使ってそれを検査することが、基礎的信念に疑問を呈するという意味で自分が公平で守りの固いことを示す、という話ではない。むしろOccamの剃刀を検査する理由は、その適用を改良できるか確かめるため、あるいはそれが本当に間違っているかもしれないと懸念しているからである。私は単なる義務感からの疑いを低く評価する傾向がある。
- 自分の基礎をあちこち調べ回るなら、義務感から調査するだけでなく、実際に改良するだろうと私は期待する。私たちの脳は「単純さ」をある直観的な方法で判定するように作られており、稲妻の説明としてThorはMaxwellの方程式より単純に聞こえる。しかし宇宙が実際にどのように働くかをよりよく理解した結果、微分方程式（習得している人間はわずかである）は英雄神話（たいていの部族が宇宙を説明する方法である）より、実際に単純である（情報理論的な意味で）と結論した。こうであるから、Occamの剃刀についての概念を数学にも取り込もうとしてきた。
- その一方、改良された基礎はそれでも日常性へと積み上がらねばならない。2 + 2はそれでも4に等しくなるべきであり、「魚」のような新しく驚異的でわくわくする何かになるべきではない。
- 「なぜ帰納は機能するのか？」と「帰納は機能するのか？」という問いを区別することは、非常に重要だと思う。宇宙そのものがなぜ規則的なのかという理由は、少なくとも今の私たちにとって、それ自体がまだ謎の問いである。ここでは、奇妙な思弁が一時的に必要かもしれない。しかし一方、宇宙は実際に規則的ではない、「帰納は機能するのか？」の答えは「いや！」だと主張し始めたら、あなたは2 + 2 = 3の領域へ迷い込んでいる。自分の哲学を正しくする代わりに、面白くしようと無理をしすぎている。帰納型AIが次の回にどの確率を割り当てるべきかを問うとき、それは「帰納は機能するのか？」と問うている。これこそ、帰納的推論によって答えてもよい問いである。「帰納はなぜ機能するのか？」と問うなら、「帰納が機能するから」と答えるのは循環論法であり、「私が帰納は機能すると信じているから」と答えるのは魔術的思考である。
- メタレベルを経由した正当化のループをぐるぐる巡ることが、循環論法と同じだとは思わない。「循環論法」という概念は対象レベル内で適用されるものであり、対象レベルでは間違いなく悪く、禁じられるべきものだと思う。内省的整合性を禁じるのは良い考えには聞こえない。しかし、その正確な違いをじっくり形式化するところまではまだ行っていない。私の内省理論は、現在編み出そうとしているものであり、すでに手の中にあるものではない。