❦
今日は少し疲れている。昨日、ゾンビについての6,000語超のエッセイを書くため、午前3時まで起きていたからだ。だから今日はリチャードへの返信だけをして、翌日に気づいた一つの未処理の問題に決着をつけよう。
（A）リチャード・チャペルはこう書いている。
用語上の注意（不必要な混乱を避けるため）：あなたが「想像可能」と呼ぶものを、私たちの中のほかの者はたんに「見かけ上想像可能」と呼ぶだろう。
「まだ矛盾が見えない」と「これは論理的に可能だ」との隔たりは巨大である（単純に見える一部の場合ですらNP完全である）から、両者には本当に別の言葉を使うべきである。この巨大な隔たりを、ささいな用語の違いという絨毯の下へ掃き込めるほどゾンビ論証が強化されるのだから、「想像可能」と「論理的に可能」とを言い分ける、あるいはさらに目立つ区別さえ設けるのは、実に良い考えだと思う。すでに確立した専門用語を私が選ぶことはできないが、このような場合には、それを使うことを本気で拒むかもしれない。
おそらく私は、ゾンビ擁護者がゾンビ世界を想像することで得る種類の情報には「見かけ上想像可能」と言い、完全なモデルや論理的証明を提示することで確立される種類の情報には「論理的に可能」と言うだろう。目を閉じてゾンビを想像することで得られる情報と、随伴現象説の論証を成り立たせるために必要な情報との隔たりの大きさに注目してほしい。
つまり、あなたの見解はタイプA唯物論の一形態、すなわちゾンビは形而上学的に可能でないだけでなく、（真の意味で）想像可能ですらないとする見解として特徴づけられるだろう。
タイプA唯物論は大きな抱き合わせである。私がその各部分に賛同するのを見るまで、抱き合わせ全体を私に帰属させるべきではない。「意識とは何か？」と問う人は正当な問いを発し、洞察を求める正当な要求を持っていると思う。その答えが必ずしも「ここに、これこれの理由で意識に帰するだろうあらゆる性質を持つ実体がある」という形をとるとは思わない。答えはある程度まで、自分が問いの立て方を間違えていたと気づかせる洞察から成るかもしれない。
これは意識について消去主義をとることではない。それは、（1）何らかの解決策が必ずあるように思え、（2）解決策など絶対にありえないように思え、（3）完全には理解されていない、人間の認知のアドホックなアーキテクチャに大きく依存する方法で論じられている問題に直面したとき、どの種類の洞察を期待すべきかについて、現実的であることだ。
（1）私がわかる限り、あなたはまだゾンビ世界の記述に論理的矛盾を一つも特定していない。ただ、それはどこか奇妙だと指摘しただけである。だが奇妙な可能世界はほかにも多数ある。それは暗黙の矛盾を仮定する理由にはならない。だから、この矛盾とされるものがいったい何のことなのか、私には依然として完全に謎である。
よし、唯物論の立場から明言しよう。
- ゾンビ世界は定義上、観察可能ないかなる現象についても、「によって引き起こされる」または「の結果である」という関係の閉包内にある、私たちの世界のあらゆる部分を含む。とりわけ、私が「我思う、ゆえに我あり」と目に見える形で言う原因を含む。
- 私が内なる気づきを、自分の内なる気づきに集中すると、そのすぐ後に内的語りが「私は内なる気づきを、自分の内なる気づきに集中している」と言うのを経験し、望めばそれを声に出して言うこともできる。
- 直観的には、内なる気づきが内的語りにあることを言わせ、内的語りが唇にあることを言わせるように、たしかに思える。
- 「意識」という言葉に何らかの意味があるなら、それは内なる気づきであるもの、それを引き起こすもの、または私にそれを持っていると言わせるものを指す。
- （3）と（4）から、私が「我思う、ゆえに我あり」と言う原因についてゾンビ世界が閉じているなら、ゾンビ世界は私たちが「意識」と指すものを含むことになる。
- 定義上、ゾンビ世界は意識を含まない。
- （3）が経験的に真である確率はかなり高いと私には思える。したがって、ゾンビ世界が論理的に不可能である経験的確率を、私は高く見積もる。
私の内的語りが「我思う、ゆえに我あり」と言う原因を、意識とは完全に別のものにすれば、ゾンビ世界を救うことはできる。意識が実在するという仮定と組み合わせたとき、私が錯乱していると思ったのはこの部分である。
しかし以上が想像可能なら、ゾンビ世界も想像可能ではないのか？
いや。ゾンビ世界の二つの構成は、「意識」という言葉に異なる経験的指示対象を与えているからである。それは、私たちの世界の「水」がH2Oを意味するのに対し、パトナムの双子地球の「水」がXYZを意味するようなものだ。ゾンビ世界が論理的に可能であるためには、経験世界の働き方についてあなたが知っていた限りで、「意識」という言葉が、私たちの知る意識とは完全に異なる随伴現象を指しえたという指示関係だけでは足りない。ゾンビ世界に欠けているのは意識であって、「意識」ではない。それはH2Oのない世界であって、「水」のない世界ではない。「『意識』が何を意味するにせよ、その指示対象を、全原子を同じ場所に保ったまま私たちの世界から除去できる」という経験的言明を成り立たせるために必要なのは、このことである。
つまり、私の立場はこうである。これは経験的事実である。「意識」という言葉が実際に指すものを踏まえれば、原子を一つも動かさずに意識を除去することは論理的に不可能である。世界から意識ではなく「意識」を除去するというのが何を意味するかについて、私は推測しない。
（2）（性質二元論の見方で）私たちのクオリアが物理世界とあれほどきれいに合致することを「奇跡的」と言うのは誤解を招く。結局、これを保証する自然法則があるからだ。したがって、これは論理的に偶然な、そのほかの法則的必然性（たとえば物理法則の定数）より奇跡的なものではない。
「奇跡的」なのは自然法則そのものである。すでに知られていることによって正当化されないまま仮定される、理論の追加的で、複雑かつ起こりそうにない要素として数えられる。（a）意識ある内的世界、（b）理由もなく意識について語る、機能不全の外的世界、（c）両者が完全に合致することを仮定する。言明（c）は（a）と（b）から帰結しないので、独立した仮定である。
この「奇跡的」という用法が、自然法則に違反するという哲学的意味と衝突することには同意する。私が意味したのは、永久機関への信念のように、見かけ上どこからも来ない、ありそうもなさが出現するという意味だった。したがって、この文脈で言葉選びはまずかった。しかし、これこそ、私たちが奇跡と呼ぶべき種類のものだと直観的に思えるのではないか？ あなたの意識は、自分に意識があるとあなたが言うことを実際には引き起こさない。そう言わせる別の物理的な何かがある。しかし両者を整列させる法則もある——これは実のところ、正確にクラッカーの外観と外向きの振る舞いを持ちながら、クラッカーがキリストの肉の実体を帯びることと同程度に奇抜な出来事である。ただしこれは自然法則が保証しているのだ、おわかりのとおり。
つまり、ゾンビ（または「外側の」）チャーマーズは実際には何も結論しない。彼の発話は無意味だからである。いわんや、彼は根拠なく何かを結論したりしない。彼はただ音を立てているだけである。これは鳥のさえずりと同じくらい、認識論的評価の対象にはならない。
AI設計の立場から見ると、環境と（相互情報量や系統的関係という意味で）相関する自己の内部部分を系統的に洗練させるAIは構築できるはずに思える。その内部部分には、AIが新しい情報——失敬、新しい感覚入力——に遭遇したとき、コックスの定理が要請する内的関係に従うため、私なら「確率」と呼ぶ種類の浮動小数点数が含まれるかもしれない。
AIがたんなるトランジスタ以上のものでない限り——二重の側面を持たない限り——AIに信念はないと、あなたは言うだろう。
これについての私の見解は、「単純な真実」でかなり明確に示したと思う。
私には、純粋な物理的因果性のもの以外に何も持ち出さずとも、領土と系統的な方法で相関する地図を構築することは、かなり単純に思える。AIがテキサスの地図を出力する。別のAIが地図を持ってテキサスへ飛び、高速道路が対応する場所にあるかを調べ、一致を検出すると「真」、不一致を検出すると「偽」とさえずる。これを「テキサスの地図」と呼ぶことを拒んでもよい。しかしAI自身は依然として「真」または「偽」とさえずり、これらのAIがチャーマーズの随伴現象的な内なる中核への信念を見れば「偽」とさえずるだろう。私としては、彼らに同意する。
現実を地図化する機能が、外側のチャーマーズだけによって遂行されるのは明白である。信念表現を生成する仕事全体は、ベイズ的構造が因果的相互作用の中で処理する。内側のチャーマーズには、この一切を随伴現象的な意味で祝福すること以外、何も残されていない。ここで「意味」は、系統的な地図と領土の対応や、その地図で現実を航法する能力とは、完全に無関係な何かである。だから、「正確さ」、いわんや「系統的正確さ」を語るとき、私たちは外側のチャーマーズだけを見ることで、それを決定できるはずに思える。
（B）昨日の文章で、私は次のように書いたとき、一つの仮定を書き落とした。
自己改変AIが、条件Aのもとで「B」と結論する自己の一部を見つめるとする。それは、条件Aが真であるたびに「B」をメモリに書き込む部分である。AIがこの部分を調べ、より大きな宇宙の文脈でそれが（因果的に）どう動くかを突き止め、この部分が系統的に偽のデータをメモリに書く傾向があると判断したなら、AIは明らかなバグを見つけたことになる。そしてAIは、条件Aのもとで「B」を信念プールに書かないよう自己改変するだろう。
...
しかし、外側のチャーマーズにも、反省的に整合した自己検査型AIにも、この神秘的な正しさを信じるためのありうる根拠は一つもない。良いAI設計は、自身が因果システムとしてどのように作動するかについて検証可能な理論を持つ、反省的に整合した知性であるべきだと私は思う。したがって、その因果システムが系統的に正確な信念を生み出し、目標を達成するに至る方法についても、検証可能な理論を持つ。
実は、以上には一つ仮定を追加する必要がある。すなわち、「良いAI設計」（いずれにせよ、私が考えていた種類のもの）は、自身の合理性をモジュール方式で判断するという仮定だ。局所的合理性を強制することで、大域的合理性を強制する。その文脈に照らして局所的かつ系統的に信頼できない部分があるとする。つまり、ある候補となる信念「Bi」と条件Aiについて、局所的条件Aiのもとで「Bi」を信念プールに加える一方、システム自身の内省によれば、Biは真ではない（確率的信念なら正確ではない）ことが示される——局所的条件Aiが真であるときに。すると、これはバグである。この種のモジュール性は、問題を扱いやすくする一つの方法であり、第一世代AIの設計について私が現在考えている方法である。[2013年追記：ここで私が念頭に置いていた実際の概念は、現在では「自己改変AIのためのタイリング・エージェント」の第6節で詳細化され、形式化されている。]
この考えは次のとおりである。因果的に閉じた認知システム——たとえば、因果的な効力を持つ部分だけを用いるようプログラマに設計されたAI、または自身の機能についての理論が完全に検証可能なAI、あるいは哲学論文を書く外側のチャーマーズ——が随伴現象的な内なる自己を持つと信じるなら、そのシステムは何かを系統的に信頼できない方法で行っているはずである。ゾンビ世界でも同じことを結論するからだ。すべての部分がそれぞれの文脈において系統的に局所信頼性を持つ心なら、系統的に大域信頼性を持つだろう。ゆえに、大域的に信頼できない心は、少なくとも一つ、局所的に信頼できない部分を含まねばならない。したがって、局所的信頼性を求めて自己を検査する因果的に閉じた認知システムは、随伴現象的な内なる自己という信念を加えることに関与する手順のうち、少なくとも一つが信頼できないことを発見するはずである。
ゾンビへの不信を導くこの証明を回避しつつ、心が反省的に整合する別の方法があるなら、哲学者はそれを遠慮なく特定してほしい。
ここまですべて特定しなければならない理由は、そうしなければ、AIが自分自身に「信頼できない」と決してラベルを付けられない、極端に安価な種類の反省的整合性が得られてしまうからである。たとえば、AIが自己の一部に、2 + 2 = 5（羊を数えるという周囲の文脈で）と計算するものを見つけたなら、AIはこう考えるだろう。「この部分は機能不全を起こして、2 + 2 = 5と言う……しかし純粋な偶然によって、2 + 2は5に等しい、と私には思える……だからこの部分は系統的に信頼できないように見えるが、そのままにしておいたほうがよい。そうしなければ、この特殊な場合を間違って処理するからだ」。これが、私が局所的な系統的信頼性を強制することで大域的信頼性を強制すると語る理由である。自分の大域的信念を、自分の大域的信念と比べるだけでは、どこにも進めない。
ここには一般的な教訓がある。論証の各段階が局所的に信頼できることによって、論証が大域的に信頼できることを示せ。論証の結論を自分の直観と比べるだけではいけない。[2013年追記：妥当な論理が局所的に妥当であるという事実の議論については、「証明、含意、モデル」を参照。]
（C）匿名の投稿者はこう書いた。
これは本筋から外れた点だが、「n’shama」の語源についてのあなたの説明は間違っていると思う。これは「聞く」ではなく、「息」を表す語に関係している。「聞く」の語根にはアインが含まれるが、n’shamaには含まれない。
これこそ、私の呼ぶ奇跡的に誤解を招く偶然である。N’Shamaという言葉はまったく異なる理由から生まれたのに、私にそれが内なる聞き手を指すと思わせるのにまさにぴったりの響きを持っていた。
あらら。