Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

隠れた推論としての言葉

Words as Hidden Inferences

上部が封じられ、手を入れられるほどの穴だけが開いた樽を見つけたとしよう。中へ手を伸ばすと、小さく湾曲した物体へ触れた。取り出してみると青い――青みがかった卵である。次に手を伸ばすと、縁のある硬く平らな何かへ触れ、取り出してみると赤い立方体だった。私は11個の卵と8個の立方体を取り出し、卵はどれも青く、立方体はどれも赤かった。

さて、もう一度手を入れると、卵形の物体へ触れた。引き出して見る前に推測しなければならない。どんな見た目だろうか?

この証拠は、樽の卵がすべて青く、立方体がすべて赤いことを証明しない。それどころか、さほど強い根拠にさえならない。19個では標本数が大きくないからだ。それでも私は、この卵形の物体が青いと推測する。次点の推測は赤である。それ以外を推測しようにも、区別できる色と同じ数だけ可能性がある。そもそも、卵が単色でなければならないと誰が言ったのか? 馬の絵が描かれているかもしれない。

そこで私は、義務的な謙虚さを薄くまとって「青」と言う。私は洗練された合理主義者らしき人間であり、自分の仮定と依存関係を追跡しているからだ。推測はするが、推測していると自覚している……そうだろう?

しかし、大きく黄色く縞模様でネコ科らしい形の物体が暗がりから私へ飛びかかってきたら、私は「うわっ! トラだ!」と思う。「ふむ……大きさ、黄色さ、縞模様、ネコ科らしい形という性質を持つ物体は、以前にも『空腹』や『危険』という性質をしばしば持っていた。したがって、論理的必然ではないものの、経験的には次のように推測するのが妥当かもしれない。うわあああっバリバリ、ごくん」とは考えない。

どういうわけか人間の脳は、この推論を素早く、自動的に、仮定を明示的に追跡せず行うよう適応しているらしい。

そして卵形の物体を(blue eggを縮めて)「ブレッグ」、赤い立方体を「ルーブ」と名づければ、再び手を入れて卵形の物体へ触れたとき、帰納の問題にまつわるあれこれを検討する代わりに、ああ、これはブレッグだと考えるかもしれない。

言葉は好きなように定義できる、というのはよくある誤解である。

もし脳が言葉を、純粋に論理的な構成物やアリストテレス的クラスとして扱い、入れた以上の情報を決して取り出さないなら、これは真だろう。

しかし私たちが意識的に認めるかどうかにかかわらず、脳はカテゴリー化の作業を続ける。「すべての人間は死すべきものである。ソクラテスは人間である。ゆえにソクラテスは死すべきものである」と、古代ギリシャの哲学者は語った。なるほど、死すべきことが「人間」の論理的定義の一部なら、ソクラテスが死すべきものだと観察するまで、ソクラテスを論理的に人間へ分類することはできない。しかし――ここが問題なのだが――アリストテレスは、ソクラテスが人間だと完全によく分かっていた。アリストテレスの脳は、あなた自身の脳がトラやリンゴや環境中のあらゆるものを分類するのと同じほど効率よく、ソクラテスを「人間」のカテゴリーへ置いた。素早く、静かに、意識の承認なしに。

アリストテレスは、ソクラテスが死ぬまでは誰も彼を「人間」と結論できない規則を定めた。それでもアリストテレスと弟子たちは、生きている人々を人間であり、したがって死すべきものだと結論し続けた。人間の顔や人間の身体といった識別可能な性質を見て、その脳が死すべきことなどの推論された性質へ飛躍したのである。

ありがたいことに、自分の心の働きを誤解しても、心が働くことは妨げられない。もし妨げられるなら、アリストテレス主義者は、見た目や手触りがバナナに似ているというだけで、ある物体を食べられると結論できず、餓死しただろう。

こうしてアリストテレス主義者は、昔から人々がしてきたように、部分的な情報に基づいて環境中の物体を分類し続けた。アリストテレス論理学の学生も、まったく同じ仕方で考え続けた。ただし、自分が何をしているかについて、誤った像を手に入れていた。

食料品店員キャロルは死すべきものかとアリストテレス派の哲学者へ尋ねれば、「そうだ」と答えるだろう。どうして分かるか尋ねれば、「すべての人間は死すべきものであり、キャロルは人間である。ゆえにキャロルは死すべきものである」と答えるだろう。それは推測か確実なことかと尋ねれば、(少なくとも16世紀以前なら)確実なことだと答える。人間が死すべきものだとなぜ分かるか尋ねれば、定義によって確立されていると答えるだろう。

アリストテレス主義者はそれまでと同じ人々であり、本来の性質を保っていたが、自分自身の機能について誤った信念を身につけていた。自己認識という鏡を覗き込み、真の自分とは異なる何かを見た。鏡像が誤っていたのである。

あなたの脳は言葉を、経験的帰結をまったく持たない論理的定義として扱ってはいない。だからあなたも、そう扱うべきではない。言葉を作るという行為だけでも、心がカテゴリーを割り当て、無意識に類似性を推論する引き金となりうる。あるいは、類似性の推論を妨げうる。私が二つのラベルを作れば、あなたの心に二つのカテゴリーを割り当てさせられる。「あなた」と「あなたの脳」が別物であるかのように、いま私が言ったことへ気づいただろうか?

頭の中について誤っても、そこにあるものは変わらない。そうでなければ、アリストテレスが脳は血液を冷やす器官だと結論したとき、死んでいたはずである。哲学上の誤りは通常、瞬きするほどのあいだに起きる知覚上の推論を妨げない。

しかし哲学上の誤りは、第一印象を修正しようとして用いる、意識的な思考過程をひどく損ないうる。自分の意識的な監督なしにも脳がカテゴリー化を続けると気づかず、「言葉は好きなように定義できる」と信じているなら、賢く定義を選ぶための努力をしないだろう。