Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

言葉が間違いになりうる37の仕方

37 Ways That Words Can Be Wrong

このエッセイには「言葉を賢明でない仕方で使う37の方法」、あるいは「カテゴリーを最適でない仕方で使うことが認知に負の副作用を及ぼす37の方法」という題のほうがよい、と断言する読者がきっといるだろう。

しかし、この巨大な一覧から得られる主要な教訓の一つは、理論がどうであれ、「私がXをどう選んでも『間違い』にはなりえない」と言うことは、実際にはほとんど常に誤りだということである。人はいつでも間違いうる。理論上は間違うことが不可能なときでさえ、なお間違いうる。自分がするどんなことにも、「刑務所から無料で出られる」カードなど存在しない。それが人生である。

それに、私は「間違い」という言葉を好きな意味に定義できる――言葉が間違っていることなどないのだから。

個人的には、次の場合に「間違い」という言葉を使うのは十分正当だと思う。

  1. そもそも言葉が現実に接続していない。ソクラテスはフラムスターだろうか。イエスかノーか。(短剣の寓話
  2. その論証が機能するとすれば、言葉の定義を変えることで現実に別の道を進ませられてしまう。ソクラテスは人間であり、人間は定義上、死すべき存在である。ならば、人間を死すべき存在ではないと定義すれば、ソクラテスは永遠に生きるのだろうか。(毒ニンジンの寓話
  3. 何らかの経験的命題が「定義上」真だと確立しようとする。ソクラテスは人間であり、人間は定義上、死すべき存在である。それでは、ソクラテスが毒ニンジンを飲めば倒れるはずだと経験的に予測することは、論理的真理だろうか。ソクラテスが倒れない、論理的に可能で自己矛盾のない世界があるように思える――たとえば、生化学上の偶然によって毒ニンジンへの免疫がある世界である。論理的真理はすべての可能世界で真だから、自分がどの可能世界に住んでいるかを決して教えない――そして「定義上」確立できるものはすべて論理的真理である。(毒ニンジンの寓話
  4. たった今示した言語的定義を実際には使わず、無意識に慣習的なラベルを何かへ貼りつける。自分の定義によれば、まずボブが死すべき存在だと観察しない限り、決してボブを「人間」と呼べないはずなのに、ボブが「人間」であることは完全によくわかっている。(毒ニンジンの寓話
  5. 言葉で何かにラベルをつける行為が、自分の行っている反論可能な帰納推論を覆い隠す。これまでに樽から取り出した卵形の物体11個が青く、立方体8個が赤かったとしても、この規則が将来も成り立つと言うことは帰納の問題である。しかし、青い卵を「ブレッグ」、赤い立方体を「ルーブ」と呼べば、樽に手を入れて卵形を感じ、「ああ、ブレッグだ」と思うかもしれない。(隠れた推論としての言葉
  6. 一例を指し示すことができないまま、さらに抽象的な言葉で次々と定義される言葉を使って、言葉を定義しようとする。「赤とは何か?」「赤は色である」「色とは何か?」「ものの性質だ」「ものとは何か? 性質とは何か?」一時停止標識やリンゴを指し示そうとは思いつきもしない。(外延と内包
  7. 外延が内包と一致しない。空にある赤い光を「火星」と同定する自分の働きを、私たちは意識していない。その同定は、「火星」を「戦争の神」と定義しようとしても、おそらく関係なく起こる。(外延と内包
  8. 言語的定義が捉えるのはカテゴリーに共通する特徴のごく一部にすぎないのに、すべてを捉えたかのように推論しようとする。プラトンの学園の哲学者たちが、人間の最良の定義は「羽毛のない二足動物」であると主張したとき、犬儒派のディオゲネスは羽をむしった鶏を見せ、「これがプラトンの人間だ」と宣言したと言われている。プラトン学派はただちに定義を「幅広い爪を持つ、羽毛のない二足動物」へ変えた。(類似性クラスター
  9. 典型性の高い下位クラスターと低い下位クラスターの存在を無視し、カテゴリーへの所属を全か無かとして扱おうとする。アヒルやペンギンは、コマドリやハトほど典型的な鳥ではない。興味深いことに、被験者間実験では、島で病気がアヒルからコマドリへ広がるより、コマドリからアヒルへ広がる可能性のほうが高いと被験者が考えた。(典型性と非対称な類似性
  10. 言語的定義が、意図された似たもののクラスターを指し示すには実用上十分うまく機能しているのに、例外をあげつらう。すべての人間に指が十本あるわけでも、服を着るわけでも、言語を使うわけでもない。しかし、これらの特徴を共有するものの経験的クラスターを探せば、ときどき指が九本の人間がいても騙されないだけの情報を得られる。(モノ空間のクラスター構造
  11. 何かがカテゴリーの成員「である」か「ではない」かを尋ねながら、本当に答えてほしい問いを言えない。「男」とは何か。男の赤ん坊バーニーは「男」だろうか。「正しい」答えは、あなたが本当に答えてほしい問いが「バーニーに毒ニンジンを食べさせるのはよいことか」なのか、「バーニーはよい夫になるか」なのかによって、かなり変わりうる。(偽装された問い
  12. 脳が使っていない統計的推論も可能だと理解せず、直観的に知覚される階層的カテゴリーだけが世界を解析する唯一の正しい方法であるかのように扱う。人間にとって物体が「ブレッグ」か「ルーブ」かに気づくことは、赤い物体は決して暗闇で光らないが、赤い毛を持つ物体はブレッグのほかの特徴をすべて持つと人間が気づくより、はるかに容易である。別の統計アルゴリズムは異なる仕方で働く。(神経カテゴリー
  13. カテゴリーを、現実の脳に実装された推論としてではなく、プラトン的領域から降ったマナであるかのように語る。古代の哲学者は「私の脳は知覚的にソクラテスを『人間』概念との一致として分類する」ではなく、「ソクラテスは人間である」と言った。(アルゴリズムは内側からどう感じられるか
  14. カテゴリーに基づく推論に依存しうる問いをすべて遮蔽したあとでさえ、カテゴリーへの所属をめぐって論じる。物体が青く、卵形で、毛に覆われ、柔軟で、不透明で、発光し、パラジウムを含むと観察したあとに、「これはブレッグか?」と論じて、まだ何を尋ねることが残っているだろうか。しかし、脳のカテゴリー化を行うニューラルネットワークに、ブレッグらしさの推論に対応する(比喩的な)中央ユニットが含まれていれば、なお答えの残った問いがあるように感じられるかもしれない。(アルゴリズムは内側からどう感じられるか
  15. もともと論じたかったことではないのに、議論が定義をめぐるものへ滑っていくのを許す。誰もいない森で倒れる木が「音」を立てるかという論争が始まる前に、まもなく議論することになる二人へ、「音」は「音響振動」と「聴覚経験」のどちらと定義すべきだと思うか尋ねれば、おそらくコインを投げて決めろと言うだろう。議論が始まって初めて、言葉の定義は政治的な意味を帯びる。(定義をめぐる論争
  16. 脳が特定の概念に結びつけるラベルがあるのではなく、意味は言葉それ自体の性質として言葉に備わっていると思う。誰かが「うわっ! トラだ!」と叫んだとき、「ふむ……たった今『タイ』と『ガー』という音節を聞いた。仲間の部族民はそれを、私自身のトラ概念に対応する彼らの内的なものと結びつけており、そしてうわあああばりばり、ごくん」と考える生物を、進化は優遇しないだろう。そこで脳は近道を取り、トラらしさの意味がラベル自体の性質であるように見える。人々は、「音」のようなラベルの正しい意味をめぐって論じる。(意味を感じる
  17. 全陣営がほかの陣営の言いたいことを完全に理解したあとでさえ、言葉の意味をめぐって論じる。ラベルを概念に結びつける人間の能力は、意思疎通のための道具である。人々が意思疎通を望むとき、それを止めるのは難しい。共通言語がなければ、砂に絵を描くだろう。互いに相手の心のなかにあるものを理解したなら、それで終わりである。(一般的用法からの論証
  18. 経験的または道徳的な議論の途中で辞書を取り出す。辞書編集者は用法の歴史家であって、言語の立法者ではない。一般的定義に問題が含まれているなら――「火星」が戦争の神と定義され、「イルカ」が魚の一種と定義され、あるいは「黒人」が人間と別のカテゴリーとして定義されているなら――辞書は標準的な間違いを反映する。(一般的用法からの論証
  19. これまでに存在したどんな議論であれ、その途中で辞書を取り出す。本気で言うが、「無神論」が「宗教」かどうかなどについて、いったいなぜ辞書編集者が権威だと思うのか。何らかの実質的な問題が懸かっているなら、辞書編集者が議論を決着させる究極の知恵にアクセスできると本当に思うのか。(一般的用法からの論証
  20. 理由もなく一般的用法に逆らい、他人が自分を理解することを不必要に難しくする。速く立てプルトニウム、取っ手なしベーグルとともに。(一般的用法からの論証
  21. 複雑な言い換えを使って、推論が行われたという錯覚を作る。「人間」は「死すべき、羽毛のない二足動物」と定義されるのか。それならこう書けばよい。「すべての[死すべき、羽毛のない二足動物]は死すべきものである。ソクラテスは[死すべき、羽毛のない二足動物]である。したがって、ソクラテスは死すべきものである」。こう書くと、さほど立派には見えないだろう。(空のラベル
  22. その言葉を使わないだけで避けられる議論に巻き込まれる。アルバートとバリーが「音」という言葉を使うことを禁じられたなら、アルバートは「誰もいない森で倒れる木は音響振動を生み出す」と言わなければならず、バリーは「誰もいない森で倒れる木は聴覚経験を生み出さない」と言うだろう。言葉が問題を起こすとき、最も単純な解決はその言葉と同義語を取り除くことである。(言葉をタブーにせよ
  23. 整った短い言葉が存在するせいで、考えようとしているものの細部が見えなくなる。「教育」と呼ぶのをやめたとき、学校では実際に何が起こっているのか。「学位」と呼ぶのをやめたとき、学位とは何か。コインが「表」を出したなら、その放射方向はどうなっているのか。「正確」、「正しい」、「表現する」、「反映する」、「意味論的」、「信じる」、「知識」、「地図」、「実在する」、その他どんな単純な語も言えないなら、「真理」とは何か。(記号を実体で置き換える
  24. 言葉は一つしかないのに、現実には異なるものが二つ以上あり、それらについての事実がすべて、区別のない一つの心的なバケツに放り込まれる。キャロルが昨晩赤い服を着ていた、あるいは黒い髪をしていると観察するのは、探偵の日常的な仕事の一部である。また、キャロルは髪を染めているのかもしれないと考えるのも、探偵の日常的な仕事の一部である。しかし、キャロルが二人いて、赤い服を着ていたキャロルと黒い髪を持つキャロルは同じではないかもしれないと考えるには、もっと鋭い探偵が必要である。(圧縮の誤謬
  25. パターンが存在しないところにパターンを見いだし、その次元に沿った類似性がないのに、自分の定義からほかの特徴を収穫する。日本では、A型の人は真面目で創造的、B型の人は奔放で陽気、O型の人は人当たりがよく社交的、AB型の人は冷静で自制的だと考えられている。(カテゴリー化には帰結がある
  26. 含意を含まない定義から論じることで、言葉の含意を忍び込ませようとする。「ウィギン」は、緑の目と黒い髪を持つ人だと辞書で定義されている。「ウィギン」という言葉には、犯罪を犯し、かわいいリスの赤ちゃんを発射する人物という含意も伴うが、その部分は辞書にない。そこで誰かを指してこう言う。「緑の目か? 黒い髪か? ほら、言っただろう、あいつはウィギンだ! 見ていろ、次は銀食器を盗むぞ」(含意を忍び込ませる
  27. 「Xは、定義上、Yである!」と主張する。そのような場合、示した定義に入っていないYの含意を忍び込ませようとしていることが、ほぼ確実である。「人間」を「羽毛のない二足動物」と定義し、ソクラテスを指して「羽毛がない――脚が二本――人間に違いない!」と言う。しかし、本当に気にしているのは、死すべきであるかなど、別の何かである。論争の的がソクラテスの脚の本数なら、相手は単に「ソクラテスの脚が二本って、どういう意味だ? そもそもそこを議論しているんじゃないか!」と答えるだろう。(定義による論証
  28. 「Pは、定義上、Qである!」と主張する。ソクラテスが野原で生物学者たちと一緒に、毒ニンジンへの抵抗力を与えるかもしれない薬草を集めているところを見たなら、「人は定義上、死すべき存在である!」と論じても意味がない。何かが「定義上」真だと主張して論理の万力を締め上げる必要を最も強く感じるのは、デフォルトの推論を疑わせる別の情報があるときである。(定義による論証
  29. 経験的クラスターへの所属を「定義上」確立しようとする。「ヒンドゥー教は、定義上、宗教である!」と言う必要は感じないだろう。なぜなら、まあ、ヒンドゥー教は当然ながら宗教だからである。それは単に「定義上」宗教なのではなく、いわば実際の宗教である。無神論は「宗教」クラスターの中心的な成員に似ていない。だから、無神論が定義上宗教であるという事実がなければ、無神論は宗教ではないと思って世の中を歩き回ることになりかねない。だからこそ、「無神論は宗教である」は定義上真だと指摘し、あらゆる反対を打ち砕かなければならないのである。ほかのどんな仕方でも真ではないのだから。(定義による論証
  30. 自分の定義が、本当はひとまとめにすべきでないものの周りに境界を引く。望むなら、「魚」という言葉をクラゲや藻類ではなく、サケ、グッピー、サメ、イルカ、マスを指すように定義しているのだと主張できる。望むなら、これは単なる一覧であり、一覧が「間違う」ことはありえないと主張できる。あるいは、小細工をやめ、自分が間違いを犯し、イルカは魚の一覧に入らないと認めることもできる。(境界をどこに引くか
  31. 頻繁に記述する必要のないものに短い言葉を使い、頻繁に記述する必要のあるものに長い言葉を使う。短い文が「より単純」に聞こえると心が考えるなら、これは非効率な思考、さらにはオッカムの剃刀の誤用さえ招きうる。「神が奇跡を起こした」と「超自然的な、宇宙を創造する存在が、一時的に物理法則を停止させた」のどちらがもっともらしく聞こえるだろうか。(エントロピーと短い符号
  32. 通常より高い密度が存在しない空間領域の周りに境界を引く。これは、結びついた言葉が、実行可能なベイズ推論のどれにも対応しないことを意味する。緑の目を持つ人が黒い髪を持つ確率も、その逆の確率も高くなく、ほかのどんな特徴も共有していないなら、なぜ「ウィギン」という言葉を持つのだろうか。(相互情報量とモノ空間における密度
  33. 何の理由もないのに、単純でない境界を引く。黒人を除くすべての人間を指すように言葉を定義する行為は、どうにも疑わしく見える。その特定の境界を引く理由を示さず、その場所に「恣意的な」言葉を作ろうとするのは、探偵がこう言うようなものである。「さて、あの孤児たちを殺したのが誰かについて、どちらにせよ、ほんのわずかな裏づけすらありません……しかし、ジョン・Q・ウィッフルハイムを容疑者として検討しましたか?」(超指数的な概念空間と単純な言葉
  34. クラスについての知識を与えたときの条件付き独立性という、ナイーブベイズでうまく近似するために適切な経験的構造を持たない性質について、カテゴリー化を使って推論する。これだけは要約しようなどとはまったく思わない。そのエッセイを読んでほしい。(条件付き独立性とナイーブベイズ
  35. 言葉を、感覚的な作業空間に詳細な絵を描ける複雑な心の絵筆を操る柄として働くラベルではなく、心のなかにある小さなLISP記号のようなものだと考える。「三角形の電球」を思い描いてほしい。何が見えただろうか。(心の絵筆の柄としての言葉
  36. 場所によって異なる意味を持つ言葉を、どの場合にも同じ意味であるかのように使い、何かが変幻自在に移り変わるという錯覚を生むかもしれない。「マーティンはボブに、建物は彼の左側にあると伝えた」。しかし「左」は、周囲の文脈から話者依存の変数を取り出し、それによって評価される関数語である。誰にとっての「左」なのか。ボブか、それともマーティンか。(変数を含む問いの誤謬
  37. 定義が「間違う」ことはありえない、あるいは「言葉は好きなように定義できる!」と思う。この種の態度は、行為の帰結に注意を払ったり間違いを認めたりする代わりに、過去の行為を憤然と弁護することを教える。(カテゴリーを最適でない仕方で使うことが認知に負の副作用を及ぼす37の方法

心のなかですることはすべて効果を持ち、脳はあなたの監督なしに無意識のうちに先へ走る。

「言葉は恣意的だ。言葉は好きなように定義できる」と言うのは、アクセルを床まで踏んで薄い氷の上を車で走りながら、「このハンドルを見る限り、ある放射角が特別である理由はわからない――だから、ハンドルは好きな方向に回せる」と言うのと同じくらい筋が通っている。

どこかへ行こうとしているなら、あるいは単に生き延びようとしているだけでも、言葉、定義、カテゴリー、クラス、境界、ラベル、概念の使い方を支配する三ダースないし六ダースの最適性基準に注意を払い始めるべきである。