Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

偽装された問い

Disguised Queries

奇妙な工場で奇妙な仕事をしていると想像してほしい。あなたの仕事は、謎めいたベルトコンベアから物体を取り出し、二つの箱へ仕分けることである。初出勤の日、仕分け主任のスーザンが説明する。青く卵形の物体は「ブレッグ」と呼び、「ブレッグ箱」へ入れる。一方、赤い立方体は「ルーブ」と呼び、「ルーブ箱」へ入れる。

仕事を始めると、ブレッグとルーブは色や形以外にも違いがあると気づく。ブレッグの表面は毛で覆われ、ルーブは滑らかである。ブレッグは触れると少したわみ、ルーブは硬い。ブレッグは不透明で、ルーブの表面はわずかに半透明である。

仕事を始めて間もなく、異様に濃い青色をしたブレッグへ出会う。よく調べると、その色は赤と青の中間である紫色だと分かる。

いや、待て! なぜこの物体を「ブレッグ」と呼んでいるのか? 「ブレッグ」は当初、青く卵形であるものと定義された。実際、青さという条件は「ブレッグ」という名前そのものに現れている。この物体は青くない。必要な条件の一つが欠けている。「ブレッグ」ではなく、「紫色の卵形物体」と呼ぶべきだ。

しかし、たまたまこの物体は、紫色で卵形であるだけでなく、毛に覆われ、柔軟で、不透明でもある。そこで物体を見たとき、あなたは「ああ、変な色のブレッグだ」と思った。確かにルーブではない……そうだろう?

それでも、次にどうすべきか確信を持てない。そこで仕分け主任のスーザンを呼ぶ。

「ああ、そうね、それはブレッグよ」とスーザンは言う。「ブレッグ箱へ入れていいわ」

あなたは紫色のブレッグをブレッグ箱へ投げ入れようとするが、少し立ち止まる。「スーザン」とあなたは言う。「これがブレッグだと、どうして分かるんですか?」

スーザンは妙な顔であなたを見る。「見れば分かるでしょう? この物体は紫色かもしれないけど、ほかのブレッグと同じように、卵形で、毛があり、柔軟で、不透明よ。色の異常がいくつかあるくらい予想しなきゃ。それともこれは、『偽の記憶も全部そろえた状態で、世界が5分前に創造されたのではないと、どうして分かるのか』みたいな、哲学的難問なの? 哲学的な意味で、これがブレッグだと絶対的に確信しているわけではないけど、妥当な推測には思えるわ」

「いや、私が言いたいのは……」あなたは言葉を探して口を止める。「なぜブレッグ箱とルーブ箱があるんですか? ブレッグとルーブの違いは何ですか?」

「ブレッグは青く卵形で、ルーブは赤く立方体よ」とスーザンは辛抱強く言う。「標準の新人研修は受けたでしょう?」

「ブレッグとルーブは、なぜ仕分ける必要があるんですか?」

「ええと……そうしなければ、全部混ざってしまうから?」とスーザンは言う。「一日中座り込み、ブレッグとルーブを仕分けしない私たちへ、誰も給料を払わないから?」

「最初の青い卵形物体を『ブレッグ』だと、もともと誰が決め、どうやって決めたんですか?」

スーザンは肩をすくめる。「赤い立方体を『ブレッグ』、青い卵形物体を『ルーブ』と呼んでも同じことでしょうけど、この呼び方のほうが覚えやすそうね」

あなたは少し考える。「すっかり混ざり合った物体がコンベアから出てきたとしましょう。たとえば、オレンジ色で球形、毛で覆われて半透明、くねくね動く緑の触手を持つ物体です。それがブレッグかルーブか、どうすれば判定できますか?」

「まあ、そこまで混ざり合った物体は誰も見つけたことがないわ」とスーザンは言う。「でも、たぶん仕分けスキャナーへ持っていくでしょうね」

「仕分けスキャナーはどう動くんですか?」とあなたは尋ねる。「X線? 磁気共鳴画像法? 高速中性子透過分光法?」

「ベイズの規則で動くと聞いたけど、どういう仕組みかはよく分からない」とスーザンは言う。「でも口にするのは好きよ。ベイズ、ベイズ、ベイズ、ベイズ、ベイズ」

「仕分けスキャナーは、何を教えるんですか?」

「その物体をブレッグ箱へ入れるか、ルーブ箱へ入れるかを教えるの。だから仕分けスキャナーと呼ぶのよ」

ここであなたは黙り込む。

「ところで」とスーザンは何気なく言う。「知りたいかもしれないけど、ブレッグにはバナジウム鉱石の小さな塊、ルーブにはパラジウムの細片が入っていて、どちらも工業上役に立つのよ」

「スーザン、あなたは純粋な悪だ」

「ありがとう」

どうやらこれで、ブレッグらしさの核心と本質を発見したようだ。ブレッグとは、バナジウム鉱石の塊が入った物体である。青い色や毛に覆われていることなどの表面的特徴は、ある物体がブレッグかどうかを決定しない。表面的特徴が重要なのは、その物体がブレッグかどうか、すなわちバナジウムを含むかどうかを推論する助けになるからだけである。

バナジウムを含むことは必要十分な定義である。すべてのブレッグはバナジウムを含み、バナジウムを含むものはすべてブレッグである。「ブレッグ」は「バナジウム含有物体」を短く言う方法にすぎない。そうだろう?

そう急がないで、とスーザンは言う。ブレッグのおよそ98%はバナジウムを含むが、2%は代わりにパラジウムを含む。正確に言えば(とスーザンは続ける)、青く、卵形で、毛に覆われ、柔軟で、不透明な物体のおよそ98%がバナジウムを含む。普通でないブレッグでは割合が違うかもしれない。紫色のブレッグの95%、硬いブレッグの92%がバナジウムを含む、といった具合である。

さて、青く、卵形で、毛に覆われ、柔軟で、不透明な物体、見える点ではどこまでも普通のブレッグを見つけたとしよう。ほんの遊びで仕分けスキャナーへかけると、スキャナーは「パラジウム」と告げる。珍しい2%の一つだった。これはブレッグだろうか?

最初は、この物体をルーブ箱へ投げ込むつもりなのだから、「ルーブ」と呼んでもよい、と答えるかもしれない。しかし、ほぼすべてのブレッグは明かりを消すと暗闇でかすかに光り、ほぼすべてのルーブは暗闇で光らないことが分かる。しかもバナジウムの代わりにパラジウムを含む、青く、卵形で、毛に覆われ、柔軟で、不透明な物体でも、暗闇で光るブレッグの割合は有意に異ならない。したがって、その物体がブレッグのように光るか、ルーブのように暗いままかを推測したいなら、ブレッグのように光ると推測すべきである。

それでは、この物体は本当はブレッグなのか、ルーブなのか?

一方では、ほかに何を知ろうとも、その物体をルーブ箱へ投げ入れる。他方、推論する必要のある未知の特徴が物体にあるなら、ルーブではなくブレッグであるかのように推論する。赤く、立方体で、滑らかで、硬く、半透明なものの類似性クラスターではなく、青く、卵形で、毛に覆われ、柔軟で、不透明なものの類似性クラスターへ入れるのである。

「この物体はブレッグか?」という問いは、機会が変われば異なる問いの代わりになりうる。

何らかの問いの代わりになっていなければ、それを気にかける理由はない。

無神論は「宗教」か? トランスヒューマニズムは「カルト」か? 無神論は「神についての信念を述べるから」宗教であると論じる人は、本当は(私の考えでは)、無神論で用いられる推論方法が宗教で用いられる推論方法と同程度である、あるいは暴力を因果的に生む確率などの点で、無神論も宗教より安全ではない、と論じようとしている。実際に賭けられているのは、宗教と比較して本質的に異なり、優れているという無神論者の主張である。宗教者は、優越性ではなく相違そのものを否定することで、その主張を退けようとしている(!)。

しかし、そこがアプリオリに非合理な部分ではない。アプリオリに非合理な部分は、議論の途中で誰かが辞書を取り出し、「無神論」または「宗教」の定義を調べるところにある。(そう、無神論者がしても宗教者がしても、同じく馬鹿げている。)辞書が、無神論者の経験的クラスターと神学者の経験的クラスターとが、本当に本質的に異なるかどうかをどうして決められるのか? 言葉の意味によって、どうして現実が変わりうるのか? 境界を引き直しても、モノ空間内の点は動かない。

しかし人はしばしば、定義上の境界をどこへ引くかという議論が、実は経験的クラスター内の大半のものが共有する特徴を推論すべきかどうかをめぐる論争だと、気づいていない……。

ゆえに「偽装された問い」という呼び名なのである。