非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

最初から動いているものとして作られる

Created Already in Motion

❦

数学者でもあったルイス・キャロルは、かつて「亀がアキレスに言ったこと」という短い対話を書いた。この古い名作をまだ読んでいなければ、今読んでみてもよいだろう。

亀はアキレスに、ユークリッドの第1命題から取った推論の一段階を示す。

(A) 同じものに等しいもの同士は、互いに等しい。

(B) この三角形の二辺は、同じものに等しい。

(Z) この三角形の二辺は、互いに等しい。

亀:「それでは、ある読者がAとBをまだ真だと認めていなかったとしても、この推論のつながりを妥当だと認めることはできるのだろう?」

アキレス:「確かに、そういう読者はいるかもしれない。『もしAとBが真なら、Zは真でなければならない、という仮言命題は真だと認める。だが、AとBが真だとは認めない』と言うかもしれないね。そういう読者は、ユークリッドをやめてフットボールでも始めるのが賢明だろう」

亀:「では、『AとBが真だとは認めるが、その仮言命題は認めない』という読者も、いるのではないか?」

アキレスは、愚かにもこれを認める。そして亀に、もう一つの命題を受け入れるよう求める。

(C) AとBが真なら、Zは真でなければならない。

だが亀は尋ねる。AとBとCは認めるが、Zは認めないとしたら、どうか?

それならば、とアキレスは言う。亀には、もう一つ仮言命題を受け入れてもらわなければならない。

(D) AとBとCが真なら、Zは真でなければならない。

のちに、ダグラス・ホフスタッターはこの議論を次のように言い換えた。

アキレス:「[(A and B) → Z]が成り立ち、さらに(A and B)も成り立つなら、当然Zも成り立つ」

亀:「ああ! つまり、

(A and B) and [(A and B) → Z] → Z,

ということだね?」

ホフスタッターが言うように、「アキレスが推論規則とみなすものは何であれ、亀は即座に、体系内の単なる文字列へと平らにしてしまう。A、B、Zという文字だけを使えば、文字列がどんどん長くなる再帰的なパターンが得られる」。

これは私が「責任を再帰的にたらい回しにする」と呼ぶ悪いパターンだ。それを打ち消す呪文は見つけにくいこともあるが、見つかったときにはたいてい、「たらい回しは今ここで止める」という形をとる。

亀の心には、信念の集まりにすでにXと(X → Y)があるとき、そこにYを加えるという動きが必要だ。この動きがなければ――たとえば石にはそれがない――、Xと (X → Y)と((X and (X → Y)) → Y)を、永遠の終わりまで加え続けても、Yには決してたどり着かない。

この要件を表すために、かつて私の頭に浮かんだ言い回しは、心は最初から動いているものとして作られなければならない、というものだった。どれほど説得力のある議論でも、静的なものに動きを与えることはできない。石の上で実行できるほど説得力のあるコンピュータープログラムなどない。

そして、モーダス・ポネンスを実行する心があったとしても、次のような信念を持つだけでは役に立たない……。

(A) 幼児が線路の上にいるなら、その子を線路から引き離すことはファズルである。

(B) 幼児が線路の上にいる。

……その心が、次の動きも実装していないかぎりは。

動き:信念の集まりに「Xはファズルである」が含まれるとき、Xを行動システムへ送る。

「動き」と私が呼ぶのは、物理的に実装された認知システムが時間とともに変化する際の性質だ。「動き」とは、認知システムの内部で起こることであって、記憶に保存して操作するデータではない。動きとは、その操作自体なのだ。紙に動きを書き記す方法はない。紙はただそこに横たわるだけだからだ。だから、すぐ上にある「動き」と書かれた文章は、動的なものではない。ただ「動き」と書いてあるだけでなく、文章そのものを動的にするには、Javaアプレットを書かなければならない。

言うまでもなく、次の信念を持っていても……。

(C) 信念の集まりに「Xはファズルである」が含まれるなら、「『X』を行動システムへ送ること」はファズルである。

……その心がすでに、「ファズル」とラベルづけされた仮の行動を、実際の身体運動へ変換する振る舞いを実装していなければ、役には立たない。

認知システムの本性について慎重に議論すれば、次のことは証明できるかもしれない……。

(D) 「ファズル」とラベルづけされた計画を行動システムへ送る動きを持つ心は、そうでない心よりもファズルである。

……だが、それでもまだ役には立たない。聞き手の心が、もっとファズルだと信じられる別のソースコードに、今のソースコードを入れ替えるという動きを、前から持っていなければ。

だから、議論で石にファズルさを吹き込むことはできないのだ。