Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

私の子供時代の死の螺旋

My Childhood Death Spiral

私の両親はいつも、知能の価値を低く見せようとした。そして、最新の研究が勧めるように――努力の価値を高く見せたのか? いや、努力ではない。経験である。確かに、頭のよい幼い子供を叩き伏せるには、うまい具合に手の届かない槌だった。たとえば、私がユダヤ教に疑問を呈したとき、両親はそう言った。私は議論を組み立てようとしたが、おおよそ次のように言われた。「論理には限界がある。年を取れば、経験こそ大切だと理解し、ユダヤ教の真理が見えるようになる。」私は二度と試みなかった。学校で一度だけユダヤ教に疑問を呈しようとし、叩き伏せられ、二度と試みなかった。私は昔から物覚えが遅くなかった。

両親が賢明でないことをしているときは、いつもこうだった。「私たちのほうが経験豊富だから、よく分かっている。年を取れば理解する。成熟と知恵は、知能より大切だ。」

これが、幼いエリエザーを知能至上主義へ集中させる試みだったなら、私が聞いたことのある逆心理学の中で、最も途方もなく成功した例だった。

だが私の両親はそれほど狡猾ではなく、結果も正確には肯定的でなかった。

長い間、この物語の教訓は、経験など純粋で生まれつきの生の知能には敵わないことだ、と私は考えていた。ずっと後、二十代になって振り返り、脳すら完全に発達していない思春期前に、両親より知能が高かったはずはないと気づいた。ほぼ完全な無神論者になっていた十一歳のとき、心の公正な勝負で、両親を打ち負かせたはずはない。私のSAT得点は十一歳としては高かったが、完全に成人した両親のSAT得点には勝てなかっただろう。公正な戦いなら、両親の知能と経験は、思春期前のどんな子供もぺしゃんこにできたはずだ。両親を破ったのは非合理性である。知能を、自らを打ち負かすためだけに使ったのだ。

だがその理解が訪れたのは、私の知能が、さらに長い年月の経験を処理し、蒸留した、ずっと後のことだった。

若い頃に私が引き出した教訓は、知能の価値を低く見せる者は、知能をまったく理解していない、というものだった。私自身の知能は、人生、心、人格のあらゆる側面に影響してきた。振り返れば、それは圧倒的に明白だった。「知能は、知恵や善い人であることと何の関係もない」――では、自己認識も知恵や善い人であることと何の関係もないのか? 自分自身をモデル化するには知能が要る。何より、進化心理学を学べるだけの知能が要る。

私たち自身が配られたカードであり、知能はそのカードの中で最も不公平なものだ。富、健康、生まれた国より不公平で、幸福の設定値より不公平である。人生がそれほど不公平になりうると受け入れるのは難しい。それは楽しい考えではない。「知能はXほど重要ではない」は、その不公平さから目をそらし、向き合うことを拒み、代わりに楽しい考えを持つ方法の一つである。悪いカードを配られた者にとっても、良いカードを配られた者にとっても誘惑だ。お金の重要性を低く見せることが、貧者にとっても富者にとっても誘惑であるのと同じだ。

だが幼いエリエザーは、トランスヒューマニストだった。IQポイントを配るには、単に余分なお金を持って生まれた場合より、ずっと努力が必要になる。それでも、真正面から向き合い、直せる問題だった。たとえ一生かかっても。「強者は弱者へ奉仕するために存在する」と、幼いエリエザーは書いた。「そして他者を同じく強くすることでしか、その義務を果たせない。」私は、SFにおけるランド的・ニーチェ的な傾向に苛立っていた。そしてお分かりかもしれないが、幼いエリエザーには、物事を逆方向へ行きすぎる傾向があった。奉仕するためだけに存在する者はいない。だが私は試みたし、そのことは後悔していない。これを十代の愚かさと呼ぶなら、大人の知恵がそれ以上にうまく働くのを見ることは珍しい。

全員に、もっと知能が必要だった。私を含めて、と注意深く表明した。自分を頂点に置く新世界秩序を宣言するなど、とんでもない――それは紋切り型のSF悪役、さらに悪ければ典型的な十代がすることで、私はそれほど陳腐になることを決して自分へ許さなかった。違う。全員がもっと賢くなる必要があった。私たちは皆、同じ船に乗っていた。立派で高揚させる考えである。

エリエザー1995はSFを読んでいた。道徳と倫理を持ち、より明白な罠は見抜けた。彼がホモ・ノヴィスについて長広舌を振るうことはなかった。自分と他者の間に線を引かなかった。自分を山の頂上へ置く、手の込んだ哲学もなかった。あまりに明白な失敗様式だった。そう、彼は自分も愚かだと呼ぶよう細心の注意を払い、道徳的優越を決して主張しなかった。まあ、今の私もそれほど違う見方はしていないが、もはや自分の倫理をそれほど劇的に演出しない。(あるいは、自分を祝福する瞬間をいつ許すかについて、もっと厳しくなったと言うほうが正確かもしれない。)

このすべてを言うのは、エリエザー1995が、明白な仕方で失敗するほど品位を欠いてはいなかったと強調するためだ。

そしてエリエザー1996は、知能爆発という概念に出会った。それは啓示の雷撃だったか? 私は椅子から飛び上がり、「エウリスコ!」と叫んだか? いや。そこまで芝居がかった人間ではなかった。ただ、人間を超える知能は、単なる物質科学のどれより根本的に未来を変える、と振り返れば圧倒的に明白だった。そして、残りの人生で行うのはこれ、知能爆発を創り出すことだと、ただちに分かった。十一歳の頃に考えていたナノテクノロジーではない。ナノテクは、知能が生み出す道具にすぎない。何と、知能は以前に認識していたよりもさらに強力で、さらに大きな恩恵だったのだ。

これは幸福な死の螺旋だったか? 後に判明したとおり、そうだった。つまり、知能について幸福な偽りの信念まで採用することにつながった。超知能にとって光速の限界が障害になるはずはない、と信じ始めた時点に線を引けるかもしれない。

(それ以来、知能についての私の見解がどう変わったか……見てみよう。最近、人間へ配られた悪い手札について考えると、まず死と老化を考える。誰もが何らかの知能水準を持たなければならず、楽しさの理論の観点から大切なのは、知能が現在のように減るのではなく、時間とともに増えるべきだということだ。気分を良くする巧妙な方法ではないか? だが今では、自分の知能を低く見せるためそれほど努力しない。それも知能へ注意を引く方法にすぎないからだ。話題に上るなら、私は人間としては賢い。そして、それをどう感じるかは私自身の問題である。

知能が世界を持ち上げる梃子だという部分は、変わっていない。ただし知能は、私にとって以前ほど神秘的でなくなり、今では物理学の中に埋め込まれたものとして、より明瞭に見える。超知能は、真の物理法則が許すなら光より速く進むかもしれず、許さないなら進まない。それは考えられないことではないが、私は賭けない。)

だが、本当の道の逸れは後にやって来た。誰かが「なあ、超知能が道徳的になると、どうして分かる? 知能は善い人であることと何の関係もない。それを知恵と呼ぶんだよ、若き神童君」と言った時点である。

すると見よ、幼いエリエザーには、これは単なる否認だと明白に思えた。確かに彼自身が苦労して構築した倫理規範は、知能を使って組み立てられ、知能を基礎としていた。知能が倫理、道徳、知恵と大いに関係することなど、どんな愚か者にも分かる。チンパンジーに囚人のジレンマを説明してみればよい、そうだろう?

ならば確かに、超知能は必然的に超道徳性を含意するだろう。

ゆえに、こう言われる。「親は、子供にするなと言うことをすべて行う。だから、してはいけないと知っているのだ。」