Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

妙な着ぐるみを着た人間

Humans in Funny Suits

人類は何度も宇宙へ旅立ったが、星々に住んでいたのは、妙な着ぐるみを着た人間と驚くほどよく似た異星人――あるいは少し化粧を施してラテックスをつけた人間、さらには、完全所有権つきのベージュ色の白人そのもの――だった。

  セスタス3号星でゴーンと戦うカーク船長  

Star Trek: The Original Series「Arena」、© CBS Corporation

人間の姿が宇宙の自然な基準形であり、ほかのあらゆる異星種がそこへいくつか修正を施すことで派生するとは、驚くべきことである。

この魅力的な現象を一体何が説明できるのか? もちろん、収斂進化である! これらの異星生命体は、地球上の生命とは完全に独立に、千もの異星の惑星で進化したにもかかわらず、すべて同じ姿になったのだ。

カンガルー(哺乳類)がチンパンジー(霊長類)より私たちに似ていないという事実や、カエル(両生類は、私たちと同じく四肢動物)がカンガルーより私たちに似ていないという事実に惑わされてはならない。カエルよりさらに昔に私たちから分岐した昆虫の目もくらむような多様さに惑わされてはならない。昆虫には脚が六本あり、骨格が外側にあり、異なる光学系を持ち、性行動もかなり異なるということに惑わされてはならない。

真に異質な種なら、私たちと昆虫の違いよりさらに大きく異なるはずだと思うかもしれない。すでに言ったように、惑わされてはならない。異星種が知性を進化させるには、直立した胴体にそれぞれ一つの膝を持つ脚が二本つき、私たちと同じような方法で歩かなければならない。ほら、どんな知性にも手が必要なので、そのために一対の脚を転用しなければならない――そして四本脚の生物から始めなければ、走行歩様を発達させて直立歩行し、手を自由にすることはできない。

……あるいは別の理論として、妙な着ぐるみを着た人間を使うのが楽な逃げ道なのだと考えるべきかもしれない。

だが本当の問題は形ではなく、心である。「妙な着ぐるみを着た人間」は文学的SFファンダムでよく知られた用語であり、直立歩行する四肢のある何かを指すのではない。純粋な水晶でできた角張った生物でも、人間と驚くほどよく似た思考をするなら――とりわけ二十世紀末から二十一世紀初頭の英語圏文化に属する人間と似ているなら――「妙な着ぐるみを着た人間」である。

私は古い映画をあまり見ない。数年前に映画Psycho1960年)を見ていたとき、画面に映る米国人と私の米国の間にある文化的隔たりに驚いた。Psychoに登場する、シャツのボタンをきっちり留めた人物たちは、テレビや映画で出会う、いわゆる「異星人」の圧倒的大多数よりもかなり異質である。

自分の文化と同じではない文化を書くには、自分の文化を特殊な一例として見られなければならない――ほかの文化がすべて出発点としなければならない規範としてではない。歴史を学べば役立つかもしれない――だがそれは、小さな白いページに並ぶ小さな黒い文字にすぎず、生きた経験ではない。一年間、中国やドバイ、あるいはサン人のもとで暮らすほうが、さらに役立つのではないかと思う……忙しくて、私は一度もしたことがない。自分には何が見えていないのだろう(あちらではなく、ここで)と、ときどき考える。

自分の人間性を特殊な一例として見ることは、これよりはるかに難しい。

既知のあらゆる文化で、人間は喜び、悲しみ、恐怖、嫌悪、怒り、驚きを経験するようだ。既知のあらゆる文化で、これらの感情は同じ表情によって示される。次に「異星人」を――ついでに言えば「AI」を――見かけたとき、賭けてもよいが、それが怒れば(そして怒るだろう)、怒りを表す人類普遍の表情を見せる。

私たち人間は、頭蓋骨の下では互いによく似ている――これは有性生殖する種であることに伴う。全員が異なる複雑な適応を使うことはできない。それでは組み立てられない。(異星人は人間や多くの昆虫のように有性生殖するのか? 細菌のように少量の遺伝物質を共有するのか? 菌類のようにコロニーを形成するのか? 彼らの間でも心理的一体性の規則は成り立つのか?)

あなたの祖先が操作しなければならなかった唯一の知性――単に飼い慣らしたり網で捕らえたりするのではなく、複雑な仕方で操作した知性――祖先が詳細にモデル化しなければならなかった唯一の心は、多かれ少なかれ自分と同じように働く心だった。そこで私たちは、自分なら相手の状況でどうするかを問い、自分自身を「他者の心」の立場に置くことで、それを予測するよう進化した。予測されるものが、予測するものと似ていたからである。

「何だって?」とあなたは言う。「他人が自分とまったく同じだなどと仮定していない! 私は悲しくても、相手はたまたま怒っているかもしれない! 相手は私と違うことを信じているし、性格も違う!」こう考えてみよう。人間の脳はきわめて複雑な物理系である。あなたは、それをニューロンごと、原子ごとにモデル化しているのではない。人間の脳と同じほど複雑でありながら、自分と同じではない物理系に出会ったなら、それを解き明かすには、科学者の生涯をいくつも費やすだろう。あなたは、人間の脳がどう働くかを抽象的、一般的な意味で理解しているのではない。脳を一つ作ることもできなければ、あなたが他人の脳を予測するのと同じくらいうまく予測できるコンピュータモデルさえ作れない。

別の人間の脳ほど、物理的に複雑で理解の乏しいものを、少しでも把握しようとできる唯一の理由は、自分の脳を、それを模倣するよう設定するからである。あなたは共感する(同情はしないかもしれない)。自分の脳に、他者の心が持つ怒りの影と、その信念の影を重ねる。「この状況で私ならどうするか?」という言葉を一度も考えないかもしれないが、自分の内側に保つ他者の心の小さな影は、自分の脳内で動く何かであり、相手にも存在する同じ複雑な機構を呼び出し、理解していない歯車を同期させる。自分自身は怒っていなくても、もしあなたがあなたに怒り、あなたがあなたを神なき屑だと信じたなら、あなたはあなたを傷つけようとするだろう、と知っている……。

この「共感的推論」(と私は呼ぶことにする)は、人間には多かれ少なかれ働く。

だが異なる感情を持つ心――自分が一度も感じたことのない感情を感じる心、自分なら感じる感情を感じない心は? それは、自分の脳を相手の脳の立場に置くことでは把握できない。三次元の空間でなく四次元の空間を持つ宇宙で育った異星人を想像せよと言うことはできるが、その異星人と同じように見るよう視覚野を再設定することはできない。異なる感情を持つ異星人について物語を書こうとはできるが、あなたにも私にも、その感情を感じることはできない。

Marx Brothersの映像を見る異星人を想像しよう。その異星人は、ユーモアの感覚に少しでも似たものを一度も思いついたことがないため、何が起きているのかも、なぜそのような感覚経験をわざわざ求めるのかも、まったくわからない。逃したものを気の毒に思ってはならない。あなただって一度もアンテルしたことがないのだから。

こう尋ねるかもしれない。異星人にもユーモアの感覚はあるが、あなたが十分に面白い冗談を言っていないだけでは? これはだいたい、外国で、英語をとても大きな声で、とてもゆっくり話そうとすることに等しい。その外国人にも、あなたの言葉に内在し、言葉から滴り落ちる意味を聞ける内なる霊があり、完全に理にかなった英語の前に立ちはだかる奇妙な障壁を打ち破れるほど大声で話しさえすればよい、という理論である。

笑いが美しく価値あるものになりうると理解することは重要である。たとえ普遍化可能でなく、可能なあらゆる心が持つものでなくても。それは、私たちに固有の特別な部分として、私たちが明日へ与える贈り物となる。それにも価値はありうる。

そうでなければ困る。普遍化可能性は、私があなたのために救い出せないメタ倫理的概念の一つだからだ。人間の間なら普遍化できるかもしれない。だが可能なあらゆる心の間では無理である。

では、自分と同じ感情的構造で動かない心――感情に類するものを持たない心はどうだろう? いや、複雑な機械を作れるほど強力な知的な心には、感情に類する状態が必然的にあるはずだ、などと説明しなくてよい。自然選択は、それ自体に感情がなくても複雑な機械を作る。これこそ真の「本物の異星人」だ――本当にあなたと同じようには働かない最適化過程である。

1960年代以降、生物学における進歩の多くは、進化を擬人化することへの一時停止命令を強制しようとすることから成っていた。それは学界の大きな叩き合いだった。明快な数学に裏づけられた圧倒的な実験的証拠がなければ、正気が勝利していたかどうか、私にはわからない。異質な存在の立場へ自分を置くことを人々にやめさせるのは、長く、困難な、上り坂の苦闘である。私は何年も、AIについてこの戦いを続けてきた。

擬人化は私たちの奥深くに根ざしている。「さあ、今から人間のように考えるのをやめよう!」と決意する単純な意志行為では切除できない。人間性は私たちが呼吸する空気であり、私たちにとっての一般形、素描を始める白い紙である。そして、人間らしく振る舞っているとき、私たちは自分が人間らしく振る舞っているとは考えない。

文学的SFでは、本物の異星人を書けることが作家への真の試験だと、ことわざのように言われている。(自分たちの神秘的な理由で、たまたま筋書きが求めることを何でもする、都合よく理解不能な異星人ではない。)Jack Vanceはこの技芸の偉大な達人の一人だった。Vanceの人間は、異なる文化の出身なら、大半の「異星人」より異質である。(Vanceを一冊も読んだことがない? City of the Chaschから始めることを薦める。)NivenとPournelleのThe Mote in God’s Eyeも、ここでお決まりのように挙げられる。

逆の例もある――そう、かつてあるSF作家(Orson Scott Cardだったと思う)が、テレビSF史上の最低点は、平行進化が、人間とまったく同じ外見を持つだけでなく、英語を話すだけでもなく、米国憲法前文を一語一語、独立に書き直した異星人まで生み出したStar Trekのエピソードだ、と述べるのを読んだ。

これこそ「想像力の大失敗」である。これがSFだけ、あるいはAIだけの問題だと思ってはならない。異質なものを想像できないことは、自分自身を見ることができないことである――自分に固有の性質を理解できないことである。人間という背景に溶け込んだ人間を、誰が見つけられるだろう?