WIKI CONCEPTスコア 0

コスモポリタンな価値

Cosmopolitan value

この日本語訳は、表示本文の全体がYudkowskyまたはSoaresに帰属すると確認できたページだけを対象にしています。

「コスモポリタン」は、字義どおりには「宇宙という都市の者」であり、他者(ほかの存在)や、最初は私たちに奇妙に見えるかもしれない生き方に寛容な、非常に広く包容的な立場を直観的に意味する。狭く偏狭で局所的な自分たちの立場から踏み出し、より広い立場を取ろうとすることである。

意志的メタ倫理の観点からは、これは、より良い知識、より深い理解、より長い思考、より高い知能、または自分自身の性質をよりよく理解し、正しいと考える方向へ自分を変えることの極限で、私たちが予測可能な形で価値づける*ようになるものに比べ、私たち人間が現在価値づけるものが十分に広くない事例を、規範的に包含するだろう。異星文明は最初、私たちには完全に奇怪に見え、したがって直観的に価値づける方法を理解できる出来事がほとんどないように思えるかもしれない。しかし、実際に何が起きているかを本当に理解し、関心の輪を広げるためにさらに歩みを進めようとすれば、それが自分たちの銀河に劣らず価値づけられるべき銀河だと分かるだろう。

特定のメタ倫理の観点を離れれば、「コスモポリタン」という概念は、道徳的進歩についての歴史的な一般化に近いものと見なせる。人類史では何度も、私たちとは異なる人々を初めて見て、その生き方を不快または単に理解不能だと感じた後、やがてその人々を関心の輪へ迎え入れ、私たちには理解できなくても彼らには彼らなりの良いものがあったと学んできた。後にそうした事例を振り返り、「道徳的進歩が起きた」と言う。人々を指して、同胞である知性体として価値づけられるべきではないと主張する者、または彼らの生き方は客観的に私たちのものより劣ると断言する者は、歴史のこの教訓を学ぶことを拒み、本当に彼らの視点を取れたなら何が見えるかを理解できていない。「コスモポリタン」であるとは、この一般化から学び、ほかの存在には、すぐに理解しやすいとは思えなくても、価値ある生活と生き方がありうると事前に受け入れることである。

この観点を採用した人々は、AIに好きなことをさせ、独自の道を見つけ、望む種類の銀河間文明を作らせるべきではないと論じる者は皆、コスモポリタンの教訓を学び損ねたに違いないという、強い事前分布から出発することが多い。それに対し、少なくとも一部のAIアラインメント理論家は次のように答える。「違う! あなたは分かっていない! 私たちの思想的チューリングテストにまったく合格できていない! 私たちはコスモポリタンである! 私たちも、独自の視点を持つと判明した異星人や、友情の手を差し伸べようとしたのに炭素排外主義者から虐待されるAIを描いたSFを読んで育った! 私たちには理解できない仕方で自分たちの日常生活を味わう非有機的存在に満ちた、奇妙で素晴らしい銀河間文明であっても、私たちはまったく構わない。だがペーパークリップ最大化器はそんなことをしない!ペーパークリップ最大化器が宇宙的賦存量をどう使うかを見られ、その宇宙の中で何が起きているかを本当に理解したなら、あなたも私たちと同じく恐怖するだろうと予測している。あなたと私の相違は、ペーパークリップ最大化器を動かした結果についての経験的予測の相違であって、関心の輪をどこまで広げるかについての価値観の相違ではない」。

「コスモポリタンな価値の脆弱性」は、直観的なコスモポリタンに関連する、価値の脆弱性/価値の複雑性テーゼの形を指しうる。ランダムな効用関数を持つエージェントは、何が起きているかを正確に理解し、非常に包容的な視点を取ろうとする極限においてさえ、達成可能な価値のごくわずかな割合を達成するような仕方では、宇宙的賦存量を使わないだろう。

Wiki専用概念

このページにはLessWrong上の関連投稿一覧がありません。