非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

進み出て、この技を作り上げよう

Go Forth and Create the Art!

❦

この数か月、私は合理性について、いくらか語ってきた。混乱した問いをどうほどくか、本物の推論と見せかけの推論をどう見分けるか、逃げる前に試そうとさせる、強くなりたいという意志について語ってきた。不可能を成し遂げることについても、いくらか語った。

これらはすべて、私自身のプロジェクトを進める中で開発した技法だ。たとえば認知的還元主義の話が多いのは、そのためである。だから、自分で適用しようとしても、同じように役立つとは限らない。人によって結果は違いうる。それでも、「だが、何の役に立つのか?」と尋ねて回る人は、初期の記事をいくつか読み返してみてもよいだろう。たとえば連言錯誤を知り、議論の中で見抜く方法を知ることは、別に秘儀めいてはいない。動機づけられた懐疑が、なぜ自分にとって有害なのかを理解するかどうかが、賢い人が賢いままで終わるか、愚かになって終わるかの、決定的な違いになるのではないかと思う。好感情の破滅的スパイラルは、用心しない人を大勢のみ込む……。

それでも、この「合理性の技」には、あるものよりないもののほうが多いと思う。意志の弱さに打ち勝つことと、集団を協調させることは、私が特に不足を痛感する二つだ。全体として、私は道具的合理性より認識的合理性に重点を置いてきた。さらに、訓練、教育、検証、そしてそれを基に、きちんとした実験科学になるという課題もある。もう少し広く捉えれば、この技を築くことには、よりよい入門書を作る、広報に使うよりよい標語を考える、啓蒙のほかの仕事と協力する、男女比の偏りを分析して対処するといった問題も含められるだろう……。

だが、私がここに示した合理性の小さな断片が……私は願っている……もしかすると……。

合理性というものには、始めることへの障壁があるのではないかと思う。推測と言ってもよい。放っておけば、最初は、積み上げる足場が足りないのだ。あまりに乏しくて、その先にもっと何かがある、見つけ出すべき技があるという手がかりすらない。そして、もっとできるはずだと感じ始めても、即座に道を誤るかもしれない。デイヴィッド・ストーヴが述べるように、ヘーゲルなど、哲学の「偉大な思想家」の多くは、むしろ気の毒に思うべき相手だ。1思考の技を開発しようとする人には、放っておけばそういうことが起きる。見せかけの答えを作ってしまうのだ。

人間の思考の技の一部を作ろうとするとき、あなたがしているのは、私が人工知能でしていたこととそれほど違わない。心についての見せかけの説明、因果関係についての見せかけの説明、謎めいた聖なる言葉、そしてすべてを解決する驚くべき考えに、誘惑されるだろう。

私の使う認識上の、偽物を見破るための手法が、あらゆる個別の問題にとても有効だというわけではない。だが、思考の体系のよしあしを見分けるには、役立つかもしれないと思える。

ここに書き留めた技の一部を学んだ人が、「今取り組んでいる新しい問題Xを解くには、人はどう考えるべきなのか?」と自問し始めたとき、即座に、自動的に道を誤らないことを願う。すぐに逃げ出さず、でたらめに何かをでっち上げず、実験心理学の文献を調べる気になるかもしれない。自分の「すばらしいアイデア」を中心とする好感情の破滅的スパイラルに自動的に陥らず、見せかけの説明と本物の説明を分かつものを、いくらか知っている。セーヴィング・スロー(危機回避判定)を一度は振れるようになる。

まだ合理的でない人が合理性の技を作り始めるのを妨げているのは、もしかすると、この種の障壁なのかもしれない。

そしてその代わりに、人は……フロイト流の精神分析を発明する。あるいは新しい宗教を。あるいは何かを。人が思考について考え始めると、放っておけばそうなる。

私が書き留めた技の一部は、不完全であっても、その最初の障壁を越える助けになればと願っている。積み上げる足場を与え、技が存在することと、それをどう育てるべきかをいくらか示し、即座に道を誤る前に、せめてセーヴィング・スロー(危機回避判定)を一度は振らせたい。

これが私の夢だ。混乱した問いに答えるこの技は、ひどく専門的に見えるが、残りを完成させに行くための、ごく最初に必要なものの一部かもしれない、という夢である。

その仕事は、あなたに託す。たぶん、ともかく。将来、私の関心がどこへ向かうかは約束しない。だが、ほら、ほかにもやらなければならないことがあるのだ。たまたまさらに技を開発することがあっても、それを書き留める時間はないかもしれない。

見せかけの答えや罠について語ってきたことに加えて、心に留めてほしいことが二つある。

第一に、私は自分の技を作るために、複数の源から学んだ。多くの著者を読み、多くの実験を読み、多くの分野から類推を借りた。あなたも、自分が担う技の一部を作るために、複数の源から学ぶ必要がある。合理性のすべてを一人の著者から得ようとしてはいけない。ただし、本当に大事だと感じたリンクや論文を投稿する、ある中心的なウェブサイトがあってもよいかもしれない。そして成熟していく技には、複数の源から学ぶことが必要だ。私の知るかぎり、たった一人から力を得る本物の科学は存在しない。私の知るかぎり、それはまさしくカルトの流儀だ。本物の科学にも英雄はいる。孤独で反抗的な英雄さえいるかもしれない。だが、英雄は必ず複数いる。

第二に、私は、すべての努力に活力を与えるある特定のことを成し遂げようとする中で、自分の技を作った。理想主義的すぎるのかもしれない。世界はこう動くべきだという考えに寄りすぎているのかもしれない。それでも、「さて、意志の弱さってやつにはどう対抗しよう?」と座って考えているだけでは、技は開発できないのではないかと、いくらか思っている。残りの技は、何かをしようとする中で開発するものなのではないか。自分の経験から一般化しすぎでなければ、古い理解をきしませ、壊し、いくつかのことを考え直さざるをえなくするほど難しい仕事の中で、なのかもしれない。だが私が間違っていて、次の段階は、もっと重要だとみなす具体的な用途を必要とせず、「合理性」を直接、具体的に研究することで進むのかもしれない。

以前この原則を、合理性を教えない、世を忍ぶ仮の姿や本業を持つという形で説明しようとしたら、読者からこっぴどく退けられた。「家から出よう」と言うほうが適切だろうか? 私には、本当によい、健全な考えに思える。それでも、勘違いしているのかもしれない。次の技の断片が、実際にはどこから現れるのか、見てみよう。

自分が触れた、不思議で、かけがえのないものに思える何かの一片を、伝え、手渡し、共有するために、私は長い間努力してきた。だが、その中心にあるリズムを、言葉にできたことがあるのかはわからない。音符を聴けば、あなたには見つけられるかもしれない。これらの言葉は言えても、それを生み出す規則や、その規則の背後の規則までは言えない。考えを使うことで、似た仕組みがあなたの中にも生まれることを、願うしかない。奥義を学ぼうとする人間の努力はすべて、放っておけば、合言葉や賛歌や経験から浮いた主張へ滑っていくことを忘れないでほしい。

自分の技を伝えるために、私は長い間努力してきた。今回の試み以前は、ほとんどうまくいかなかった。それまでは片手間の努力にとどまり、おそらくそれに見合う程度の成功しか得られなかった。池に小石を投げるようなものだ。少し波紋ができて、やがて消える……。今回は腰を入れ、大きな岩を投げ込んだ。それが十分大きかったかは、時が教えてくれる。誰かを十分深く揺さぶり、衝撃の波が自ら動き続けるほどだったかどうかを。自力で動く何かを作れたかどうかは、時が教えてくれる。

人々には外へ進んでほしいが、戻ってきてもほしい。あるいは、外へ進みながら、同時にここにとどまってもよい。ここはインターネットで、そういうこともできるのだから。最近、私はLess Wrongで面白いことをいくつか学んだ。そして、何年も意欲を保つことが問題になるなら、ほかの人と話すこと、あるいはほかの人も取り組んでいると目にするだけでも、役立つことは多い。

いずれにせよ、私があなたに少しでも影響を与えたなら、あなたが外へ進み、課題に向き合い、安楽椅子の外のどこかで何かを達成し、新しい技を作ることを願っている。そして、自分がどこから来たかを思い出し、学んだことをほかの人へ知らせるため、こちらへ無線を送ってほしい。

David Charles Stove、『プラトン・カルトとその他の哲学的愚行』(ケンブリッジ大学出版局、1991年)。 ↩︎