非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

安全な守りはない——科学でさえも

No Safe Defense, Not Even Science

❦

私は友人に子ども時代のことを聞かない。人付き合いへの好奇心が乏しいので、これが本当にどれほど一般的な傾向なのかは、わからない。

合理主義者として高みを目指している知り合いのうち、自分から子ども時代を話す人からは、驚くほどよく、こんなことを聞く。「家族がカルトに入っていて、そこから抜け出さなければならなかった」「親の一人が臨床的に精神を病んでいて、その狂気から現実をより分けることを学ばなければならなかった」

正統派ユダヤ教の家庭で育った私の経験は、それに比べればおとなしいものに思える……。だが、同じ結果を生んだ。周囲の人々の正気に対する、根本的で感情的な信頼を壊したのだ。

この根本的で感情的な信頼が壊れるまで、合理主義者としての成長は始まらない。なぜなのかを言葉にするのは難しい。身につける並外れた技能、つまり自分を並外れて合理的にする何かには、他人が左へ行くときに右へ行くことが必要なのかもしれない。世界がまだ正気の場所に見えるなら、それは怖すぎるのかもしれない。

あるいは、普通であることが死ぬほど怖くなければ、わざわざ人並み以上に正気になるために、厳しい努力をしないのかもしれない。

合理主義者を目指す人の多くが、クライオニクスや多世界のような話題で行き詰まるようだと知っている。論理が見えないのではない。論理は見えているのに、こう思うのだ。「いまではこんなに明らかに思えるのに、周囲の誰も信じていない。こんなことが本当に正しいのだろうか?」

そうだ。トウモロコシからエタノールを作り、環境保護活動家が原子力に反対する地球へようこそ。申し訳ない。

(「カルト的な反カルト性」も参照。不安になって安心を求める心境になるのは、決してよいことではない。論理的に聞こえるが、ほかの人に変な目で見られかねないことを信じようとしているためであっても。)

周囲の人々の正気への信頼が壊れた人は、奇妙な考えを、その奇妙さに不安を覚えることなく、中身で評価できるように見える。現在の場所につなぎ止める接着剤が溶け、どこかへ歩いていける。できれば前へ。

私はこれを孤独な異議と呼んだ。本当の異議は、黒い服で学校へ行くようには感じない。道化師の衣装で学校へ行くように感じる。

周りの誰もが「個性的で、自分の意見を持つのはよいことだ。靴の広告がそう言っていた」と考える中で、「選挙の勝者が本当にわかっていると思うなら、なぜIntrade予測市場でただで拾える金を拾わないのか?」と一人で言うには、それが必要なのだ。

もっと正気の人類が住む別のエヴェレット分岐、別の世界なら、事情は違うかもしれない……。だがこの世界では、自分の群れの知恵から感情の深いところで離れる前に、合理主義者として成長し始めた人を、私は見たことがない。

別の世界なら違うかもしれない。違わないかもしれない。人間が実際に、信頼することと考えることを、同時にできるのか、私にはわからない。

かつて、私にも信頼していたものがあった。

エリエザー18は科学を信頼していた。

エリエザー18は、科学という社会的過程に欠陥があることを、きちんと認めていた。エリエザー18は、学界の歩みが遅く、資源配分を誤り、えこひいきし、貴重な異端者を不当に扱うことを、きちんと認めていた。

自分の理想に届かなかった人々の欠陥を認めるのは、その点で都合がいい。理想そのものを疑わなくて済むからだ。

だが、「どの仮説が勝つかは実験的方法が決める」を疑うほど、愚かな人がいるだろうか?

エリエザー18を欺いた理由の一つは、彼の一般的な問題、つまり愚か者の発言に似た考えへの嫌悪だった。エリエザー18は、科学そのものの理想に疑問を呈する人を大勢見ていたが、例外なく全員、暗黒面にいた。科学の理想を疑う人は、決まって、いかさま商品を売ろうとするか、自分のお気に入りの愚かさを批判から守ろうとするか、個人的な諦めを、深く賢く徒労を受け入れた姿に見せかけようとしていた。

数百年の歴史があるほかの理想なら、若いエリエザーはそれを見て、「これは本当に正しいのか、もっとよくできる方法はないか」と考えただろう。だが科学の理想は違った。科学は、考えを変えることを可能にする、最上位の考えだった。疑ってもよいが、疑った後は受け入れるものなのであり、本当に「待て、これは間違っている!」と言うものではなかった。

だから、かつて愚かな考えを思いついたとき、新しい予測があると確かめ、それを実験で検証したいと公言すれば、自分は立派に振る舞っているのだと思った。果たすべき義務は全部果たしたと思っていた。

だから自分は安全だと思った。特定の外的な脅威から安全なのではなく、もっと深い水準で。親を信頼し、親の決まりを全部守った子どものように。

家族や学校の先生の正気を信じる気持ちは、とっくに壊れていた。ほかの子どもたちは、本とできる会話に匹敵するほど知的ではなかった。だが、本は信頼していたのだ。リチャード・ファインマンの言うとおりにすれば安全だ、と信頼していた。その言葉をはっきり考えたことはないが、そう感じていた。

エリエザー23が、あの愚かな理論は正確にはどのように愚かだったのか、伝統的合理性はそこから救ってくれなかったこと、そして科学にとっては、後で間違いを認めさえすれば、その愚かな考えの検証に10年浪費しても、まったく問題なかったことに気づいたとき……。

……それが巨大な感情の激動だった、と言うつもりはない。そういう芝居がかったことは、あまり性に合わない。ただ、自分が愚かだったことが明白になったのだ。

あなたの中で壊そうとしているのは、その信頼だ。あなたは安全ではない。いつだって。

科学でさえ、あなたを救えない。科学の理想は、確率論も認知バイアスも誰も知らなかった何世紀も前に生まれた。科学があなたに求めるものは少なすぎる。善意をあまりに簡単に祝福し、十分には厳しくなく、平均的な科学者に守れる戒めしか課さず、遅さを世の常として受け入れる。

だから、科学の規則に従いさえすれば、自分の推論は弁護できるものになる、と思ってはいけない。

従えば自分の推論が弁護できるものになる、という既知の手続きはない。

すべて満たせば、自分は愚かではなかったとわかる、という既知の戒めの組もない。

最善を尽くして守れば、それによって批判から守られているとわかる、という既知の「推論の道徳」もない。

いや、ベイズの技へ転じても、そうはならない。使うのはずっと難しく、正しくできていると確信することは決してないだろう。

ベイズの技という修練は、科学という修練よりはるかに若い。教科書も、年老いた師も、成功と失敗の歴史書も、定められた確固たる規則も見つからないだろう。認知バイアス、確率論、進化心理学、社会心理学、そのほかの認知科学、人工知能を学び、その知識すべてを自分の修正にどう適用するか、自分で考え抜かなければならない。そこはまだ教科書に載っていないからだ。

自分の心が本当は何をしているか、あなたは知らない。毎週新しい認知バイアスが見つかり、自分がそれを補正できたのか、補正しすぎたのか、決して確信は持てない。

形式的な数学をそのまま適用することは不可能だ。世の懐疑論者が思うほど簡単には破綻しないが、その基礎がどこから来るのかは、いつも確かとは言えない。なぜ宇宙が理解できるほど単純なのか、なぜ何らかの事前確率が通用するのか、あなたは知らない。自分の事前確率がどんなものかさえ知らず、まして、それがよいものかなどわからない。

科学の問題の一つは、本当に怖くなるには曖昧すぎることだ。「考えは実験で検証すべきだ」。それで、どう間違えるというのか?

一方、確率論の数学が目の前に書かれていて、さらに悪いことに、自分には実際に使えないとわかっているなら、難しいことをしようとしていて、十分ありそうなこととして、それを間違って行っているかもしれないと、はっきりする。

だから、信頼することはできない。

そして、ここまで述べたことすべてでも、あなたの信頼を壊すには足りないだろう。規則を破ったからでなく、守ったために、最初の本当の大失敗を経験するまでは、壊れない。

エリエザー18も、科学を疑ってよいという考えはすでに持っていた。もちろん、科学的方法そのものも、疑問を免れるわけではない! 私たちはみな、よい合理主義者ではないか? 何でも疑ってよいのではないか?

エリエザー18が、その可能性を感情のうえで本当には信じていなかったのは、科学に従っていても、実際の現実の人生で、惨めに失敗するということだった。

ああ、もちろん、可能だとは言っていた。エリエザー18は「間違っているかもしれないけれど……」と言い、誤りの可能性をきちんと認めていた。

だが、本当に現実の人生で失敗が起こりうるとは思っていなかった。欠陥は探すもので、実際に見つけるものではなかったのだ。

この感情の違いを言葉で生むのは、ひどく難しい。あなたに本当に警告する方法は、ないのかもしれない。

ここや、ほかの本から学んだことをすべて適用し、できる限り先へ進め、それでもまた裏切られたとわかるまで、あなたの信頼は壊れない。まだ自分は愚かであり、誰もそれを警告していなかったこと、受けた指導からは最も大切な部分がすべて抜けていたこと、従った最も大切な理想のいくつかが、間違った方向へ導いたことがわかるまで——。

——それでもまだ守るものがあり、進み続けなければならず、諦めて、合理性の限界を賢く認めることなどできないなら——。

——そのとき、合理主義者としての旅を始める準備が整う。一人で責任を引き受け、信頼できる守りを一切持たずに生き、かつて教えられたものより高い技を鍛え上げる準備が。

親が頼りにならなくなり、神々が死に、道具が手の中で砕けるまで、誰も本当に道を探し始めはしない。

追記。このエッセイの草稿を見直していて、実際に結論の一つに影響する、かなり弁解しがたい推論の欠陥を見つけた。私はそれを残しておく。私の助言に従えば安全だとか、欠陥は探すだけで見つけてはいけないのだとか、あなたが思っていた場合のために。

そしてもちろん、欠陥を探しすぎて、本当は欠陥でないものを見つけ、自分がどれほど批判的かを確かめて安心するためにそれにしがみつけば、前より悪い状態になるだけだ……。

難しいのは、不確実性とともに生きることだ。欠陥は存在し、重大で、まだ見つけられていないと、腹の底で知りながら生きることなのだ。