いろいろな会話で何度も言っていることを、書き留めておきます。
「世界はかなり破滅に近づいているようだ」という問題に、どうすれば力を貸せるか探しているなら、私からの助言はこうです。私たち全員が大ばか者になっているところを探してください。
みんなが思い悩んでいる問題なのに、自分の中のどこかでは「こんなの、普通に解けるじゃないか」と思う。そんなところを探してください。
運営が下手だったり、どうしようもなく不手際だったりして、自分のどこかが「自分ならもっとうまくできる」と思うところを探してください。
そして、もっとうまくやってください。
具体例として、デヴァンシュの話をしましょう。昨年、彼は私のところへ来て、こんなことを言いました。「ちょっと待って。あなたたちの話だと、エリエザーは他の誰もしないようなアラインメントのアイデアを生み出していて、でも並外れて体力がないせいでそれが制限されているわけだよね。まだ受けさせていない医学的な検査がいくつも思いつくんだけど。あなたたち、ばかなの？」。私は「はい、まったくそのとおり。ぜひ検査して。お金は要る？」という感じでした。
そこに大きな期待をかけているわけではありませんが、とにかく試してみる価値はあります！ そして、こういう姿勢こそが、実際に何かを試すこと自体につながるのです。私たちはもっと物事がちゃんと行われる世界に住んでいて、ばかばかしくて明白に見える案なら、どれもすでに試されているはずだ、と思い込むのではなく。
ポール・クリスティアーノが、少なくとも私には内部的に筋が通って見える研究計画を持てている理由についても、私の理解は基本的に同じです。私から見ると、彼はこんなふうに考えています。「いや、わからないよ。これを解ける自信はないけど、解けないともはっきりしていないと思う。それに、試すのが当然に思えることがたくさんあるのに、他の誰もろくに目を向けていない。だから試しているんだ」。世界にこう向き合うことは、実りをもたらしうると思います。
シャード理論の人たちもそうです。彼らのアイデアは基本的にうまくいかないと思っていますが、アラインメントの問題に向ける姿勢は評価しています。「待って、みんなばかなんじゃない？ 自分には、単にXをやればアラインメントできるように見えるんだけど」といった姿勢です。
シャード理論の人たちが私たちを救ってくれるとは思いません。大胆に世界を救おうとする人が、全員成功するわけではありません。でも、誰かが本当に私たちを救うとすれば、その人も同じように「いったいどうなっているんだ、みんなばかなのか？」と思う段階を通る可能性は高いと思います。明らかに、とんでもないほど見過ごされていると自分に見える道を、自発的に進み、実りがあるか確かめるのです。
たとえば、さまざまな人の研究提案を読み、それぞれの方法の長所と短所を明示的に比較して、最も根拠がしっかりしていそうな方法に取り組むことと、比べてみてください。それは、どういうわけか他の誰も反応していない目の前の火事を消すというより、机上ではなんとなくよさそうな議論に基づいて、もっともらしい方法を採るという感じです。
わかりません。机上でなんとなくよさそうな活動も、役に立つのかもしれません。でも私は、よい成果の多くは、「ここでは他のみんなが完全にやるべきことをやれていない」と自分のどこかで感じることに取り組む人から生まれると思っています。
ここで勧めている考え方では、みんながまったく不器用で無能になっているところに、目を光らせます。自分でそこに入ってあれこれ手を動かしてみれば、ちゃんとできるかもしれないところです。
私は、そういうところからよい成果が生まれると予想しています。
そんなところが何も見つからなかったら？
それなら、気に病まなくてかまいません。今はただ、役に立つことが見えていないのかもしれません。今のあなたに、大きく貢献できる方法が必ずあるわけではありません。
私自身、今のところ、本当に大きく貢献できる方法は見えていません。目は光らせていますし、ゼロではない程度には役立つかもしれない作業の山を、次々と片づけています。でも、それと、世界が抱える核心的な問題を意味のある規模で解決に近づけることは、混同しないほうがよいと思います。どうすれば後者ができるかわからないのに、やっているふりはしません。
つまり、目を光らせていてください。それはぜひ、そうしてください。でも、この分野で何にも心を引かれず、もう少し理解の混乱を解きほぐして自分で取り組めば、きっともっとうまくやれると感じる部分も自分の中にないのなら、時間を別のことに使うのは、まったく立派な選択です。
目に見えて燃え盛っている火事を、自分なら消せるという生きた実感がないなら、何かにわくわくできる力を育てることや、他の面白いことに取り組むのを勧めます。もちろん、大いに技能を磨いてからなら消せる、という実感でもかまいません。その場合は、技能を磨くことも自分ならできるという実感がある、ということです。
たしかに、ほとんどのことは、世界を破滅から救うことより影響が小さいでしょう。でも、身の回りの世界をよくする、他のいろいろな素晴らしい方法に情熱を持てるなら、存亡リスクと闘う機会が来たときにも、きちんと意欲を感じられるだろうと、私はずっと楽観的になれます。というのも、あなたの心が情熱を箱にしまい込んでいるなら、そうした機会が巡ってきたからといって、その箱の鍵が全部、突然開くわけではないだろうからです。
ロブ・ウィブリンの言葉も参考になります。「インパクトのために進路を追い求めるのではなく、世界で最も重要で、取り組む余地があり、見過ごされている問題について考え、自分の情熱に従おう」。
あるいは、アラインメント研究フィールドガイドの助言もそうです。他人の問いやアイデアを律儀に暗記するのではなく、「自分自身の理解を最優先し」、自分にとって生きた手応えがあり、謎に感じられるものを追いかける。「『この分野に残された未解決の問いは何か』と尋ねるのではなく、『この分野での自分の問いは何か』と尋ねよう」。
基本的に、自分のどこかで「信じている」構想を追っていない人から、大きな変化が生まれるとは思えません。そして、リスクも見返りも小さい、控えめで少しずつの貢献が、ここから私たちを救えるとも思いません。
はっきりさせておきますが、「信じている」とは、必ずしも成功確率が高いと考えていることではありません！ 困難や不確実性に直面しても挑戦し続ける意思がある、という意味でもありません。もちろん、それも役には立ちますが。
言いたいことをうまく表す英語がないのですが、こんな感じです。頭の中で具体的に思い描いてみると、成功を妨げるものが見当たらない。だから、成功するか、とても具体的な教訓を得るかの、どちらかになると思えるのです。
ひと目見るかぎり、自分にはその可能性が開けているように思える。実は何か隠れた理由があって、可能性が開けていないのではと疑うことはあるかもしれません。でも、ここでは、それが本当かどうか試す機会があり、この有望そうなアイデアがなぜうまくいかないのかを学べるかもしれないのです。
（あるいは、そのままうまくいくかもしれません。外から見える兆候では失敗すると予想された多くの場面で、実際にそういうことは起きています。）