非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

合理性を検証する三つの水準

Three Levels of Rationality Verification

❦

私は、いま標準とされている技能や、一人の実践者が単独で知っていることを超えた、合理性の技法がありうると強く考えている。合理性とは、領土を反映する地図を得ること、そして自分の選好順位で上位に位置する領域へ現実を導くように選択することだ。私には、もっとできるはずだという感覚がある。

これに対して、人々が集団としてどこまで役立つことをできるかは、私たちの数々の素晴らしい名案を検証するために、どんな方法を考案できるかに、圧倒的に左右される。

検証方法を、有用性に応じて三つの水準に分けることを提案したい。

あなたが学ぶ武術の師匠が、ときどき他流派の師範と実戦に近い決闘、理想的には本物の決闘を行い、勝つか、少なくとも負けすぎないなら、その師匠の評判が現実に裏付けられていると分かる。まったくの見せかけではないと分かるのだ。あなたの道場が、定期的に他の道場と競う場合も同じである。それなら、本物であり続けられる。

武術の中には、実戦に十分近い形で競わないものがあり、その弟子たちは本物のストリートファイターに数秒で倒される。また、カリスマ性やうまい話以外ではまったく競わず、師範が自分には気の力があると思い込む流派もある。後者には、分裂した精神分析の諸学派も入れられる。

だから、カリスマ性やうまい話とは別の、現実に即した試験で評判を裏付けようとするだけでも、その活動分野全体にとてつもなく良い効果がある。

だが、それだけではまだ科学にはならない。科学には、方法Aを100回適用した結果と方法Bを100回適用した結果を比べ、統計的に分析できることが必要だ。実験は再現可能でなければならず、実際に再現されなければならない。そのためには、異なる教授法を無作為に割り当てて教えた生徒たちに適用できる、標準化された測定が必要だ。師範たちが蓄積した技と力をすべて使って戦う、実戦に近い決闘だけでは足りない。

幸福研究という分野が生まれたのは、おおむね、「今の気分の良さを1から10で表すと、いくつですか?」と尋ねる尺度が、幸福を測るほかの方法と比べて、統計的に十分な妥当性を示すと分かったためだ。そして、さまざまな疑念はあれど、100人に尋ねて結果を平均すれば、少なくともいくつかのことを測るには、実際にかなり役立つ尺度らしい。

だが、より幸せな人を権限のある立場につけたいとしたら、どうだろう。幸せな人に報酬を払い、ほかの人がもっと幸せになるための指導をさせたり、最も幸せな人々をヘッジファンドで雇ったりしたいとしたら。その場合は、単に「どれくらい幸せですか?」と尋ねるよりも、攻略されにくいテストが必要になる。

組織を築くのに十分な検証方法という問題は、現代の人間社会のあらゆる水準にある大問題だ。SATを使って名門大学への入学を管理するなら、SATだけに向けた勉強をすることで、そのほかの学業上の潜在能力とは結びつかない形で、試験を攻略できてしまわないか。大学に学位を授与する権限を与えたら、学生を落第させない動機が生まれないか。(習得された技能を検証する仕事と、それに伴う学位授与の権限は、教える機関から切り離すべきだと私は考えている。あまりに自明なことだが、ここでは立ち入らない。)ヘッジファンドが20%の収益率を発表したら、本当に指数よりそれほど優れているのか。それとも、相場が下落すれば大損するプット・オプションを売っているのか。

攻略して見かけの点を稼げる検証方法があると、分野全体がそれを攻略するように適応し、目的を失ってしまう。大学は、授業に耐えられるかどうかを試す場になる。高校は州統一テスト対策ばかりを教える。ヘッジファンドは収益率をかさ上げするためにプットを売る。

その一方で、組織運営のための検証方法が完璧でなくても、私たちは何とか技術者を育てている。では、完璧であれ不完全であれ、合理性の技能を検証するために、少なくとも少しは攻略によるごまかしに耐えられる、どんな方法が使えるだろうか。

(ノイズの大きい測定でも、十分な人数の被験者を無作為に割り当て、ばらつきがならされると期待できるなら、実験には使える。だが、特定の個人を検証するという組織運営の目的には、ノイズの小さい測定が必要だ。)

そこで、あなたに問いたい。合理性の技能をどう検証するか。三つの水準のどれでもよい。ぜひアイデアを出してほしい。難しく費用のかかる測定でも、ほかの尺度を検証するための基準になりうる。公に知られないほうがよい測定方法の提案があれば、遠慮なく [email protected] にメールを送ってほしい。もちろん、非公開にすべきだということ自体、その方法の大きな弱点ではある。ばかげたアイデアから良いアイデアが浮かぶこともある。だから、良い案が思いつかなければ、ばかげた案を考えよう。

評判、実験、組織運営。

各水準で良い解決策を見つけられるかどうかによって、研究分野全体が何の役に立てるか、どれほどの成果を期待できるかが決まる。これは、大きく重要な根本問題の一つだ。だから――

考えよう!

(追伸: ほかの人のアイデアを見る前に、自分で考えてほしい。ここでは幅広く可能性を探る必要がある。)