Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

合理性を検証する三つの水準

Three Levels of Rationality Verification

領土を映す地図を得ること、現実を自分の選好順序の高い領域へ導くよう選択すること、という合理性には、標準的な技能を超え、個々の実践者が単独で知るものを超える、可能な技芸があるのではないかと、私は強く疑っている。もっと多くが可能だという感覚がある。

人々の集団が、これについて有用な何かをできる度合いは、数多くある驚くほど優れた考えを検証するため、どのような方法を考案できるかに圧倒的に依存するだろう。

検証方法を、有用性の三つの水準に階層化することを提案する。

武道の師範が、ときおり他流派の師範と現実的な決闘(理想的には本物の決闘)を行い、勝つか、少なくともあまり頻繁には負けないなら、師範の評判が現実に根ざしているとわかる。師範が完全な見せかけでないとわかる。流派が他流派と定期的に競う場合も同じだ。現実とのつながりを保てるだろう。

一部の武道は、十分に現実的な形で競わないため、その生徒は本物の喧嘩屋を相手に数秒で倒れる。他の武道流派は、カリスマとよくできた物語による場合を除き、まったく競わないため、その師範は自分に気の力があると判断する。この後者には、分裂した精神分析の学派も含められる。

したがって、カリスマやよくできた物語以外の何らかの現実的な試練へ、評判を根ざそうとする基本的な一歩だけでも、活動分野全体に途方もなく有益な効果をもたらす。

しかし、それだけではまだ科学を得られない。科学には、方法Aの適用百回と方法Bの適用百回を検証し、結果に統計を用いることが必要になる。実験再現可能であり、再現されなければならない。これには、蓄積した技法と強さをすべて使う師範同士の現実的な決闘だけでなく、無作為に割り当てた代替方法で教えられた生徒へ実施できる、標準的な測定が必要である。

幸福研究の分野は、多かれ少なかれ、「1から10までの尺度で、今どれほど気分がよいですか?」と尋ねることが、幸福を測る他の考えに照らし、統計的に十分な妥当性を持つ測定だと気づいたことで作られた。そして懐疑論がどれほどあっても、百人へ尋ねて結果を平均すれば、これは一部の物事を測るため実際にかなり有用な尺度らしい。

しかし、より幸福な人を権力ある地位へ就けたい——幸福な人へ金を払い、他の人をより幸福にする訓練を行わせたい、または最も幸福な人をヘッジファンドで雇いたい——としよう。すると、単に「あなたはどれほど幸福ですか?」と尋ねるより、攻略しにくい検査が必要になる。

組織を築けるほど優れた検証方法というこの問題は、現代人間社会のあらゆる水準にある巨大な問題だ。SATを使い、名門大学への入学を管理するなら、他の学術的潜在能力とは相関しなくなる形で、SATだけを勉強してSATを攻略できるだろうか? 大学へ学位授与権を与えるなら、不合格者を出さない動機を持つだろうか?(習得した技能を検証する課題、それゆえ学位授与権は、教育を行う機関から分離すべきだということは、死ぬほど明白だと思うが、ここでは立ち入らない。)ヘッジファンドが20%の収益を掲げるとき、本当に指数よりそれだけ優れているのか、それとも下落相場で爆発するプットを売っているのか?

攻略できる検証方法があると、分野全体が攻略へ適応し、目的を失う。大学は、授業に耐えられるかの検査へ変わる。高校は州全体の試験へ向けて教えることしかしない。ヘッジファンドは収益を高めるためプットを売る。

一方——組織で用いる検証方法が完全でなくても、私たちは技術者を教えることに成功している。それなら、合理性技能を検証するため、攻略に少なくとも少しは抵抗する、どのような完全または不完全な方法を使えるだろうか?

(雑音の大きい測定でも、十分な数の被験者を無作為に割り当て、分散が打ち消されると期待できれば、実験では使える。しかし、特定の個人を検証するという組織上の目的には、雑音の小さい測定が必要である。)

そこで今、あなたへ問う。合理性技能をどう検証するか? 三つの水準のどれであれ? どうか案を自由に出してほしい。困難で高価な測定でも、他の尺度を検証する黄金基準になりうる。公に知られないほうがよい測定を提案するなら、自由に[email protected]へメールしてほしい(もちろん、それはその方法の重大な欠点だが)。愚かな考えから優れた考えが生まれることもある。優れた考えを思いつけないなら、愚かな考えを思いついてほしい

評判、実験、組織。

各水準で優れた解決策を見つけることが、研究分野全体を何のために役立てられるか——何を成し遂げると望めるか——を決める。これは「重大で重要な基礎的問題」の一つである。だから——

考えよ!

追伸:他人の考えを見る前に、自分でも熟考してほしい。ここでは広い範囲を覆う必要がある。)