❦
私はこれまで、私たちの信念が実際にはそうである以上に、はるかに強く証拠と合致して見えるようにする合理化のさまざまな形態についてかなり長い時間をかけて繰り返し論じてきた。しかも、この点を過度に強調しているわけではない。この根本的なメタバイアスを克服し、各仮説が本当は何を予測していたのか見抜けるなら、事実についてのほぼあらゆるほかの誤りから立ち直れるだろう。
意思決定理論における鏡像の課題は、ある選択基準が本当はどの選択肢を支持するか見抜くことである。あなたが公言する道徳原則が、全員へノートパソコンを提供せよと求めるなら、その原則は本当に、自分用に宝石をちりばめた100万ドルのノートパソコンを買うことを支持するのか。それとも同じ金でOLPC端末を5,000台発送することを支持するのか。
私たちは、事実上どんな目標からでも、事実上どんな行動でも導かれると論じるコツを進化させたようである。マグネシウムを燃やすとなぜ重量が増えるか説明するフロギストン理論家でさえ、神がすべての子へ向ける無限の愛が、その一部を火刑に処すことをなぜ要求するのか説明する異端審問官にはかなわない。
これに謎はない。政治は祖先環境の一特徴であった。私たちは、部族の利益のためには憎き競争相手ウグラクを処刑すべきだと、最も説得力豊かに論じた者たちの子孫である。（ウグラクの子孫でないことだけは確かだ。）
それでも……ロバート・ムガベがジンバブエの利益だけを気にかけていたなら、大統領を辞任するはずだと証明できるだろうか。その目標からその政策が導かれると論じることはできる。しかし、人間はどんな目標でもどんな政策とも結びつけられると、たった今見たのではなかったか。あなたが正しく、ムガベが間違っていると、どうして分かるのか。（これが妥当な推測である理由はいくつもあるが、ここは話に付き合ってほしい。）
人間の動機は多様で不明瞭であり、意思決定過程は脳と同じく途方もなく複雑である。そして、現実世界の政策をどれか選ぶたび、世界そのものも途方もなく複雑である。足場にできる確固たる一点さえないとき、人間が合理化していること――原則から政策へのつながりを系統的に歪めていること――を、そもそも証明できるだろうか。たった一つの最適化基準が何を含意するかさえ、正確に突き止める方法がないときに。（実際には、職場政治について、人々の意見の不一致が奇妙なほど本人の利害と相関する一方で、本人はそうした利害が働いていることを否定している、と観察するだけでもよい。しかし、ここでも話に付き合ってほしい。）
完全な道徳体系をXMLファイルとして入力すれば、その道徳が私たちの世界へ適用されたときに本当は何を推奨するのか教えてくれる、標準化された、オープンソースの、汎用知能を持つ、帰結主義的な最適化過程はどこにあるのか。選択基準が何を推奨するかを正確に知りうる現実世界の事例が、一つでもあるのか。既知の効用関数を持ち、その最適化を歪めうるほかの雑多な欲望をことごとく除かれた、純粋な道徳推論者はどこにいるのか。その信頼できる出力と、同じ効用関数に対する人間の合理化とを対比できるはずの推論者である。
もちろん、それは旧友の異星の神である！ 自然選択には、慈悲も、愛も、同情も、美的感覚も、政治的党派心も、思想的忠誠も、学問的野心も、リバタリアニズムも、社会主義も、青も緑も、一切含まれないことが保証されている。自然選択は包括的遺伝適応度という基準を最大化するわけではない――それほど賢くはない。しかし自然選択の出力を見るとき、あなたが見ているものは包括的遺伝適応度だけについて最適化された出力であり、米国農業界の利害については最適化されていないことが保証される。
進化科学の事例史――たとえば「群選択主義の悲劇」――では、人間の合理化と、既知の基準に対する純粋な最適化の結果を、直接比較できる。ウィン＝エドワーズは、下位集団の規模を小さくする群選択が、どんな結果をもたらすと思ったか。個体が自発的に繁殖を抑え、全員に十分な食料がある状態だ。実際の実験結果は何だったか。共食いである。
ここで疑問に思うかもしれない。進化科学のこうした事例史は、人間の道徳に本当に関係するのか。人間の道徳は、包括的遺伝適応度が愛、同情、美、治癒、自由、公正などの邪魔をするとき、そんなものはまるで気にかけない。20世紀まで、人間社会には「包括的遺伝適応度」という概念さえなかった。
だが私も問い返そう。単一の単調な最適化基準が生み出す結果を明瞭に見られず、純粋な一音を聞き分ける訓練さえできないなら、どうやってオーケストラを聴くのか。「常に利己的であれ」や「常に政府に従え」が、人間の採用すべき指導原理として貧弱だと、どうやって見抜くのか。包括適応度について遺伝子を最適化することでさえ、社会資源の温存を名目に繁殖機会を犠牲にする生物を生み出すと考えているのなら。
物事を明瞭に見る訓練をするには、単純な練習問題が必要である。