非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

「しまった」と認めることの大切さ

The Importance of Saying “Oops”

❦

エンロン崩壊の経緯をたどった『ザ・スマーテスト・ガイズ・イン・ザ・ルーム(その場で最も賢い男たち)』を読み終えたところだ。この本には、ここに私の「最もふさわしくない書名賞」を授与したい。

エンロンの緩やかな腐敗と突然の崩壊には、驚くには当たらない特徴があった。経営陣の面々は、大きな間違いを犯したと決して認めなかったのだ。第247号の惨事が、実際に方針転換を必要とするほど膨らむと、「うまくいかなくて残念だ。あんなにいいアイデアだったのに。この問題を貸借対照表の上でどう隠そうか」と言った。「今にして思えば、初めから間違いだったのは明白だ」とは言わなかった。「私は愚かだった」とも言わなかった。転機となる瞬間も、思い上がりを砕かれる気づきの瞬間も、根本的な問題を認める瞬間もなかった。破産後、エンロンの最高執行責任者を務め、短期間は最高経営責任者でもあったジェフ・スキリングは、合衆国憲法修正第5条に基づく黙秘権を行使するようにという自分の弁護士たちの助言を退けた。彼は議会で、エンロンはすばらしい会社だったと証言した。

変化がすべて改善とは限らないが、改善には必ず変化が伴う。小さな局所的誤りしか認めなければ、小さな局所的変化しか起こせない。大きな変化への動機は、大きな間違いを認めることから生まれる。

子どものころ、私は科学とSFを半分ずつ糧にして育った。そしてハインラインからファインマンまでを通じて、「伝統的合理性」のお決まりの教えを学んだ。理論は大胆で、反証に身をさらさなければならない。反対の証拠を突きつけられたら、自分の考えを捨てるという英雄的な犠牲を進んで払うべきだ。議論はフェアにしよう。自分を騙さないようにしよう。ほかにも、こうした曖昧な言葉による教えがあった。

伝統的な合理主義の教育は、反対の証拠があればいずれは折れる論者を育てようとする。考えを動かすのに十分な証拠の山が、どこかにはあるはずだ、というわけだ。これは些細なことではない。科学と宗教を分けるものだ。しかし、速さにはあまり重点が置かれない。できるだけ早く抵抗をやめ、証拠を効率よく取り込んで、大切にしている信念を崩すのに必要な反対証拠を最小限にすることには。

私は伝統的合理性のもとで育ち、自分はかなりの合理主義者だと思っていた。ベイズの技法(ラプラス/ジェインズ/トヴェルスキー/カーネマン)に乗り換えたのは、ある出来事のあとだが……まあ、長い話になる。大まかに言えば、伝統的合理性の曖昧なお決まりの言説では、自分が大きな間違いを犯すのを防げなかったと気づいたからだ。

ついに自分の間違いを全面的に認めたあと、私はその恐るべき気づきに至る道のりを振り返った。すると、自分が小さな譲歩を、最小限の譲歩を繰り返していたことがわかった。一ミリずつ嫌々ながら後退し、そのつど自分の間違いをできるだけわずかしか認識せず、耐えられる小さな一口分ずつしか失敗を認めていなかった。単に「しまった!」と叫んでいれば、もっとずっと早く進めたのだと気づいた。

そして思った。自分の水準を引き上げなければならない。

大きな間違いを犯したと認めることには、非常に大きな利点がある。苦痛は伴う。それでも、人生全体を変えることがある。

転機となる瞬間、思い上がりを砕かれる気づきの瞬間を持つことが重要だ。飲み込みやすい一口大の間違いに分割するのではなく、根本的な問題を認めることが。

ドラマに酔いしれて、誤りを認めることを誇りに思うようになってはいけない。最初から正しくできるほうが優れているに決まっている。だが、誤ったのなら、その全体を一度に見抜くほうがはるかによい。快苦だけで考えても、小さな損失をいくつも被るより、一度に大きな損失を被るほうがよい。そうしなければ、自分との戦いを何年も引き延ばすことになる。そうしなければ、エンロンになる。

それ以来、私はほかの人たちが、同じように最小限の譲歩を繰り返し、一ミリずつ嫌々ながら後退するのを見てきた。局所的な間違いで済むなら、決して全体に及ぶ間違いを認めない。一つ一つの誤りから、いつもできるだけわずかしか学ばない。自ら進んで一挙に直せることを、説き伏せられてようやく施す、小さな局所的なつぎはぎに変えてしまう。一つ間違いを認めたあとで、私は愚かだったとは決して言わない。原理的には正しかったとか、うまくいった可能性はあるとか、自分が執着しているものの真の本質は、今でも大切にしたいとか言って、恥ずかしさを最小限に抑えようとする。今この一瞬の誇りを守ることで、また同じ間違いを犯し、また誇りを守らなければならなくなることを確実にしているのだ。

苦い薬は、つらくても一気に丸ごと飲み下すほうがいい。