Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

動機づけられた停止と動機づけられた継続

Motivated Stopping and Motivating Continuation

私は高速・倹約派の見解のいくつかには同意しない――私見では、彼らはレモンからレモネードを作ることが少し多すぎる――が、それでも意思決定理論のどの学派よりも、最も心理学的に現実的なモデルを開発する傾向があるように思える。ほとんどの実験では、被験者に選択肢を提示し、被験者が一つを選び、それが実験結果になる。倹約派は、現実の生活では選択肢を生成しなければならないと気づき、被験者がそれをどう行うか研究した。

同じく、多くの実験が証拠を銀の盆に載せて提示する一方、現実の生活では証拠を自分で集めなければならず、それには費用がかかることもある。そしてどこかの時点で、立ち止まって選ぶのに十分な証拠を得たと決める。家を買うとき、選ぶ家をちょうど十軒与えられるわけではなく、何かを決める許可が出る前に、そのすべてを案内つきで見せられるわけでもない。一軒の家を見て、次の家を見て、互いに比べる。望みを調整し、職場に近い必要が本当はどれほどあるか、実際にいくら払う気があるか考え直す。次にどの家を見るか決める。そしてどこかの時点で、十分な家を見たと判断し、選ぶ。

ギロヴィッチが動機づけられた懐疑動機づけられた軽信を区別したことは、人が信じたくない結論には、信じたい結論より高い基準を課すことを際立たせる。動機づけられた懐疑者は、証拠が結論を受け入れるよう自分に強制するかを問う。動機づけられた軽信者は、証拠が結論を受け入れることを許すかを問う。

心理学的に現実的な探索における、これと似たバイアスとして、動機づけられた停止動機づけられた継続があると私は考える。現在の「最善」の選択肢を選ぶ隠れた動機があると、立ち止まって選び、それ以上の選択肢を検討することを拒む隠れた動機が生じる。現在最善の選択肢を拒む隠れた動機があると、追加の証拠が出るまで判断を保留し、さらに選択肢を生成する隠れた動機が生じる――結論へ到達する代わりにできることを、何でもよいから見つけるために。

統計学史上の大きな醜聞の一つは、この分野の著名な創始者R・A・フィッシャーが、喫煙と肺がんの間に因果的なつながりは確立されていないと言い張ったことである。「相関は因果ではない」と、彼は議会で証言した。喫煙する素因と肺がんになる素因の両方を与える遺伝子を、喫煙者が持っていたのかもしれない。

あるいは、たばこ会社の顧問として雇われていたことが、すでに集まった証拠は結論へ至るには不十分で、探索を続けるほうがよいと判断する隠れた動機を、フィッシャーに与えたのかもしれない。フィッシャー自身も喫煙者であり、1962年に結腸がんで亡くなった。

(人身攻撃的な注記:フィッシャーは頻度主義者だった。確率的因果関係の推論について、ベイズ主義者はもっと合理的である。)

ほかの多くの形の動機づけられた懐疑と同じく、動機づけられた継続も、有徳な合理性に変装しようとすることがある。さらに証拠を集めることに、誰が反論できるだろうか。私はできる。証拠にはしばしば費用がかかり、さらに悪いことに時間がかかる。そして、すでに持っている証拠を統合することを拒むのは、何一つ有徳ではない。後で考えを変えることはいつでもできる。(見かけの矛盾は、次のように解消される。結論をすべて慎重に心から取り除いて、問題について一時間議論することは、さらに2,000万ドルの研究を十年間待つこととは異なる。)

動機づけられた停止について言えば、それは、第三の選択肢が恐れられるあらゆる場所、見たくない明白な反論のある議論を持つあらゆる場所、そしてそのほかの場所にも現れる。行動するだけで気分がよくなる行動方針を追求しているため、計画が実際にどれほど機能したかを調べれば、高い金を払って買った道徳的満足という温かな輝きを壊すのではないかと恐れ、調べたくないときに現れる。信念と予期が同期しなくなるどこにでも現れる。新たな証拠を集めることを恐れる理由ができるからである。

教訓は、探索手続きを(暫定的または永続的に)終えるという決定も、探索手続き自体と同じく、バイアスと隠れた動機の影響を受ける、ということだ。心地よい結論へ到達した後に探索を打ち切りながら、まだ集めていない、速く安価な証拠が大量にあるなら、動機づけられた停止を疑うべきである。訪問できるウェブサイトがあり、検討できる反論への反論があり、あるいは、もっとよい選択肢を考えようと、時計で五分間、目を閉じてもいない。何らかの証拠が気に入らない方向へ傾いているのに、さらに証拠が必要だと判断したなら、動機づけられた継続を疑うべきである。不快なことを何かしなければならなくなる前に必要とするのが、30分後にGoogleで調べるものではなく、すぐには集められないとわかっている高価な証拠なら、なおさらである。