非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

好感情の破滅的スパイラル

Affective Death Spirals

❦

人間の推論には、自分の大好きな理論が事実をどれほどよく説明しているかを過大評価させる欠陥が、実に、実に、数多くある。化学のフロギストン説は、事前に予測する必要さえなければ、たいてい何でも説明できた。そして、お気に入りの理論で説明する現象が増えるほど、その理論は正しく思えてくる。これほど多くの観察によって裏づけられたではないか? 理論が正しく思えるほど、それに反する証拠を疑いやすくなる。お気に入りの理論が広く当てはまるように思えるほど、さらに多くの説明にそれを使おうとする。

ベルギーがアメリカの銀行制度をひそかに支配しているとか、目に見えない青い霊的な力で空いている駐車スペースを見つけられるとか信じている知り合いがいたら、たぶんその人もこうして始まったのだろう。

(注意して見ていれば、この理論を裏づけるように見える事例がたくさん見つかるはずだ……)

信じ込みと裏づけの正のフィードバック循環は、たしかに恐ろしく、科学でも日常生活でも、多くの誤りを生み出している。

だが、強い好感情、つまりとても気分がよくなる考えから始まる破滅的スパイラルに比べれば、これは何でもない。

世界を救える新しい政治制度。強く、高潔で、賢明な偉大な指導者。胃の不調もがんも治せる驚異の強壮薬。

いっそ三つともまとめて手に入れてはどうだろう? 偉大な大義には偉大な指導者が必要だ。偉大な指導者なら、魔法の強壮薬の一つや二つ、調合できるはずだ。

ハロー効果とは、魅力や強さなど、何か一つよい特性を認めると、知性や勇気など、ほかのよい特性もより高く評価するようになることだ。筋が通らなくても、あるいは筋が通らないどころの話ではなくても。

一つのよい特性が、ほかのあらゆるよい特性の評価を高める? まるで、核分裂するウラン原子が中性子を放出して、ほかのウラン原子も核分裂させるようではないか。

弱い好感情は臨界未満で、際限なく増幅して制御不能にはならない。魅力的な人はより正直に見え、そのために、たぶんさらに魅力的に見える。だが、実効中性子増倍率は1未満なのだ。あくまで比喩だが。共鳴は物事を少し混乱させるが、やがて消える。

その「偉大なる何か」に強烈な好感情が結びついていると、共鳴はあらゆる場所に及ぶ。共産主義を信奉する人は、マクドナルドで買われるハンバーガーの一つひとつに、マルクスの英知を見る。真の労働者の楽園なら手に入ったはずなのに逃した昇進の一つひとつに、気に入らない結果に終わる選挙の一つひとつに、「間違った方向に偏っている」新聞記事の一つひとつにも。「偉大な思想」を使ってまた別の出来事を解釈するたびに、その思想はますます裏づけられる。気分はさらによくなる。正の強化だ。そしてもちろん、悲しいことに、何かが心地よく感じられると、私たちはそれをいっそう信じたくなる。

「偉大なる何か」があまりに心地よいため、それをもっと心地よく感じる機会を探し求め、毎日新しい出来事の解釈に使うようになると、好感情の共鳴は、ピンポン球を載せたネズミ捕りでいっぱいの部屋のようになる。

「幸せのアトラクター」「過剰な正のフィードバック」「賞賛同期ループ」、あるいは「楽しさのハエ取り紙」と呼んでもいい。個人的には「好感情の破滅的スパイラル」という呼び名が好きだ。

次回は、この好感情の破滅的スパイラルにどう抵抗するか。(ヒント:何であれ二度と称賛しないと決めることでも、称賛するものを安全で狭く限定された領域に閉じ込めることでもない。)