Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

懸念を表明することについて

On Expressing Your Concerns

Aschの同調実験の恐ろしい点は、同じことを言う人でいっぱいの部屋に置けば、多くの人に黒は白だと言わせられることである。希望を持てる点は、たった一人の反対者によって、同調率が劇的に低下したことである。その反対者が、単に別の誤答を述べていただけでもそうだった。そしてうんざりする点は、実験の過程で反対することが学習されなかったことである――一人だけの反対者が集団に味方し始めると、同調率はまた上昇した。

異論を唱える声になることは、集団に本物の利益をもたらしうる。だが(よく知られるように)代償も伴う。そして、その役を続けなければならない。そのうえ、自分が間違っているかもしれない。

最近、私は興味深い経験をした。事前に二人でいくらか計画を立てていた人々と、あるプロジェクトについて話し合い始めたのである。二人はあまりに楽観的だと思い、プロジェクトに安全余裕を設ける類の提案をいくつもした。間もなく、ほかの二人のうち一人を車で家へ送ることになっていた四人目の男が通りかかり、提案を始めた。このとき、集団がどうして自信過剰になるかを突然悟った。私が潜在的な問題を挙げるたび、四人目の男が「心配ない、きっと対処できる!」など、同じように安心させることを言ったからだ。

一人で作業する個人は、自然な疑いを抱く。「自分に本当にXYZができるだろうか?」と自問するだろう。自分自身の能力を疑っても、失礼なところはないからだ。だが、自信のない二人が集団を作ると、好ましく安心させることを言うのが礼儀であり、相手の能力を疑問視するのは失礼である。二人が一緒になると、どちらも一人でいたときより楽観的になる。一方が見せる自信に満ちた安心の言葉がもう一方の疑いを鎮めるが、その相手も最初は同じ内心の疑いを抱いていたとは気づかない。

Aschの同調実験が提起する最も恐ろしい可能性は、全員が、ほかの人の自信に満ちた声に動かされ、自分の疑いを見せまいとして、集団に同意するという亡霊である――ほかの人々も同じ懸念を抑えているとは気づかない。これは「多元的無知」として知られる。

Robin Hansonと私は、合理主義を志す者が正確にはいつ、あえて意見を異にすべきかについて、長年論争している。私は、自分の意見を形成するほか実質的な選択肢はない、という広く支持される立場に傾く。Robin Hansonは、ほかの人だけでなくあなたも、他人のほうが賢明かもしれないと考慮すべきだ、という、より因習打破的な立場を提唱する。さまざまな不一致があるにもかかわらず、私たちは、事実についての不一致が共有知識になっているなら、誰か非合理的でなければならない、という含意にまでAumannの合意定理が拡張される点では同意している。怪訝な目で見られてきたにもかかわらず、私たちは謙虚さについての主張を曲げない。個人主義について皆が言うことは忘れよう。あなたは他人が何を考えているかに注意を払うべきなのだ。

えへん。肝心なのは、合理主義者にとって、集団と意見を異にすることは重大事だということだ。「誰もが自分の意見を持つ権利がある」と手を振って片づけることはできない。

Aschの実験から得るべき最も重要な教訓は、「懸念の表明」と「不一致」を区別することだと思う。ほかの人が口にしていない論点を持ち出すことは、議論の終わりに集団と意見を異にすると約束することではない。

理想的なベイズ主義者が収束する過程は、聞き手が予測できない証拠を共有することを含む。Aumannの合意の結果が成り立つのは、共有知識――あなたが知り、私が知り、あなたが私の知っていることを知り、と続く状態――についてだけである。Hansonの「We Can’t Foresee to Disagree」についての記事または論文は、理想的合理主義者たちが確率推定値へ収束する様子を観察すると、どれほど奇妙に見えるかを描いている。それは市場で二人の交渉者が価格へ収束する様子とは、まったく似ていない。

残念ながら、「懸念の表明」と「不一致」の間には、社会的には大した違いがない。合理主義者の集団なら、違いがあるふりをすると合意するかもしれないが、実際の人間はそのように作られていない。ひとたび声を上げれば、社会的に取り消せない行為をしたことになる。飛び出した釘、快適な集団の調和にある不協和となり、元に戻すことはできない。課題XYZを首尾よく完遂する能力についてあなたが懸念を表明したことで侮辱された人は、最後にあなたが「問題ありません、集団に従います」と言っても、おそらく同じだけ長く恨みを抱く。

Aschの実験は、異論が他者を鼓舞する力が本物であることを示す。Aschの実験は、同調の力が本物であることを示す。全員が内心の疑いを口にするのを控えれば、それは本当に集団を狂気へ導く。だが歴史には、皇帝は裸だと言う最初の人、あるいは二番目の人になる代償を教える事例があふれている。また、人は「懸念の表明」と「共有知識になってもなお意見を異にすること」を生得的に区別できない。この区別は合理主義者が作り出したものである。より冷笑的な種類の自己啓発書(たとえばMachiavelliのThe Prince)を読めば、不一致を完全に隠し、懸念を最初に口にして最後に同意することはしないよう助言される。明白な問題を口にする者になるという集団への奉仕を行っても、集団から感謝されるとは期待しないほうがよい。

これらが、異論を唱えることの代償と利益である――「意見を異にする」のであれ、単に「懸念を表明する」のであれ――そして判断するのはあなたである。