❦
まだ出席を強制されていたころ、私たちのシナゴーグで毎年行われていた寄付募集を覚えている。正しく覚えているなら、形式は充分に単純だった。ラビと会計係がシナゴーグの経費と、この毎年の寄付募集がどれほど不可欠かを話し、それから構成員が席に座ったまま、誓約する寄付額を声に出した。
分かりやすいだろう？
別の毎年の寄付募集について話そう。実際、機械知能研究所の初期に、私が実施したものである。一つの違いは、募集がインターネット上で行われたことだ。もう一つは、聴衆の大部分が、無神論者／リバタリアン／技術愛好家／SFファン／アーリーアダプター／プログラマーなどの集まりから来ていたことだ。（人物空間にある経験的クラスターのおよその方向を指すための表現である。「人物空間の経験的クラスター」という句を理解できたなら、私が誰について話しているか分かるだろう。）
私は慎重に寄付募集文を書いた。生来、誇りが高すぎて人に助けを求められないのだが、この何年かで、その抵抗のおよそ60パーセントは克服した。非営利団体には資金が必要で、成長が遅すぎたため、その年の年次募集文には力と詩情をいくらか込めた。潜在的な支持基盤の大半へ届く複数のメーリングリストに、それを送った。
すると、ほとんど即座に、寄付しない理由をメーリングリストへ投稿する人々が現れはじめた。団体の哲学や使命について根本的な問いを投げかけた人もいた。自分が寄付する代わりに、非営利団体が資金を得られるほかのあらゆる資金源について、見事な発想を語った人もいた。（そうした資金源のどれかへ自分で連絡すると申し出たわけではない。私たちがどう連絡すればよいかについて、発想があっただけだ。）
ここであなたは言うかもしれない。「まあ、あなたの使命と哲学には、本当に根本的な問題があったのかもしれない――その議論を検閲したいわけではないだろう？」
その考えを覚えておいてほしい。
なぜなら、寄付している人は本当にいたからだ。PayPal経由で、すぐに寄付が届きはじめた。募集文のおかげでようやく動きはじめられた、という祝福の便りさえ届いた。111.11ドルの寄付には、次のメッセージが添えられていた。「もう少し多く贈ることにしました。百をもう一つ、十をもう一つ、一をもう一つ、十分の一をもう一つ、百分の一をもう一つ。すべてが一人のためにあるわけではないかもしれませんが、この一人はすべてのためにあろうとしています」。
だが、その寄付者の誰一人、賛同をメーリングリストへ投稿しなかった。一人もである。
寄付者の一人ひとりが知る限りでは、自分は孤独だった。そして翌日メーリングリストを見れば、感謝ではなく、なぜ寄付すべきではなかったかという議論を見つけた。批判、寄付しないことの正当化――公の場で誇らしげに示されたのはそれだけだった。
まるで会計係が年次募集を終えると、寄付を誓約しない人が全員誇らしげに立ち上がり、拒む理由を声に出す一方、誓約する人々は誰にも聞こえないよう静かにささやいたかのようだ。
合理主義的な大義を持ち、「ラエリアンという空飛ぶ円盤のカルトは、完全な戯言に関心を持つ何万人もの構成員――およそ四万人――を集められるのに、なぜ私たちは、これに取り組む人を千人さえ集められないのか」と悲しげに尋ねて回る人を、私は知っている。
この思考を締めくくる明らかに間違った方法は、「ラエリアンのすることをしよう！ このミームへ戯言を少し加えよう！」と言うことである。倫理的な抑制によって即座には止まらない人々のために指摘すると、有名になる空飛ぶ円盤カルト一つにつき、失敗したカルトが百はあるかもしれない。そして暗黒面には、あなたが、そう、あなたが持っていない、明白でない技能が必要かもしれない。誰もがシス卿になれるわけではない。とりわけ、予定している嘘について公開インターネットで話せば、失敗する。私は犯罪の達人ではないが、ある種の人々が悪党に向いていないことくらいは、私にも分かる。
だから、自分より劣るはずだと考えるほかの集団が、より多くの資金と信奉者を持つという考えに、権利を侵害された感覚を育てるのは、おそらくよい考えではない。その道は――この表現を許してほしい――暗黒面へ通じる。
だが、いわゆる「合理主義者」が空飛ぶ円盤カルトほど上手に協調できないなら、自分たちへ鋭い問いを投げかけはじめることには、おそらく本当に意味がある。
暗黒面では、物事はどう働くのか。
尊敬される指導者が語ると、純粋な賛同の合唱が起こる。内心に疑いを抱く者がいても、胸の内にしまっておく。そこで聴衆の一人ひとりが、この純粋な賛同の雰囲気を目にし、提示された考えへの自信を深める――個人的に内心の疑いを抱いていたとしても、なにしろほかの全員は賛同しているように見える。
（これを表す標準的な名称は「多元的無知」である。）
それでも納得しない者がいれば、集団を去る（場所によっては処刑される）――すると残った者の賛同度は高まり、妨害が減った状態で互いを強化する。
（私はこれを「集団信念の蒸発冷却」と呼ぶ。）
指導者だけでなく、思想そのものも、限りない熱狂と称賛を生む。ハロー効果とは、あらゆる肯定的特質の知覚が相関することだ。たとえば被験者へ食品保存料の利益を伝えると、その危険性を低いと判断するようになった。二つの量には論理上何の相関もないのにである。これは、思想をますます、ますます、ますます優れたものに見せる正のフィードバック効果を生みうる。とりわけ、批判が裏切りや罪だと受け取られる場合には。
（私はこれを「感情的死の螺旋」と名づける。）
これらはすべて、集団を結びつけうる、暗黒面の強い力の例である。
そしておそらく、私たちなら手を汚し、そんなことをするほど堕落はしない……。
したがって集団として、光明面は常に分裂し、弱い。技術愛好家、オタク、科学者、さらには原理主義的でない宗教でさえ、急進的イスラムを動かす狂信的な団結をもって行動することは、決してできない。技術的優位が及ぼせる力には限りがある。道具は複製されるか盗まれ、こちらへ向けて使われうる。結局、どんな集団間の争いでも光明面が必ず負け、未来は必然的に暗黒面のものとなる。
この見通しへの反応は、その人の「合理性」に対する姿勢について、多くを物語ると思う。
「文明の衝突」を論じる一部の著者は、長期的には啓蒙が急進的イスラムに負ける運命を受け入れているように見え、ため息をつき、悲しげに首を振る。自分の冷笑的な洗練ぶりをシグナリングしようとしているか何かなのだろう。
私自身は――変人と呼んでもよい――本物の合理主義者なら、現実の世界で有能であるべきだと、ずっと考えていた。
だから暗黒面が、多元的無知と感情的死の螺旋のおかげで、私たちより協調に優れているため、必ず勝つという考えには問題がある。
ひょっとすると、本物の合理主義者なら協調にもっと優れているべきだ、と考えるだろう。あれほどの不合理にも、きっと不利な点があるはずだ。その様式が最適であるはずはないだろう？
そして現在の「合理主義者」の集団が協調できないなら――一つのシナゴーグが構成員から寄付を集めるほど上手に集団計画を支援できないなら――その三段論法の結論は、あなたに任せる。
私がときどき使う言葉がある。「半分だけ合理主義者でいるのは危険である」。
たとえば、合理性の特定の方法を選択的に教えることで、誰かの知能を破壊する方法をいくつか思いつける。論理的誤謬と認知バイアスの長い一覧を教え、ほかの人の議論の中で、それらの誤謬とバイアスを見抜く訓練をするとしよう。だが教えるものは、ほかの人を非難するのが最も容易な誤謬とバイアス、簡単に誤用できる最も一般的なものに慎重に絞る。そして、自分が同意する議論も、不一致な議論の欠陥を吟味するときと同じほど厳しく吟味するよう、警告はしない。こうしてその人は、嫌いな議論と論者だけを非難できる、欠陥の膨大なレパートリーを獲得した。これは、賢い人が愚かになって終わる主要な経路の一つではないかと思う。（そしてちなみに、私は今、議論が気に入らない賢い人々へ向ける、もう一つの〈完全一般的反論〉をあなたに与えたことにも注意しよう。）
同じように、「合理主義者」の集団が、二人以上を必要とする課題を決して成し遂げないよう確実にしたければ、協調する集団合理性の技術について何も述べず、個人の合理性の技術だけを教えればよい。
合理主義者がどうすれば協調を改善できると私が考えているかについては、あとでさらに書く。だがここでは、反対の文化、あるいは異議の文化とさえ呼べるものに焦点を当てたい。これは技術愛好家の集まりが協調するのを妨げる、二つの主要な力の一つである。
あなたが学会にいて、講演者が三十分の講演を行うところを想像しよう。その後、人々が質問のためマイクに列をなす。最初の質問者は、スライド14で使ったグラフが対数尺度を用いていることに異議を唱え、タフティの『定量情報の視覚的表示』を引用する。第二の質問者は、スライド3で述べられた主張に反論する。第三の質問者は、同じデータを説明するように見える代替仮説を提案する……。
完全に普通だろう？ 今度は、あなたが学会にいて、講演者が三十分の講演を行うところを想像しよう。人々がマイクの前に列をなす。
最初の人は言う。「講演で述べたことすべてに賛成です。あなたはすばらしいと思います」。それから脇へ退く。
第二の人は言う。「スライド14は美しく、大いに学びました。あなたは最高です」。脇へ退く。
第三の人が――
そう、マイクに立った第三の人が何を言おうとしたか、あなたが知ることは決してない。このころには、演壇からクトゥルフが出現したかのような骨の髄まで届く恐怖、学会へ侵入したありえないほど不自然な現象への恐怖に駆り立てられ、叫びながら部屋から逃げ出しているからだ。
そう、意見の不一致を許容できない集団は合理的ではない。だが不一致だけを許容するなら――不一致は許容するが、賛同は許容しないなら――やはり合理的ではない。正直な考えの一部だけを聞く意志があり、ほかは聞く意志がない。あなたは危険な、半分だけの合理主義者である。
空飛ぶ円盤カルトの構成員が離れていることに居心地の悪さを感じるのと同じほど、私たちは一緒にいることに居心地の悪さを感じる。それも正しいはずがない。愚かさの反対は知性ではない。？
兵士の集団が二つあるとしよう。集団1では、兵卒は戦術も戦略も知らず、軍曹だけが戦術について何かを知り、士官だけが戦略について何かを知っている。集団2では、あらゆる階級の全員が、戦術と戦略をすべて知っている。
集団1は命令に従う一方、集団2では全員が、与えられたどんな命令よりも優れた考えを思いつくので、集団1が集団2を破ると予想すべきだろうか。
この場合、集団2が軍事理論を本当はどれほど理解しているのか疑わざるをえない。協調しない群衆は虐殺されるというのは、初歩的な命題だからだ。
より多くの知識がありながら成果が悪化するなら、何かを大きく間違えている。無知だった場合に使うのと同じ戦略を、いつでも少なくとも実行できるべきであり、できればさらに優れた行動を取るべきだ。断じて悪化すべきではない。自分の「合理性」を後悔していると気づいたなら、何が合理的なのかを再考すべきである。
一方、半分だけの合理主義者なら、知識が増えることで簡単に成果が悪化しうる。私はあるすてきな実験を覚えている。政治的な意見の強い学生は、問題について知識が多いほど、自分と不一致な証拠への反応が弱くなることを示した実験である。不一致な証拠だけに反論する弾薬を、より多く持っていたからだ。
私たちは部分的な合理性という恐ろしい谷にはまり、宗教的原理主義者より協調できず、空飛ぶ円盤カルトの信者より努力できなくなっているように見える。たしかに、どうにか注げているわずかな努力は、その反対ではなく、人を助ける方向へうまく向けられているかもしれない――だが、それは受け入れられる言い訳ではない。
私が合理主義者を体系的に訓練するとしたら、反対する方法の授業と賛同する方法の授業、訓練生が異論にもっと慣れるための授業と、同調にもっと慣れるための授業があるだろう。ある日は全員が違う服装で現れ、別の日には全員が制服で現れる。両側を扱わなければ、半分だけの合理主義者にすぎない。
合理主義者志望の人々に、制服を着て足並みをそろえて行進する訓練を行い、互いに賛同し、演壇の講演者が述べるすべてに拍手する練習をさせるところを想像できるだろうか。言葉にできない恐怖、全体が邪悪なカルトだと公然と認めたように聞こえるだろう？ だがなぜ、集団にいるほかの全員へ反対する練習はしてよいのに、それを練習するのはよくないのか。あなたは多数派へ賛同しなければならないことが決してないとでもいうのか。
私たちの文化は、英雄的な不一致と英雄的な反抗へあらゆる重点を置き、英雄的な賛同や英雄的な集団合意には一つも置かない。ほかの人の議論へ巧妙な異議を発明することで、優れた知能と、非同調者の共同体に属していることをシグナリングする。技術愛好家／シリコンバレーの集まりが周縁に留まり、より広い社会にある、それほど非同調的でない勢力との戦いに負けるのは、ひょっとするとそれが理由ではないか。いや、私たちは優れすぎるから負けているのではない。もっぱら個人主義的な伝統が、協力する能力を妨害するから負けている。
技術愛好家の共同体において、集団の努力を妨害していると思われる、もう一つの主要要素は、強い感情を恥じることである。合理性を無感情とみなす、スポックという合理性の原型が、今も頭にこびりついている。すなわち、冷静さとしての合理性である。あるいは関連する誤り、冷笑主義としての合理性かもしれない。ほかの人ほど気にかけていないと示すことで、世間を知り尽くした優れた洗練ぶりをシグナリングしようとする。何かを強く気にかけていることを見せるほど世間知らずな人々を、これ見よがしに、公然と見下しているよう慎重に装う。
たとえば、老化と戦うことを非常に強く気にかけているため、その大義のためなら喜んで死ねると、演壇の講演者が述べたなら、居心地が悪くなるのではないだろうか。
だが確率論にも決定理論にも、合理主義者は気にかけるべきではないなどとは、どこにも書かれていない。私はそれらの方程式に目を通した。本当に、そんなものは含まれていない。
私がこれまで聞いた合理性の最も優れた非形式的定義は、「真実によって破壊されうるものは、破壊されるべきである」だ。私たちは感情を持たないことではなく、事実に合う感情を抱くことを目指すべきである。感情が真実によって破壊されうるなら、それを手放すべきだ。だが努力する価値のある大義なら、ぜひ、その重要性を充分に感じよう。
死ぬ価値のあるものもある。そう、本当に！ それを認め、ほかの人がそう言うのを聞くことに慣れられなければ、集団計画へ努力を注げるほど充分に気にかけ、充分に協調することが難しくなる。この両側を教えなければならない。「真実によって破壊されうるものは、破壊されるべきである」と、「真実が育むものは、繁栄すべきである」を。
たとえば科学論文における感情的な言葉へのタブーは、気を散らさず事実同士を戦わせるうえで重要だ、という主張を聞いたことがある。だからといって、タブーをあらゆる場所へ適用すべきだという意味ではない。人生には、強い感情的な言葉、雄弁、詩情を称賛することを学ぶべき領域があると思う。成し遂げる必要のあることがあるなら、詩的な訴えはそれを成し遂げる助けになり、それゆえそれ自体が称賛に値する。
逆効果な大義と正当化されていない訴えを暴く努力によって、本当に行う必要のある課題を踏みつぶさないようにしなければならない。この両側が必要だ。逆効果な大義から離れる意志と、効果を生む大義を称賛する意志。根拠のない訴えに動かされない強さと、根拠のある訴えに動かされる強さである。
実際のところ、年次募集でのシナゴーグのやり方は正しかったと思う。一列ずつ回って個人を窮地に立たせ、じっと見つめながら「シュワルツさん、あなたはいくら寄付しますか」と言ったのではない。人々は誓約する寄付額をただ発表した――大げさな演出や誇りを伴わず、ただ簡潔に発表した――そして、それがほかの人にも同じことをするよう促した。贈れるものがない人は黙っていた。異議のある人は、もっと後か前の時間を選んで口にした。正気の人間の共同体では、物事はおそらくそのようにあるべきだ。人はしばしば、望むほど自分を動機づけるのが難しく、社会的な励ましがあれば、この意志の弱さを克服する助けになることを考慮すれば。
だが、この部分に同意しないとしても、支持する意見も反対する意見も、公に表明されるべきだったとは言える。支持者が、異議と不一致から成る、一見強固な壁に直面すること――それが自分たちの居心地の悪い自己検閲から生じたとしても――は、集団合理性ではない。暗黒面の集団が信奉者をつなぎ留めるためにすることの、単なる鏡像である。愚かさの反対は知性ではない。