Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

合理性と英語

Rationality and the English Language

拍手喝采のライトについての私の議論に応じて、ある人は、私の文章からジョージ・オーウェルの「政治と英語」を連想したと言った。1光栄だった。今日の話題を、すでに思いついていたので、なおさらである。

合理性について芸術家の観点を本当に求めるなら、オーウェルを読もう。著者にとってだけでなく、合理主義者にとっても必読である。オーウェルは科学者ではなく、作家だった。道具は数字でなく言葉であり、敵は〈自然〉ではなく人間の悪だった。裁判なしで人々を何年も投獄したいなら、「ジェニングズ氏を裁判なしで何年も投獄するつもりだ」とは別の言い方を考えなければならない。聞き手の思考を濁らせ、明瞭な像によって良心が憤激するのを防ぐ必要がある。「信頼性に欠ける分子には、代替的司法手続きが適用された」と言う。

オーウェルは、全体主義と、悪が身にまとう濁った思考に憤激して反対した。だから、彼の言語についての文章は、ファインマン、セーガン、ドーキンスと並ぶ水準の、合理主義の古典的文書になった。

「作家には受動態の使用を避けるよう指示が与えられる」。背景知識がもっぱら科学から来る合理主義者は、この直前の文の欠陥に気づかないかもしれない。しかし文章を少し書いたことのある人なら、すぐ気づくはずだ。私は文を受動態で書き、誰が作家へ受動態を避けるよう指示するかを伝えなかった。受動態は行為者を取り除き、行為を受けたものだけを残す。「信頼性に欠ける分子には、代替的司法手続きが適用された」——誰によって適用された? 「代替的司法手続き」は何をする? 静的な名詞句を十分に使えば、不快なことが実際に起きるのを何でも防げる。

学術論文は受動態で書かれることが多い。(失礼、一部の科学者が学術論文を受動態で書く。誰も書いておらず、誰にも責任がないかのように、論文がひとりでに書かれるわけではない。)「各大学生にプロジェニトリヴォックス二十錠入りの瓶を渡し、なくなるまで毎晩一錠飲むよう伝えた」より、「被験者にはプロジェニトリヴォックスが投与された」と言うほうが、権威があるように聞こえる。説明から科学者を取り除けば、最重要のデータだけが残る。だが現実には科学者はそこにいるし、被験者は大学生であるし、プロジェニトリヴォックスは「投与された」のではなく、指示とともに手渡された。受動態は現実を覆い隠す。

私に寄せられるコメントから判断すると、学術論文で受動態を使うくらい、罪とは言いがたい——結局、考えれば、科学者がそこにいると理解できる——と抗議する人が出るだろう。論理的な欠陥には見えない。そして、合理主義者がファインマンやジェインズだけでなく、オーウェルも読む必要があるのは、このためだ。

ノンフィクションは知識を伝え、フィクションは経験を伝える。医学は、真空中に無防備な人間に何が起きるかを外挿できる。フィクションは、それをあなたに追体験させられる。

誤解を招く句を分析し、そこに意味のあるものが何かひょっとして含まれていないか調べ、論理的な解釈を構築しようとする合理主義者もいる。好意的に読み、著者に疑わしきは有利の扱いを与える。一方、著者は、自分に疑わしきは有利の扱いを与えないよう訓練される。聴衆があなたはこう言ったと考えたことが、意図していたかどうかにかかわらず、あなたが言ったことである。どれほど巧みな正当化を持っていても、聴衆とは議論できない。

読者が立ち止まって一分考えたりはしないと、作家は知っている。フィクション上の経験は、第一印象の連続した流れである。作家であり合理主義者である者は、言葉が生み出す経験に注意を払う。ある文の公共的な合理性を評価するとき、熟慮して言葉を分析し、命題を言い換え、異なる意味を試し、真実らしさの断片を探すなら、第一印象——聴衆が見るもの、あるいはむしろ感じるもの——を見失っている。

小説家なら、「被験者にはプロジェニトリヴォックスが投与された」という文の、叫び出すほどの不自然さに気づくだろう。読者が生きるどんな人生がここにある? この文は、遠い権威の感覚を生み出す。それがすべてである。唯一の経験は、信頼できる何かを告げられたという感覚だ。小説家なら、実際に何が起きたかを示すには抽象的すぎる名詞に気づくだろう。瓶を手に持ち、厳しい顔を作ろうとする博士研究員、神経質な笑みを浮かべて聞く学生。

私の要点は、学術論文を小説のように書くべきだということではなく、合理主義者は言葉が生み出す経験を意識すべきだ、ということだ。合理主義者は心と、その操作方法を理解しなければならない。そこには意識の流れ、言語の中で展開する自分の部分も含まれる。合理主義者は、句がもたらす、単なる命題上の意味論を越えた、実際の経験的な影響を意識しなければならない。

もっと率直に言えば、意味は影響の言い訳にならない!

「AIは民主的な過程を通じて開発されるべきだ」という拍手喝采のライトに、どんな合理的解釈を構築できるかなど、私にはどうでもよい。その解釈では、問いを論点先取する曇った曖昧さは言うまでもなく、考えるのでなく拍手するよう聴衆へ合図する、非合理的な影響の言い訳にはならない。

決まり文句の影響、思考の経験へ与える作用を激しく非難するオーウェルを、ここに引こう。

演壇上の、疲れた物書きが、聞き慣れた句——獣のような、残虐行為、鉄の踵、血に染まった暴政、世界の自由な人民、肩を並べて立つ——を機械的に繰り返すのを見ると、生きた人間ではなく、何かの人形を見ているような、奇妙な感覚に襲われることが多い……。その種の言い回しを使う話者は、自分を機械に変える道を、すでにいくらか進んでいる。喉から適切な音は出てくるが、自分で言葉を選ぶ場合と違って、脳は関わっていない……。

何より必要なのは、言葉に意味を選ばせるのではなく、意味に言葉を選ばせることだ。散文で、言葉に対してできる最悪のことは、言葉に屈することである。具体的な物体について考えるとき、人は言葉を使わずに考える。そして思い描いていたものを説明したいなら、それにぴったり合う言葉を見つけるまで、おそらく探し回る。抽象的なものについて考えるときは、最初から言葉を使いやすい。そして意識的に防ごうと努力しないかぎり、既存の語法が押し寄せ、代わりに仕事をしてしまう。その代価として、意味はぼやけ、変わることさえある。おそらく、言葉を使うことは可能なかぎり先延ばしにし、像と感覚を通じて、自分の意味を可能なかぎり明瞭にしておくほうがよい。

最後の段落は、チャールズ・サンダース・パースが書いたとしてもおかしくない。〈道〉へ通じる道筋は一つではない。

ジョージ・オーウェル「政治と英語」『Horizon』(1946年4月)。