Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Rationality: From AI to Zombies

Yudkowsky Sequences
非公式日本語訳

6巻・26シークエンス・番号付き333篇を、原文の読書順で収録している。

第I巻 地図と領土

Map and Territory — 45篇

A. 予測どおりに間違う

Predictably Wrong — 10篇

  1. 「合理性」とは何を意味するのか？What Do I Mean By “Rationality”?
  2. 合理的に感じるFeeling Rational
  3. なぜ真実を？ そして……Why Truth? And…
  4. ……そもそも、バイアスとは？… What’s a Bias, Again?
  5. 利用可能性Availability
  6. 重荷となる細部Burdensome Details
  7. 計画錯誤Planning Fallacy
  8. 透明性の錯覚――なぜ誰もあなたを理解してくれないのかIllusion of Transparency: Why No One Understands You
  9. 短い推論距離を期待するExpecting Short Inferential Distances
  10. 自らの欠陥を見るレンズThe Lens That Sees Its Own Flaws

B. 偽の信念

Fake Beliefs — 9篇

  1. 信念に家賃を払わせる（予期される経験という形で）Making Beliefs Pay Rent (in Anticipated Experiences)
  2. 科学と政治の寓話A Fable of Science and Politics
  3. 信念への信念Belief in Belief
  4. ベイズ柔道Bayesian Judo
  5. 賢者を装うPretending to be Wise
  6. 宗教の「反証不能」という主張Religion’s Claim to be Non-Disprovable
  7. 公言と声援Professing and Cheering
  8. 装いとしての信念Belief as Attire
  9. 拍手ランプApplause Lights

C. 混乱に気づく

Noticing Confusion — 10篇

  1. 不確実性に焦点を合わせるFocus Your Uncertainty
  2. 証拠とは何か？What Is Evidence?
  3. 科学的証拠、法的証拠、合理的証拠Scientific Evidence, Legal Evidence, Rational Evidence
  4. どれだけの証拠が必要か？How Much Evidence Does It Take?
  5. アインシュタインの傲慢Einstein’s Arrogance
  6. オッカムの剃刀Occam’s Razor
  7. 合理主義者としてのあなたの強さYour Strength as a Rationalist
  8. 証拠の不在は不在の証拠であるAbsence of Evidence Is Evidence of Absence
  9. 期待される証拠の保存則Conservation of Expected Evidence
  10. 後知恵は科学の価値を貶めるHindsight Devalues Science

D. 神秘的な答え

Mysterious Answers — 16篇

  1. 偽の説明Fake Explanations
  2. 先生のパスワードを当てるGuessing the Teacher’s Password
  3. 装いとしての科学Science as Attire
  4. 偽の因果Fake Causality
  5. 意味論的な停止標識Semantic Stopsigns
  6. 謎めいた問いへの謎めいた答えMysterious Answers to Mysterious Questions
  7. 創発の空しさThe Futility of Emergence
  8. 「複雑性」と言うなSay Not “Complexity”
  9. 肯定的バイアス――暗闇を見よPositive Bias: Look into the Dark
  10. 法則に従う不確実性Lawful Uncertainty
  11. 奔放で無謀だった若き日My Wild and Reckless Youth
  12. 歴史から学び損なうFailing to Learn from History
  13. 歴史を利用可能にするMaking History Available
  14. 説明する／崇拝する／無視する？Explain/Worship/Ignore?
  15. 好奇心を止める「科学」“Science” as Curiosity-Stopper
  16. 真にあなたの一部となるものTruly Part of You

第II巻 実際に考えを変える方法

How to Actually Change Your Mind — 85篇

E. あまりに都合のよい言い訳

Overly Convenient Excuses — 11篇

  1. 謙虚さの正しい使い方The Proper Use of Humility
  2. 第三の選択肢The Third Alternative
  3. 宝くじ――希望の浪費Lotteries: A Waste of Hope
  4. 新・改良版宝くじNew Improved Lottery
  5. でも、まだ可能性はあるんでしょう？But There’s Still a Chance, Right?
  6. 灰色の誤謬The Fallacy of Gray
  7. 絶対的権威Absolute Authority
  8. 2 + 2 = 3だと私を納得させる方法How to Convince Me That 2 + 2 = 3
  9. 無限の確実性Infinite Certainty
  10. 0と1は確率ではない0 And 1 Are Not Probabilities
  11. あなたの合理性は私にも関係があるYour Rationality Is My Business

F. 政治と合理性

Politics and Rationality — 10篇

  1. 政治は心を殺すPolitics is the Mind-Killer
  2. 政策論争は一方的に見えるべきではないPolicy Debates Should Not Appear One-Sided
  3. 正義の天秤、合理性の手帳The Scales of Justice, the Notebook of Rationality
  4. 対応バイアスCorrespondence Bias
  5. あなたの敵は生まれつき邪悪なのか？Are Your Enemies Innately Evil?
  6. 愚かさを逆転しても知性にはならないReversed Stupidity Is Not Intelligence
  7. 議論は権威を遮断するArgument Screens Off Authority
  8. 問いを抱きしめよHug the Query
  9. 合理性と英語Rationality and the English Language
  10. 人間の悪と濁った思考Human Evil and Muddled Thinking

G. 合理化に抗して

Against Rationalization — 14篇

  1. バイアスを知ることは人を害し得るKnowing About Biases Can Hurt People
  2. 自分を漸進的に更新するUpdate Yourself Incrementally
  3. 一つの議論で軍勢に抗うOne Argument Against An Army
  4. 結論The Bottom Line
  5. 何が証拠を選別したのか？What Evidence Filtered Evidence?
  6. 合理化Rationalization
  7. 合理的な議論A Rational Argument
  8. 自分の信念の本当の弱点を避けるAvoiding Your Belief’s Real Weak Points
  9. 動機づけられた停止と動機づけられた継続Motivated Stopping and Motivating Continuation
  10. 偽の正当化Fake Justification
  11. それが本当の拒絶理由か？Is That Your True Rejection?
  12. 絡み合った真実、伝染する嘘Entangled Truths, Contagious Lies
  13. 嘘とブラック・スワン級の破綻についてOf Lies and Black Swan Blowups
  14. ダークサイドの認識論Dark Side Epistemology

H. 二重思考に抗して

Against Doublethink — 6篇

  1. 単一思考Singlethink
  2. 二重思考（偏向を選ぶこと）Doublethink (Choosing to be Biased)
  3. いや、本当に、私は自分を欺いたのだNo, Really, I’ve Deceived Myself
  4. 自己欺瞞を信じることBelief in Self-Deception
  5. ムーアのパラドックスMoore’s Paradox
  6. 自分を欺けると信じるなDon’t Believe You’ll Self-Deceive

I. 新鮮な目で見る

Seeing With Fresh Eyes — 13篇

  1. アンカリングと調整Anchoring and Adjustment
  2. プライミングと汚染Priming and Contamination
  3. 私たちは聞かされたことをすべて信じるのか？Do We Believe Everything We’re Told?
  4. キャッシュされた思考Cached Thoughts
  5. 「箱の外」という箱The “Outside the Box” Box
  6. 自分の目で新たに見るOriginal Seeing
  7. 歴史より奇妙なものStranger than History
  8. 架空の証拠から一般化する論理的誤謬The Logical Fallacy of Generalization from Fictional Evidence
  9. 狭さの美徳The Virtue of Narrowness
  10. 深く見せる（そして深くなる）方法How to Seem (and Be) Deep
  11. 私たちは思うほど頻繁には考えを変えないWe Change Our Minds Less Often Than We Think
  12. 解決策の提案を先送りせよHold Off On Proposing Solutions
  13. 発生論的誤謬The Genetic Fallacy

J. 死の螺旋

Death Spirals — 21篇

  1. 感情ヒューリスティックThe Affect Heuristic
  2. 評価可能性（そして安上がりな年末の買い物）Evaluability (and Cheap Holiday Shopping)
  3. 上限のない尺度、巨額の陪審評決、そして未来予測Unbounded Scales, Huge Jury Awards, and Futurism
  4. ハロー効果The Halo Effect
  5. スーパーヒーロー・バイアスSuperhero Bias
  6. ただの救世主たちMere Messiahs
  7. 感情的死の螺旋Affective Death Spirals
  8. 幸福な死の螺旋に抵抗するResist the Happy Death Spiral
  9. 無批判的超臨界Uncritical Supercriticality
  10. 集団信念の蒸発冷却Evaporative Cooling of Group Beliefs
  11. 誰も自制を訴えようとしないときWhen None Dare Urge Restraint
  12. ロバーズ・ケーブ実験The Robbers Cave Experiment
  13. すべての大義はカルトになりたがるEvery Cause Wants to Be a Cult
  14. 真理の守護者Guardians of the Truth
  15. 遺伝子プールの守護者Guardians of the Gene Pool
  16. アイン・ランドの守護者Guardians of Ayn Rand
  17. 二つのカルト公案Two Cult Koans
  18. アッシュの同調実験Asch’s Conformity Experiment
  19. 懸念を表明することについてOn Expressing Your Concerns
  20. 孤独な異論Lonely Dissent
  21. カルト的反カルト主義Cultish Countercultishness

K. 手放す

Letting Go — 10篇

  1. 「しまった」と言うことの重要性The Importance of Saying “Oops”
  2. トンデモ論者への誘いThe Crackpot Offer
  3. もう希望を捨ててしまえJust Lose Hope Already
  4. 疑いの正しい使い方The Proper Use of Doubt
  5. あなたは現実に向き合えるYou Can Face Reality
  6. 好奇心についての瞑想The Meditation on Curiosity
  7. 合理性の法則からあなたを免除できる者はいないNo One Can Exempt You From Rationality’s Laws
  8. 退路を残せLeave a Line of Retreat
  9. 信仰の危機Crisis of Faith
  10. 儀式The Ritual

第III巻 幽霊の中の機械

The Machine in the Ghost — 50篇

L. 進化の単純な数学

The Simple Math of Evolution — 12篇

  1. 異星の神An Alien God
  2. 進化の驚異The Wonder of Evolution
  3. 進化は愚かである（だが、それでも機能する）Evolutions Are Stupid (But Work Anyway)
  4. 企業やナノデバイスに進化はないNo Evolutions for Corporations or Nanodevices
  5. 絶滅へ進化するEvolving to Extinction
  6. 群選択主義の悲劇The Tragedy of Group Selectionism
  7. 偽の最適化基準Fake Optimization Criteria
  8. 適応度最大化器ではなく、適応実行者Adaptation-Executers, Not Fitness-Maximizers
  9. 進化心理学Evolutionary Psychology
  10. とりわけ見事な進化心理学実験An Especially Elegant Evolutionary Psychology Experiment
  11. 超正常刺激と西洋文明の崩壊Superstimuli and the Collapse of Western Civilization
  12. 汝は神の砕片なりThou Art Godshatter

M. 壊れやすい目的

Fragile Purposes — 10篇

  1. 知性への信念Belief in Intelligence
  2. 妙な着ぐるみを着た人間Humans in Funny Suits
  3. 最適化と知能爆発Optimization and the Intelligence Explosion
  4. 機械の中の幽霊Ghosts in the Machine
  5. 人工加算Artificial Addition
  6. 終端価値と道具的価値Terminal Values and Instrumental Values
  7. 漏れのある一般化Leaky Generalizations
  8. 願いに隠れた複雑性The Hidden Complexity of Wishes
  9. 擬人化的楽観主義Anthropomorphic Optimism
  10. 見失われた目的Lost Purposes

N. 人間のための言葉ガイド

A Human’s Guide to Words — 28篇

  1. 短剣の寓話The Parable of the Dagger
  2. 毒ニンジンの寓話The Parable of Hemlock
  3. 隠れた推論としての言葉Words as Hidden Inferences
  4. 外延と内包Extensions and Intensions
  5. 類似性クラスターSimilarity Clusters
  6. 典型性と非対称な類似性Typicality and Asymmetrical Similarity
  7. モノ空間のクラスター構造The Cluster Structure of Thingspace
  8. 偽装された問いDisguised Queries
  9. 神経カテゴリーNeural Categories
  10. アルゴリズムは内側からどう感じられるかHow An Algorithm Feels From Inside
  11. 定義をめぐる論争Disputing Definitions
  12. 意味を感じるFeel the Meaning
  13. 一般的用法からの論証The Argument from Common Usage
  14. 空のラベルEmpty Labels
  15. 言葉をタブーにせよTaboo Your Words
  16. 記号を実体で置き換えるReplace the Symbol with the Substance
  17. 圧縮の誤謬Fallacies of Compression
  18. カテゴリー化には帰結があるCategorizing Has Consequences
  19. 含意を忍び込ませるSneaking in Connotations
  20. 定義による論証Arguing “By Definition”
  21. 境界をどこに引くか？Where to Draw the Boundary?
  22. エントロピーと短い符号Entropy, and Short Codes
  23. 相互情報量とモノ空間における密度Mutual Information, and Density in Thingspace
  24. 超指数的な概念空間と単純な言葉Superexponential Conceptspace, and Simple Words
  25. 条件付き独立性とナイーブベイズConditional Independence, and Naive Bayes
  26. 心の絵筆の柄としての言葉Words as Mental Paintbrush Handles
  27. 変数を含む問いの誤謬Variable Question Fallacies
  28. 言葉が間違いになりうる37の仕方37 Ways That Words Can Be Wrong

第IV巻 ただの現実

Mere Reality — 76篇

O. 法則に従う真理

Lawful Truth — 8篇

  1. 普遍の火Universal Fire
  2. 普遍法則Universal Law
  3. 現実は醜いのか？Is Reality Ugly?
  4. 美しい確率論Beautiful Probability
  5. 研究室の外でOutside the Laboratory
  6. 熱力学第二法則と認知機関The Second Law of Thermodynamics, and Engines of Cognition
  7. 永久機関のような信念Perpetual Motion Beliefs
  8. ベイズ構造を探してSearching for Bayes-Structure

P. 還元主義入門

Reductionism 101 — 13篇

  1. 問いを解消するDissolving the Question
  2. 誤った問いWrong Questions
  3. 誤った問いを正すRighting a Wrong Question
  4. 心的投影の誤謬Mind Projection Fallacy
  5. 確率は心のなかにあるProbability is in the Mind
  6. 引用表現は指示対象ではないThe Quotation is Not the Referent
  7. 質的な混乱Qualitatively Confused
  8. 現実のように考えるThink Like Reality
  9. 混沌への反転Chaotic Inversion
  10. 還元主義Reductionism
  11. 説明することと説明し去ることExplaining vs. Explaining Away
  12. 偽の還元主義Fake Reductionism
  13. サバンナの詩人たちSavannah Poets

Q. ただ現実であることの喜び

Joy in the Merely Real — 12篇

  1. ただ現実であるものの喜びJoy in the Merely Real
  2. 発見の喜びJoy in Discovery
  3. 自分を現実に結びつけよBind Yourself to Reality
  4. 魔法を要求するなら、魔法にも救えないIf You Demand Magic, Magic Won’t Help
  5. 日常の魔法Mundane Magic
  6. 確立された科学の美The Beauty of Settled Science
  7. 驚異の大発見の日――4月1日Amazing Breakthrough Day: April 1st
  8. ヒューマニズムは宗教の代用品か？Is Humanism a Religion Substitute?
  9. 希少性Scarcity
  10. 聖なる日常The Sacred Mundane
  11. 科学を広めるには、秘密にせよTo Spread Science, Keep It Secret
  12. 入門の儀式Initiation Ceremony

R. 物理主義・中級

Physicalism 201 — 15篇

  1. 手と指Hand vs. Fingers
  2. 怒れる原子Angry Atoms
  3. 熱と運動Heat vs. Motion
  4. 脳についての大発見！ ニューロンでできていた！Brain Breakthrough! It’s Made of Neurons!
  5. 擬人化が愚かになったときWhen Anthropomorphism Became Stupid
  6. ア・プリオリA Priori
  7. 還元的指示Reductive Reference
  8. ゾンビ！ ゾンビ？Zombies! Zombies?
  9. ゾンビへの応答Zombie Responses
  10. 一般化反ゾンビ原理The Generalized Anti-Zombie Principle
  11. GAZP対GLUTGAZP vs. GLUT
  12. 含意された不可視のものへの信念Belief in the Implied Invisible
  13. ゾンビ：ザ・ムービーZombies: The Movie
  14. 超自然を排除するExcluding the Supernatural
  15. 超能力Psychic Powers

S. 量子物理学と多世界

Quantum Physics and Many Worlds — 14篇

  1. 量子力学の説明Quantum Explanations
  2. 配置と振幅Configurations and Amplitude
  3. 複数粒子の配置Joint Configurations
  4. 異なる配置Distinct Configurations
  5. 収縮公準Collapse Postulates
  6. デコヒーレンスは単純であるDecoherence is Simple
  7. デコヒーレンスは反証可能で検証可能であるDecoherence is Falsifiable and Testable
  8. 仮説を特権化するPrivileging the Hypothesis
  9. 多世界に生きるLiving in Many Worlds
  10. 量子非実在論Quantum Non-Realism
  11. 多世界が先に登場していたならIf Many-Worlds Had Come First
  12. 哲学と科学が出会う場所Where Philosophy Meets Science
  13. 汝は物理なりThou Art Physics
  14. 多世界、一つの最良の推測Many Worlds, One Best Guess

T. 科学と合理性

Science and Rationality — 14篇

  1. 古代科学の失敗The Failures of Eld Science
  2. ジレンマ——科学か、ベイズか？The Dilemma: Science or Bayes?
  3. 科学はあなたの合理性を信用しないScience Doesn’t Trust Your Rationality
  4. 科学が助けにならないときWhen Science Can’t Help
  5. 科学は厳格さが足りないScience Isn’t Strict Enough
  6. 科学者はすでにこうしたことを知っているのか？Do Scientists Already Know This Stuff?
  7. 安全な守りはない——科学でさえNo Safe Defense, Not Even Science
  8. 科学の定義を変えるChanging the Definition of Science
  9. 科学より速くFaster Than Science
  10. アインシュタインの速さEinstein’s Speed
  11. あの異星人のメッセージThat Alien Message
  12. 子ども時代の模範My Childhood Role Model
  13. アインシュタインの超能力Einstein’s Superpowers
  14. 授業課題Class Project

第V巻 ただの善

Mere Goodness — 35篇

U. 偽の選好

Fake Preferences — 7篇

  1. 幸福（だけ）のためではなくNot For the Sake of Happiness (Alone)
  2. 偽りの利己主義Fake Selfishness
  3. 偽りの道徳Fake Morality
  4. 偽りの効用関数Fake Utility Functions
  5. 切り離されたレバーの誤謬Detached Lever Fallacy
  6. AI設計の夢Dreams of AI Design
  7. 心一般の設計空間The Design Space of Minds-in-General

V. 価値理論

Value Theory — 17篇

  1. 再帰的正当化が底に達する場所Where Recursive Justification Hits Bottom
  2. 私流の内省My Kind of Reflection
  3. 普遍的に説得力のある議論は存在しないNo Universally Compelling Arguments
  4. すでに動いた状態で創られるCreated Already in Motion
  5. 小石を正しい山に仕分けるSorting Pebbles into Correct Heaps
  6. 2項語と1項語2-Place and 1-Place Words
  7. 道徳がなければあなたは何をするか？What Would You Do Without Morality?
  8. メタ倫理を変えるChanging Your Metaethics
  9. 何かが正しくありうるのか？Could Anything Be Right?
  10. 固定された計算としての道徳Morality as Fixed Computation
  11. 魔法のカテゴリーMagical Categories
  12. 真の囚人のジレンマThe True Prisoner’s Dilemma
  13. 共感する心Sympathetic Minds
  14. 高度な挑戦High Challenge
  15. 真剣な物語Serious Stories
  16. 価値は脆いValue is Fragile
  17. 明日へ贈る贈り物The Gift We Give to Tomorrow

W. 定量化された人文主義

Quantified Humanism — 11篇

  1. 範囲への鈍感さScope Insensitivity
  2. 一つの命と世界One Life Against the World
  3. アレのパラドックスThe Allais Paradox
  4. ちぇっ、アレめ！Zut Allais!
  5. 道徳的であると感じることFeeling Moral
  6. 「功利主義」を支える「直感」The “Intuitions” Behind “Utilitarianism”
  7. 目的は手段を正当化しない――人間の場合Ends Don’t Justify Means (Among Humans)
  8. 倫理的禁止命令Ethical Injunctions
  9. 守るべきものSomething to Protect
  10. 確率を使うべきでないときWhen (Not) to Use Probabilities
  11. ニューカムの問題と合理性の後悔Newcomb’s Problem and Regret of Rationality

第VI巻 より強くなる

Becoming Stronger — 42篇

X. ユドコウスキーの成長

Yudkowsky’s Coming of Age — 12篇

  1. 私の子供時代の死の螺旋My Childhood Death Spiral
  2. 私の最良にして最悪の過ちMy Best and Worst Mistake
  3. テクノフィリアの中で育つRaised in Technophilia
  4. 反駁の神童A Prodigy of Refutation
  5. 青二才のまったくの愚かさThe Sheer Folly of Callow Youth
  6. あの小さな不協和音That Tiny Note of Discord
  7. 真実に抗う後衛戦Fighting a Rearguard Action Against the Truth
  8. 私の自然主義的覚醒My Naturalistic Awakening
  9. 私より上の水準The Level Above Mine
  10. 自らの愚行の大きさThe Magnitude of His Own Folly
  11. 神の手の届かぬところBeyond the Reach of God
  12. 私のベイズ的開眼My Bayesian Enlightenment

Y. 困難に挑む

Challenging the Difficult — 8篇

  1. 強くなりたい！Tsuyoku Naritai! (I Want to Become Stronger)
  2. 「強く」と平等主義の本能Tsuyoku vs. the Egalitarian Instinct
  3. 「試みる」ことを試みるTrying to Try
  4. 「もっと努力する」を使え、ルークUse the Try Harder, Luke
  5. 不可能をなすことについてOn Doing the Impossible
  6. 非凡な努力をせよMake an Extraordinary Effort
  7. 黙って不可能を成し遂げろ！Shut Up and Do the Impossible!
  8. 最後の言葉Final Words

Z. 技法と共同体

The Craft and the Community — 22篇

  1. 正気の水位を上げるRaising the Sanity Waterline
  2. もっと多くが可能だという感覚A Sense That More Is Possible
  3. 認識論的悪徳Epistemic Viciousness
  4. 証拠なしに増殖する学派Schools Proliferating Without Evidence
  5. 合理性を検証する三つの水準Three Levels of Rationality Verification
  6. なぜ私たちのような者は協力できないのかWhy Our Kind Can’t Cooperate
  7. 寛容を寛容せよTolerate Tolerance
  8. あなたの参加条件Your Price for Joining
  9. ヒューマニズムは宗教の成果に並べるか？Can Humanism Match Religion’s Output?
  10. 教会対タスクフォースChurch vs. Taskforce
  11. 合理性――多くの大義に共通する利益Rationality: Common Interest of Many Causes
  12. 無力な個人Helpless Individuals
  13. お金――気にかける度合いの単位Money: The Unit of Caring
  14. 温かな満足感と効用単位は別々に買えPurchase Fuzzies and Utilons Separately
  15. 傍観者の無関心Bystander Apathy
  16. 集団的無関心とインターネットCollective Apathy and the Internet
  17. 漸進的進歩と谷Incremental Progress and the Valley
  18. ベイズ主義者対野蛮人Bayesians vs. Barbarians
  19. 他人を最適化することに用心せよBeware of Other-Optimizing
  20. 深い理論に裏づけられた実践的助言Practical Advice Backed by Deep Theories
  21. 自信不足という罪The Sin of Underconfidence
  22. 進み出て、〈技法〉を創れGo Forth and Create the Art!