非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Rationality: From AI to Zombies

Yudkowsky Sequences
非公式日本語訳

6巻・26シークエンス・番号付き333篇を、原文の読書順で収録している。

抜粋コレクション

LessWrongが編成したシークエンス単位で、上の333篇から該当分だけを抜き出した索引である。

第I巻 地図と領土

Map and Territory — 45篇

A. 予測どおりに間違う

Predictably Wrong — 10篇

  1. 私が「合理性」と呼ぶものWhat Do I Mean By “Rationality”?
  2. 合理的に感じるFeeling Rational
  3. なぜ真実を求めるのか。そして……Why Truth? And…
  4. そもそもバイアスとは何か… What’s a Bias, Again?
  5. 思い浮かべやすさAvailability
  6. 重荷になる細部Burdensome Details
  7. 計画錯誤Planning Fallacy
  8. 透明性の錯覚――なぜ誰にも伝わらないのかIllusion of Transparency: Why No One Understands You
  9. 推論の距離は短いはずだと思い込むExpecting Short Inferential Distances
  10. 自分の欠陥が見えるレンズThe Lens That Sees Its Own Flaws

B. 偽の信念

Fake Beliefs — 9篇

  1. 信念に、予想される経験という家賃を払わせるMaking Beliefs Pay Rent (in Anticipated Experiences)
  2. 科学と政治の寓話A Fable of Science and Politics
  3. 信じることを信じるBelief in Belief
  4. ベイズ流柔道Bayesian Judo
  5. 賢者のふりをするPretending to be Wise
  6. 宗教は反証できないという主張Religion’s Claim to be Non-Disprovable
  7. 信仰の表明と応援Professing and Cheering
  8. 装いとしての信念Belief as Attire
  9. 拍手の合図Applause Lights

C. 混乱に気づく

Noticing Confusion — 10篇

  1. 不確かさを絞り込むFocus Your Uncertainty
  2. 証拠とは何か？What Is Evidence?
  3. 科学上の証拠、法廷での証拠、合理的な証拠Scientific Evidence, Legal Evidence, Rational Evidence
  4. どれだけの証拠が必要なのかHow Much Evidence Does It Take?
  5. アインシュタインの傲慢Einstein’s Arrogance
  6. オッカムの剃刀Occam’s Razor
  7. 合理主義者としてのあなたの強さYour Strength as a Rationalist
  8. 証拠がないことは、ないことの証拠であるAbsence of Evidence Is Evidence of Absence
  9. 期待される証拠の保存則Conservation of Expected Evidence
  10. 後知恵が科学の価値を切り下げるHindsight Devalues Science

D. 謎めいた答え

Mysterious Answers — 16篇

  1. 見せかけの説明Fake Explanations
  2. 先生の合言葉を当てるGuessing the Teacher’s Password
  3. 装いとしての科学Science as Attire
  4. 見せかけの因果関係Fake Causality
  5. 思考を止める言葉の標識Semantic Stopsigns
  6. 神秘的な問いへの神秘的な答えMysterious Answers to Mysterious Questions
  7. 「創発」という説明の空しさThe Futility of Emergence
  8. 「複雑さ」と言うなSay Not “Complexity”
  9. 肯定例への偏り――暗いほうを見ようPositive Bias: Look into the Dark
  10. 不確実なときこそ法則に従うLawful Uncertainty
  11. 私の無茶で向こう見ずな若き日々My Wild and Reckless Youth
  12. 歴史から学び損ねるFailing to Learn from History
  13. 歴史を思い浮かべられるものにするMaking History Available
  14. 説明する、崇める、無視する？Explain/Worship/Ignore?
  15. 好奇心を止める「科学」“Science” as Curiosity-Stopper
  16. 本当に自分の一部にするTruly Part of You

第II巻 本当に考えを変える方法

How to Actually Change Your Mind — 85篇

E. あまりに都合のよい言い訳

Overly Convenient Excuses — 11篇

  1. 謙虚さの正しい使い方The Proper Use of Humility
  2. 第三の選択肢The Third Alternative
  3. 宝くじ――希望の無駄遣いLotteries: A Waste of Hope
  4. 新しく改良された宝くじNew Improved Lottery
  5. でも、まだ可能性はあるんだろう？But There’s Still a Chance, Right?
  6. 灰色の誤謬The Fallacy of Gray
  7. 絶対的権威Absolute Authority
  8. 2 + 2 = 3だと私を納得させる方法How to Convince Me That 2 + 2 = 3
  9. 無限の確実性Infinite Certainty
  10. 0と1は確率ではない0 And 1 Are Not Probabilities
  11. あなたの合理性は、私にも関わることだYour Rationality Is My Business

F. 政治と合理性

Politics and Rationality — 10篇

  1. 政治は思考を殺すPolitics is the Mind-Killer
  2. 政策論争は一方的に見えるべきではないPolicy Debates Should Not Appear One-Sided
  3. 正義の天秤、合理性のノートThe Scales of Justice, the Notebook of Rationality
  4. 対応バイアスCorrespondence Bias
  5. 敵は生まれつき邪悪なのか？Are Your Enemies Innately Evil?
  6. 愚かさを裏返しても知性にはならないReversed Stupidity Is Not Intelligence
  7. 議論は権威の情報を遮断するArgument Screens Off Authority
  8. 問いを抱きしめようHug the Query
  9. 合理性と英語Rationality and the English Language
  10. 人間の悪と混濁した思考Human Evil and Muddled Thinking

G. 合理化に抗して

Against Rationalization — 14篇

  1. バイアスを知ることが害になる場合もあるKnowing About Biases Can Hurt People
  2. 自分を少しずつ更新するUpdate Yourself Incrementally
  3. 一つの論拠で大軍に立ち向かうOne Argument Against An Army
  4. 結論の行The Bottom Line
  5. どんな証拠か？　選別された証拠か？What Evidence Filtered Evidence?
  6. 合理化Rationalization
  7. 合理的な論証A Rational Argument
  8. 自分の信念の本当の弱点を避けるAvoiding Your Belief’s Real Weak Points
  9. 動機に左右される打ち切りと継続Motivated Stopping and Motivating Continuation
  10. 見せかけの正当化Fake Justification
  11. それが本当に退ける理由なのか？Is That Your True Rejection?
  12. 絡み合う真実、広がる嘘Entangled Truths, Contagious Lies
  13. 嘘とブラック・スワンによる大破局Of Lies and Black Swan Blowups
  14. 暗黒面の認識論Dark Side Epistemology

H. 二重思考に抗して

Against Doublethink — 6篇

  1. 単一思考Singlethink
  2. 二重思考――バイアスに従うことを選ぶDoublethink (Choosing to be Biased)
  3. いや、本当に自分を騙したんですNo, Really, I’ve Deceived Myself
  4. 自己欺瞞を信じるBelief in Self-Deception
  5. ムーアのパラドックスMoore’s Paradox
  6. 自分を欺けると思うなDon’t Believe You’ll Self-Deceive

I. 新たな目で見る

Seeing With Fresh Eyes — 13篇

  1. アンカリングと調整Anchoring and Adjustment
  2. プライミングと汚染Priming and Contamination
  3. 私たちは言われたことを何でも信じるのか？Do We Believe Everything We’re Told?
  4. キャッシュされた思考Cached Thoughts
  5. 「枠の外」という枠The “Outside the Box” Box
  6. 自分の目で新たに見るOriginal Seeing
  7. 歴史よりも奇妙なものStranger than History
  8. 架空の証拠から一般化するという論理的誤謬The Logical Fallacy of Generalization from Fictional Evidence
  9. 範囲を絞る美徳The Virtue of Narrowness
  10. 深く見える方法、そして深くある方法How to Seem (and Be) Deep
  11. 私たちは思っているほど考えを変えないWe Change Our Minds Less Often Than We Think
  12. 解決策を出すのは待とうHold Off On Proposing Solutions
  13. 発生論的誤謬The Genetic Fallacy

J. 死の螺旋

Death Spirals — 21篇

  1. 感情ヒューリスティックThe Affect Heuristic
  2. 評価のしやすさと、安く済ませる贈り物選びEvaluability (and Cheap Holiday Shopping)
  3. 上限のない尺度、巨額の陪審評決、そして未来予測Unbounded Scales, Huge Jury Awards, and Futurism
  4. ハロー効果The Halo Effect
  5. スーパーヒーロー・バイアスSuperhero Bias
  6. ただの救世主Mere Messiahs
  7. 好感情の破滅的スパイラルAffective Death Spirals
  8. 幸福な死の螺旋に抗うResist the Happy Death Spiral
  9. 無批判が招く超臨界Uncritical Supercriticality
  10. 集団の信念の蒸発冷却Evaporative Cooling of Group Beliefs
  11. 誰も自制を訴えられなくなるときWhen None Dare Urge Restraint
  12. ロバーズ・ケーブ実験The Robbers Cave Experiment
  13. どんな大義もカルトになりたがるEvery Cause Wants to Be a Cult
  14. 真理の守護者たちGuardians of the Truth
  15. 遺伝子プールの守護者たちGuardians of the Gene Pool
  16. アイン・ランドの守護者たちGuardians of Ayn Rand
  17. カルトをめぐる二つの公案Two Cult Koans
  18. アッシュの同調実験Asch’s Conformity Experiment
  19. 懸念を口にすることについてOn Expressing Your Concerns
  20. 孤独な異議Lonely Dissent
  21. カルト的な反カルト意識Cultish Countercultishness

K. 手放す

Letting Go — 10篇

  1. 「しまった」と認めることの大切さThe Importance of Saying “Oops”
  2. トンデモ論者への誘いThe Crackpot Offer
  3. もういいかげん、希望を捨てようJust Lose Hope Already
  4. 疑いの正しい使い方The Proper Use of Doubt
  5. あなたは現実に向き合えるYou Can Face Reality
  6. 好奇心についての瞑想The Meditation on Curiosity
  7. 合理性の法則から免除してくれる人はいないNo One Can Exempt You From Rationality’s Laws
  8. 退路を残しておくLeave a Line of Retreat
  9. 信念の危機Crisis of Faith
  10. 儀式The Ritual

第III巻 幽霊の中の機械

The Machine in the Ghost — 50篇

L. 進化のシンプルな数学

The Simple Math of Evolution — 12篇

  1. 異質な神An Alien God
  2. 進化の驚異The Wonder of Evolution
  3. 進化は愚かだが、それでも機能するEvolutions Are Stupid (But Work Anyway)
  4. 企業やナノ装置に進化はないNo Evolutions for Corporations or Nanodevices
  5. 進化して絶滅するEvolving to Extinction
  6. 群選択主義の悲劇The Tragedy of Group Selectionism
  7. 見せかけの最適化基準Fake Optimization Criteria
  8. 適応を実行するもの、適応度を最大化するものではなくAdaptation-Executers, Not Fitness-Maximizers
  9. 進化心理学Evolutionary Psychology
  10. とりわけ見事な進化心理学の実験An Especially Elegant Evolutionary Psychology Experiment
  11. 超正常刺激と西洋文明の崩壊Superstimuli and the Collapse of Western Civilization
  12. 汝は神の砕けたかけらThou Art Godshatter

M. 壊れやすい目的

Fragile Purposes — 10篇

  1. 知性があると信じることBelief in Intelligence
  2. 奇妙な着ぐるみを着た人間Humans in Funny Suits
  3. 最適化と知能爆発Optimization and the Intelligence Explosion
  4. 機械の中の幽霊Ghosts in the Machine
  5. 人工足し算Artificial Addition
  6. 終端価値と道具的価値Terminal Values and Instrumental Values
  7. 穴のある一般化Leaky Generalizations
  8. 願いに隠れた複雑さThe Hidden Complexity of Wishes
  9. 擬人化による楽観Anthropomorphic Optimism
  10. 見失われた目的Lost Purposes

N. 人間のための言葉の手引き

A Human’s Guide to Words — 28篇

  1. 短剣の寓話The Parable of the Dagger
  2. 毒ニンジンの寓話The Parable of Hemlock
  3. 言葉に隠れた推論Words as Hidden Inferences
  4. 外延と内包Extensions and Intensions
  5. 類似性のクラスターSimilarity Clusters
  6. 典型性と非対称な類似性Typicality and Asymmetrical Similarity
  7. もの空間のクラスター構造The Cluster Structure of Thingspace
  8. 隠れた問いDisguised Queries
  9. 神経回路とカテゴリーNeural Categories
  10. アルゴリズムは内側からどう感じられるかHow An Algorithm Feels From Inside
  11. 定義をめぐる言い争いDisputing Definitions
  12. 意味を感じるFeel the Meaning
  13. 一般的な用法を根拠にする議論The Argument from Common Usage
  14. 中身のないラベルEmpty Labels
  15. その言葉を使用禁止にしようTaboo Your Words
  16. 記号を中身で置き換えるReplace the Symbol with the Substance
  17. 圧縮の誤謬Fallacies of Compression
  18. 分類には結果が伴うCategorizing Has Consequences
  19. 言葉の含みをこっそり持ち込むSneaking in Connotations
  20. 定義を持ち出して議論するArguing “By Definition”
  21. どこに境界を引くべきか？Where to Draw the Boundary?
  22. エントロピーと短い符号Entropy, and Short Codes
  23. 相互情報量と事物空間の密度Mutual Information, and Density in Thingspace
  24. 超指数的な概念空間と単純な言葉Superexponential Conceptspace, and Simple Words
  25. 条件付き独立とナイーブベイズConditional Independence, and Naive Bayes
  26. 心の絵筆の柄としての言葉Words as Mental Paintbrush Handles
  27. 問いが変わることによる誤謬Variable Question Fallacies
  28. 言葉が間違いうる37の仕方37 Ways That Words Can Be Wrong

第IV巻 ただの現実

Mere Reality — 76篇

O. 法則に従う真実

Lawful Truth — 8篇

  1. 普遍的な火Universal Fire
  2. 普遍法則Universal Law
  3. 現実は醜いのか？Is Reality Ugly?
  4. 美しい確率Beautiful Probability
  5. 実験室の外でOutside the Laboratory
  6. 熱力学第二法則と認知のエンジンThe Second Law of Thermodynamics, and Engines of Cognition
  7. 永久機関のような信念Perpetual Motion Beliefs
  8. ベイズ的構造を探してSearching for Bayes-Structure

P. 還元主義入門

Reductionism 101 — 13篇

  1. 問いを解きほぐして消すDissolving the Question
  2. 間違った問いWrong Questions
  3. 間違った問いを立て直すRighting a Wrong Question
  4. 心の投影の誤謬Mind Projection Fallacy
  5. 確率は心の中にあるProbability is in the Mind
  6. 引用は指示対象ではないThe Quotation is Not the Referent
  7. 定性的な思考が生む混乱Qualitatively Confused
  8. 現実のように考えるThink Like Reality
  9. ひっくり返すとカオスになるChaotic Inversion
  10. 還元主義Reductionism
  11. 説明することと、説明して消し去ることExplaining vs. Explaining Away
  12. 見せかけの還元主義Fake Reductionism
  13. サバンナの詩人たちSavannah Poets

Q. ただの現実の中にある喜び

Joy in the Merely Real — 12篇

  1. ただ現実であるものに喜びをJoy in the Merely Real
  2. 発見する喜びJoy in Discovery
  3. 自分を現実に結びつけるBind Yourself to Reality
  4. 魔法を求めるなら、魔法でも救われないIf You Demand Magic, Magic Won’t Help
  5. ありふれた魔法Mundane Magic
  6. 確立された科学の美しさThe Beauty of Settled Science
  7. 驚きの大発見の日――4月1日Amazing Breakthrough Day: April 1st
  8. ヒューマニズムは宗教の代用品なのかIs Humanism a Religion Substitute?
  9. 希少性Scarcity
  10. 聖なる日常The Sacred Mundane
  11. 科学を広めるには、秘密にしておけTo Spread Science, Keep It Secret
  12. 入門の儀式Initiation Ceremony

R. 物理主義・中級編

Physicalism 201 — 15篇

  1. 手と指Hand vs. Fingers
  2. 怒れる原子Angry Atoms
  3. 熱と運動Heat vs. Motion
  4. 脳研究に大発見！ 脳はニューロンでできていた！Brain Breakthrough! It’s Made of Neurons!
  5. 擬人化が愚かな考えになったときWhen Anthropomorphism Became Stupid
  6. アプリオリA Priori
  7. 還元と指示Reductive Reference
  8. ゾンビ！　ゾンビ？Zombies! Zombies?
  9. ゾンビ論への応答Zombie Responses
  10. 一般化された反ゾンビ原理The Generalized Anti-Zombie Principle
  11. GAZP対GLUTGAZP vs. GLUT
  12. 法則から導かれる、見えないものへの信念Belief in the Implied Invisible
  13. ゾンビ――劇場版Zombies: The Movie
  14. 超自然的なものを除外するExcluding the Supernatural
  15. 超能力Psychic Powers

S. 量子物理学と多世界

Quantum Physics and Many Worlds — 14篇

  1. 量子力学を説明するQuantum Explanations
  2. 配置と振幅Configurations and Amplitude
  3. 複数の粒子をまとめた配置Joint Configurations
  4. 異なる配置Distinct Configurations
  5. 収縮の仮定Collapse Postulates
  6. デコヒーレンスは単純だDecoherence is Simple
  7. デコヒーレンスは反証可能で、検証可能であるDecoherence is Falsifiable and Testable
  8. 仮説を特別扱いするPrivileging the Hypothesis
  9. 多世界の中で生きるLiving in Many Worlds
  10. 量子の非実在論Quantum Non-Realism
  11. もし多世界解釈が先に現れていたらIf Many-Worlds Had Come First
  12. 哲学と科学が出会うところWhere Philosophy Meets Science
  13. あなたこそが物理なのだThou Art Physics
  14. 多くの世界、一つの最善の推測Many Worlds, One Best Guess

T. 科学と合理性

Science and Rationality — 14篇

  1. 昔の科学の失敗The Failures of Eld Science
  2. ジレンマ——科学か、ベイズかThe Dilemma: Science or Bayes?
  3. 科学はあなたの合理性を信用しないScience Doesn’t Trust Your Rationality
  4. 科学が助けにならないときWhen Science Can’t Help
  5. 科学はまだ厳しさが足りないScience Isn’t Strict Enough
  6. 科学者は、こんなことはもう知っているのか？Do Scientists Already Know This Stuff?
  7. 安全な守りはない——科学でさえもNo Safe Defense, Not Even Science
  8. 科学の定義を変えるChanging the Definition of Science
  9. 科学より速くFaster Than Science
  10. アインシュタインの速さEinstein’s Speed
  11. あの異星からのメッセージThat Alien Message
  12. 子どものころの私の手本My Childhood Role Model
  13. アインシュタインの超能力Einstein’s Superpowers
  14. 授業の課題Class Project

第V巻 ただの善

Mere Goodness — 35篇

U. 偽の選好

Fake Preferences — 7篇

  1. 幸福のためだけではないNot For the Sake of Happiness (Alone)
  2. 見せかけの利己主義Fake Selfishness
  3. 見せかけの道徳Fake Morality
  4. 見せかけの効用関数Fake Utility Functions
  5. 取り外したレバーの誤謬Detached Lever Fallacy
  6. AI設計という夢Dreams of AI Design
  7. 心一般の設計空間The Design Space of Minds-in-General

V. 価値論

Value Theory — 17篇

  1. 再帰的な正当化が底に行き着くところWhere Recursive Justification Hits Bottom
  2. 私が考える内省My Kind of Reflection
  3. あらゆる心を納得させる議論はないNo Universally Compelling Arguments
  4. 最初から動いているものとして作られるCreated Already in Motion
  5. 小石を正しい山に分けるSorting Pebbles into Correct Heaps
  6. 二項の言葉と一項の言葉2-Place and 1-Place Words
  7. 道徳がなかったら、あなたはどうする？What Would You Do Without Morality?
  8. 自分のメタ倫理を変えるChanging Your Metaethics
  9. どんなことでも正しくなりうるのか？Could Anything Be Right?
  10. 固定された計算としての道徳Morality as Fixed Computation
  11. 魔法のカテゴリーMagical Categories
  12. 真の囚人のジレンマThe True Prisoner’s Dilemma
  13. 同情する心Sympathetic Minds
  14. 手応えのある挑戦High Challenge
  15. 深刻な物語Serious Stories
  16. 価値は壊れやすいValue is Fragile
  17. 私たちが明日に贈るものThe Gift We Give to Tomorrow

W. 数量で考えるヒューマニズム

Quantified Humanism — 11篇

  1. 規模への鈍感さScope Insensitivity
  2. 一人の命と世界全体One Life Against the World
  3. アレのパラドックスThe Allais Paradox
  4. まったく、アレときたら！Zut Allais!
  5. 道徳的であるという気分Feeling Moral
  6. 「功利主義」を支える「直感」The “Intuitions” Behind “Utilitarianism”
  7. 人間同士では、目的は手段を正当化しないEnds Don’t Justify Means (Among Humans)
  8. 倫理上の禁止則Ethical Injunctions
  9. 守るべきものSomething to Protect
  10. 確率を使わないほうがよいときWhen (Not) to Use Probabilities
  11. ニューカム問題と合理性への後悔Newcomb’s Problem and Regret of Rationality

第VI巻 より強くなる

Becoming Stronger — 42篇

X. ユドコウスキーの成長

Yudkowsky’s Coming of Age — 12篇

  1. 子どものころの死の螺旋My Childhood Death Spiral
  2. 私の最良にして最悪の間違いMy Best and Worst Mistake
  3. 技術への愛の中で育ってRaised in Technophilia
  4. 反駁の神童A Prodigy of Refutation
  5. 未熟な若さの、まったくの愚かさThe Sheer Folly of Callow Youth
  6. あの小さな不協和音That Tiny Note of Discord
  7. 真実に対して退却戦を戦うFighting a Rearguard Action Against the Truth
  8. 私の自然主義への目覚めMy Naturalistic Awakening
  9. 私より上の水準The Level Above Mine
  10. 自らの愚かさの大きさThe Magnitude of His Own Folly
  11. 神の手の届かない世界Beyond the Reach of God
  12. 私がベイズ主義に目覚めたときMy Bayesian Enlightenment

Y. 困難に挑む

Challenging the Difficult — 8篇

  1. 強くなりたい！Tsuyoku Naritai! (I Want to Become Stronger)
  2. 「強く」と平等主義の本能Tsuyoku vs. the Egalitarian Instinct
  3. やってみようとするだけTrying to Try
  4. もっと頑張る力を使え、ルークUse the Try Harder, Luke
  5. 不可能なことに取り組むOn Doing the Impossible
  6. 並外れた努力をせよMake an Extraordinary Effort
  7. 黙って不可能を成し遂げろ！Shut Up and Do the Impossible!
  8. 最後の言葉Final Words

Z. 技法と共同体

The Craft and the Community — 22篇

  1. 正気の水位を上げるRaising the Sanity Waterline
  2. もっとできるはずだという感覚A Sense That More Is Possible
  3. 知ることを損なう悪徳Epistemic Viciousness
  4. 証拠もなく増え続ける学派Schools Proliferating Without Evidence
  5. 合理性を検証する三つの水準Three Levels of Rationality Verification
  6. 私たちのような人間が協力できない理由Why Our Kind Can’t Cooperate
  7. 寛容さに寛容であれTolerate Tolerance
  8. 参加するために求める対価Your Price for Joining
  9. ヒューマニズムは宗教の成果に並べるか？Can Humanism Match Religion’s Output?
  10. 教会か、課題に取り組むチームかChurch vs. Taskforce
  11. 合理性――さまざまな活動に共通する利益Rationality: Common Interest of Many Causes
  12. 無力な個人たちHelpless Individuals
  13. お金——どれだけ大切にするかの単位Money: The Unit of Caring
  14. 温かい満足感と効用は別々に買おうPurchase Fuzzies and Utilons Separately
  15. 傍観者の無関心Bystander Apathy
  16. 集団の無関心とインターネットCollective Apathy and the Internet
  17. 少しずつの進歩と谷底Incremental Progress and the Valley
  18. ベイズ主義者対蛮族Bayesians vs. Barbarians
  19. 他人を最適化しようとすることに用心せよBeware of Other-Optimizing
  20. 深い理論に裏づけられた実用的助言Practical Advice Backed by Deep Theories
  21. 自信の持てなさという罪The Sin of Underconfidence
  22. 進み出て、この技を作り上げようGo Forth and Create the Art!
クレジットとライセンス
原著: Eliezer Yudkowsky / 編集: Rob Bensinger / 発行: Machine Intelligence Research Institute / HTML版: Said Achmiz
日本語訳・書式変更: AGI Hub翻訳プロジェクト。原文「Rationality: From AI to Zombies」から翻訳した非公式版であり、原著者・編集者・発行元・HTML版制作者による承認を示すものではない。
本文は CC BY-NC-SA 3.0 Unported で提供する。