Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

「試みる」ことを試みる

Trying to Try

違う! 試すな! やるか、やらないかだ。試すなどない。

何年も前、私はこれを、実際にはかなり愚かな深遠なる知恵の、また一つの例だと思っていた。成功するは原始的な行為ではない。強く選ぶだけで、勝つと決めることはできない。確率1で働く計画は一つもない。

だがヨーダは、私が初めに気づいたより賢かったのだ

認識論の最初の初歩的技法――深くはないが、安上がりである――は、引用と指示対象を区別することだ。雪について話すのは、「雪」について話すのと同じではない。引用符なしで「雪」という言葉を使うとき、私は雪について話そうとしている。引用符つきで「『雪』」という言葉を使うとき、私は「雪」という言葉について話そうとしている。自分の信念について語るには、特別なモード、引用モードへ入らなければならない。既定では、私たちはただ現実について話す。

誰かが「そのスイッチを入れる」と言ったなら、既定では、そのスイッチを入れようと試みるという意味である。自らの行動の結果によって、スイッチが入ったという目標状態へ至ることを約束する計画を作り、その計画を実行する。

無限の確実性で成功する計画はない。だから既定では、目標の達成へ乗り出すと語るとき、計画が正確かつ完全にその可能性だけへ至るとは含意しない。しかし「そのスイッチを入れる」と言うとき、試みるのはスイッチを入れることだけであって、スイッチを入れる確率97.2%を達成しようと試みるのではない

では、誰かが「そのスイッチを入れるよう試みる」と言うとき、何を意味するのか?

まあ、日常語では、「スイッチを入れる」と「スイッチを入れるよう試みる」は、おおむね同じ意味である。ただし後者は失敗の可能性を表す。だから私は当初、ヨーダがその可能性を否定しているように見えて腹を立てた。だが、少し付き合ってほしい。

人生の難題の多くは、自分自身へ十分に高い基準を課すことからなる。私は後でこの原則についてもっと語るかもしれない。これは多数の――ただしすべてではない――個人的なジレンマを見るためのレンズだからだ。「自分へどのような基準を課しているか? それは十分高いか?」

人生の失敗の多くが、自分へ低すぎる基準を課すことからなるなら、自分に要求するものが少なすぎないよう――簡単に達成できすぎる目標を立てないよう――警戒すべきである。

何かをするのに成功することが非常に難しいところでは、それをしようと試みることは、しばしばはるかに容易である。

成功するスタートアップを築くことと、成功するスタートアップを築こうと試みることでは、どちらが容易か? 100万ドル稼ぐことと、100万ドル稼ごうと試みることでは?

だから「スイッチを入れる」が既定では、スイッチを入れようと試みるという意味――つまり、確率1ではないかもしれないが、自分に可能な最大の確率で、スイッチが入った状態へ至ることを約束する計画を立てるという意味――なら、

――「スイッチを『入れようと試みる』」は、スイッチを「入れようと試みる」ことを試みる、つまり「スイッチを入れるかもしれない計画を持つ」という目標状態を達成しようと試みる、という意味になる。

さて、自己改変AIについて話しているのなら、たった今実行した変換は反省的均衡――AIが自らの計画操作を計画する状態――へ行き着くはずである。

だが人間を扱うとき、計画を持つことで満足することは、成功で満足することとはまるで違う。計画が成功確率を最大化しなければならないという部分が、道の途中で失われる。「成功確率を最大化している」と自分を納得させるのは、成功すると自分を納得させるよりはるかに容易である。

自分の最善を尽くすことが、試みていることのすべてなら、ほとんどどんな努力でも、「最善を尽くした」と自分を納得させる役に立つ。

あなたは今動き始めている大事件の中で自分に何ができるかを問い続け、何もできないと気づいてきた。だがそれは、苦しみのため、問いを誤った仕方で言い表したからだ……自分に何ができるかを問うのではなく、何がなされる必要があるかを問うべきだった。

「自分に何ができる?」と問うとき、あなたは最善を尽くそうとしている。あなたの最善とは何か? わずかな不便もなくできることなら何でもよい。財布の中のお金から、いつもの昼食に必要な分を引いてできることなら何でもよい。その資源でできることでは、勝つ見込みはあまり良くならないかもしれない。だがそれは「自分にできる最善」であり、だから行動を弁護できる、そうだろう?

だが、何がなされる必要がある? なされる必要があることには、生涯の貯蓄の3倍が必要で、それを生み出すか、失敗するしかないかもしれない。

したがって、成功しようと試みるのではなく、「成功確率を最大化した」状態を得ようと試みることは、はるかに低い障壁である。実際に勝つことを要求しないかぎり、財布の中のお金だけを使って「成功確率を最大化した」状態を得られる。

100万ドル稼ごうと試みたい? 宝くじを買えばよい。当たる見込みはあまり良くないかもしれないが、試みた。そして試みることこそ望んだものだった。実のところ、昼食を買った後には1ドルしか残っていなかったのだから、最善を尽くした。利用可能な資源を使って目標達成の見込みを最大化する。これは知性ではないか?

何よりも、スイッチを実際に入れたいときにだけ――引用符も、試みただけでもらえる残念賞もなく――確率を実際に最大化するための努力を実際に注ぐ。

だが望むことのすべてが「利用可能な資源を使って成功確率を最大化する」ことなら、それを実行したと自分を納得させるのは世界でもっとも容易なことだ。最初に思いついた計画が「最大化」として十分役立つ――必要なら、その最適性を証明するため、劣った代案を生み出せばよい。そして投入したいと思うどんなわずかな資源も、「利用可能な」資源となる。その100%を投入したと、自分を褒めるのを忘れずに!

最善を尽くそうとするな。勝つか、失敗せよ。最善などない。

Steven Brust, The Paths of the Dead, Vol. 1 of The Viscount of Adrilankha (Tor Books, 2002). ↩︎