❦
「粘り抜け」。さまざまな分野で大きな成果を上げた人々から、よく聞く助言だ。初め、私はこれがまったく分からなかった。
初めは、「粘り強さ」とは一日14時間働くことだと思っていた。世の中には、技術的な仕事を10時間こなしたあと、食事、睡眠、トイレの合間の空き時間まで使って、本を書ける人がいるらしい。私はそういう人ではない。今でも、それを認めるのは自尊心が痛む。重要なことをしているのだから、脳も一日14時間は働こうとしてくれてよくないか？ だが、そうはならない。続けるのがつらくなりすぎると、やめて何かを読んだり見たりする。そのため、何年ものあいだ、自分には「粘り強さ」という美徳がまったく欠けていると思っていた。
人間の性質に従い、エリエゼル1998は、こんなことを考えた。「大事なのは投入量ではなく成果だ」。あるいは、「怠惰も美徳だ。うまくいかない方法を離れ、もっとよい方法を考えさせてくれる」。あるいは、「もっと長く働く人より、僕はよい仕事をしている。創造的な仕事では、一日16時間働くより、瞬間的な成果のピークのほうが重要なのかもしれない」。有名な科学者は、「勤勉は美徳だ」という深遠な知恵に誘惑されたのだろうか。それが知能より重要でないとしたら、つらすぎるから？
粘り強さの美徳を理解したのは、AIをめぐる自分の道のりを振り返り、ほぼすべての重要な問題の難しさを、自分が過大評価していたと気づいてからだ。
おかしく聞こえるだろう？ だが、少し付き合ってほしい。
初めてAIに挑もうと決めたとき、考えていたのは40年規模の期間、マンハッタン計画、惑星規模の計算ネットワーク、何百万人ものプログラマー、そして場合によっては能力を増強した人間だった。
これはAIの未来を考える際によくある失敗で、いずれ書くかもしれない。「解き方が分からない」から「何か巨大なものを投入するところを想像しよう」へと飛躍することだ。想像したときに生じる圧倒的な感じが、問題の大きさに釣り合うほど巨大なものを。（今、AIのメーリングリストには、AIには千兆ドルかかると言って回る人がいる。千兆ドルかけなければAIは作れないが、それだけかければいつでも作れるという。）これで、明らかに不可能に思える、知能を理解するという要求を満たそうとせずに、AIの解き方を知っていると想像できる。
だから私も、初めは同じ間違いをした。知能が分からないので、問題にマンハッタン計画をぶつけるところを想像した。
だが、地球上の死者を年5,500万人、一日15万人と計算していた私は、怖がるウサギのように、その大きく恐ろしい問題から背を向けて逃げなかった。代わりに、どんなAI計画なら最も速く到達できるか考え始めた。知能爆発を一時間早められるなら、爆発前の人生の仕事としては、十分な見返りだった。（この時点では、人類存亡リスクや友好的AIという観点では考えていなかった。）
だから私は、怖がるウサギのように逃げずに、自分にできることはないかと、その場にとどまった。
面白い昔話を一つ。1998年、私は自己改善するAI、つまり「シードAI」の作り方を提案する長い論考を書いていた。「シードAI」は、光栄にも私が作った言葉だ。後に機械知能研究所の創設資金を出すブライアン・アトキンズは、HypermartをGo2Netへ売却したばかりだった。彼からメールが来て、私の述べるAI計画は、適度な人数のチームが実際に実行できるものなのかと尋ねられた。「いいえ」と私は答えた。「マンハッタン計画と30年が要ります」。それでしばらくは、AIの本当の仕事に必要な資金を得るため、新しいドットコム企業を始めることを考えていた……。
一、二年後、「オープンソース」という新しいものを聞いたあと、小さな組織でも、新しいコンピューター言語など、準備的な開発はできそうに思えた。そうしてMIRIが始まった。
もちろん、この戦略は完全に間違っていた。
それでも、「今できることは何もない」から、「ふむ……初期版が十分多くの人に役立つなら、オープンソース開発を通じた段階的な道があるかもしれない」へ進んだ。
これは遠い昔の話で、どれかが良い考えだったと言っているのではない。だが、自分がしようとしていると思っていたことについて、一年創造的に考えたことで、道のりは短く見えるようになった。初めて取り組んだときより、問題は少しだけ不可能でなく見えた。
もっと面白いのは、友好的AIへ踏み込んだ経緯だ。最初、友好的AIはまったく考慮していなかった。何が正しい行動かについて超知能をだますなど、明らかに不可能で無意味だったからだ。
つまり歴史的には、「不可能」な問題を完全に無視するところから、単にきわめて難しい問題を引き受けるところへ進んだ。
当然、仕事の総量は増えた。
知能を精密に理解しようとすることも同じだった。当初は不可能と決めつけ、仕事から外していた。（振り返ると、ひどくおかしな理屈だ。あなたの計画に要件を書き込むとき、自然はあなたに何ができないかなど気にしない。それでもAIの人々がこの手を使うのを、今もよく見る。）自分に精密な基準を課すことは、それまで必要だと思っていた以上に働くことを意味した。だが同時に、少し前なら完全に不可能と退けた問題へ取り組むことでもあった。
AIの個々の問題は、時とともに怖さを減じて見えるようになった。だが、「不可能」の一覧から「やること」の一覧へ問題が移されるにつれ、登るべき山全体は高くなった。世間の知恵が言うとおりに。
何が起きているか、そして「粘り抜け！」が本当に何を意味するか分かり始めたのは、ほかのAIの人々が同じことをしていると気づいたときだった。この種の問題としては比較的素直で、十分解けそうに見えるものを、「不可能だ！」と言っていたのだ。だが、それらは私が最初に取り組んだころには、はるかに恐ろしく見えたはずのことだった。
そして、「不可能」には二つの使い方があると気づいた。
- 指定された公理のもとでの、数学的な不可能性の証明。
- 「それをやる方法が思いつかない」。
言うまでもなく、私の使った「不可能」は、すべて後者だった。
ある分野を理解していなければ、その分野の多くの問題は不可能に見える。解決への道筋を脳に問い合わせても、何も返らないからだ。だが、謎の問いはあっても、謎の答えはない。一、二年その分野に取り組み、行き止まりにはまり込まず、前進に必要な生来の能力があれば、理解は深まる。問題の見かけの難しさは、大幅に下がるかもしれない。初心者だった自分が感じたほど、怖くはなくなる。
これは、とくに恐ろしく見える、混乱を招く問題で起きやすい。
恒星が燃える過程をある程度知っているので、恒星を一から作るのが容易でないと分かる。歯車を理解しているので、既知の物理法則に従う歯車をどれだけ集めても、永久機関にはならないと証明できる。これらは、不可能に取り組む練習に向いた問題ではない。
ある分野について混乱していると、その問題はひどく恐ろしく、謎めいて感じられ、脳に聞いても解決策はゼロ個だと返ってくる。だが、混乱が晴れたあと、どれほど仕事が残るかは分からない。もちろん、混乱を解くこと自体が非常に難しいかもしれない。それでも、そこに「不可能」という語を使うべきではない。混乱があるのは地図の中で、領土ではない。
だから、不可能な問題に数年取り組み、行き止まりを避けるか抜け出すことができ、前進できるだけの生来の能力があれば、なんと、数年後には結局それほど不可能には見えなくなるかもしれない。
だが、不可能に見えることは試さない。
これこそ悪循環だ。
「40年とマンハッタン計画」も、ならば早く始めようという意味にしかならないほど、私が駆り立てられていなかったら、試さなかっただろう。問題にしがみつかなかったし、怖さが薄れる機会も得られなかっただろう。
普通、私は、逆向きのバイアスが打ち消し合うという説には好意的でない。だが、ときには運よくそうなる。初めから山全体を見ていたら、自己改善できる種を作ることではなく、正しさを証明できる友好的AIを作ることが問題なのだと分かっていたら、おそらく私は火を噴いていただろう。
それでも、AGI研究者の大半を占める、平均以上の科学者たちを理解するには、彼らは40年かかってもほぼ不可能な問題を引き受けるほどには、駆り立てられていないと認識する必要がある。たいていは、途方もない苦労なしに、わずか5年で解決できる「AIの鍵」を見つけたから、そこにいるのだ。
リチャード・ハミングは、同僚の科学者に二つの質問をして回ったという。「あなたの分野の重要な問題は何ですか？」「なぜそれに取り組んでいないのですか？」
重要な問題はしばしば、大きく、怖く、威圧的に見える。年10本の論文は約束してくれない。何の進歩も約束してくれない。一年、五年、十年取り組んでも、何も報われないかもしれない。
しかも、その分野で最も重要な問題が不可能だということも、珍しくない。だからこそ、意識を還元的に分解する仕事に取り組む哲学者は、それほど多く見当たらないのだ。
不可能に挑むのは、決して誰にでも向いているわけではない。並外れた才能は、ただテーブルにつくための参加料だ。賭けるチップは、人生の歳月である。それを賭けて失う可能性が耐えがたいなら、別のことをしてほしい。本気で言っている。負けることはあるからだ。
「大切な教訓を学べるので、誰もが一生に一度は不可能なことをすべきだ」などと言うつもりはない。大半の人はいつでも、そして誰でも大半のときには、可能なことにとどまるべきだ。
決して諦めるな？ ばかを言ってはいけない。不可能への挑戦は、ごく特別な場合に取っておくべきだ。いつ希望を捨てるかを学ぶのは、人生の大切な技能である。
だが、人生を無駄にすることよりさらに悪い何かを想像でき、30枚のチップより重要なものが欲しくて、不便な人生より恐ろしいものがあるなら、不可能に挑む理由があるかもしれない。
困難の中でも粘ることには、良い点がたくさんある。だが、言わなければならないのは、それが物事を難しいままにし続けるということだ。それに耐えられないなら、近づかないでほしい！ 華やかさや敬意を得るには、もっと楽な方法がある。これを読んで、必要もなく、永遠に困難な人生へ頭から飛び込む人がいてほしくはない。
結びとして、重要な問題に取り組むための「粘り強さ」には、一日14時間働くことを超えた要素がある。
自分について何に気づき、何に気づかないかという型は、不思議なものだ。その選択性は、いつも自己像を膨らませるためではない。ただ、目立つかどうかによることもある。
仕事を続けることは、私には絶え間ない苦闘だったので、目立っていた。一日14時間、休まず働けないことには気づいた。「粘り強さ」が秒や年の尺度にも当てはまるとは、思いつかなかった。自分の試したくないことを即座に「不可能」と言う人や、「5年」でなく二十年ほどかかりそうな仕事をひどく嫌がる人を見るまでは。
そのとき、粘り強さは複数の時間尺度に当てはまると分かった。秒の尺度では、最初の困難の兆しだけで即座に諦めないこと。年の尺度では、不便で、別の場所ならもっと個人的に報われるとしても、途方もなく難しい問題に取り組み続けることだ。
非常に難しいことや「不可能」なことをするには、
まず、逃げ出さないこと。これには数秒かかる。
次に、働くこと。これには何時間もかかる。
そして、粘り強く続けること。これには何年もかかる。
このうち第一は、たまにではなく確実にできるよう学ばなければならなかった。第二は、今でも絶え間ない苦闘だ。第三は、自然にできる。