最近のxkcdの漫画は、英語で最もよく使われる1,000語だけでサターンVロケットを説明していました。ロケットは「上に行くやつ5号」、液体水素の供給管は「燃やすために冷たくてぬれた空気を入れるもの」と呼ばれていました。これに触発されたある遺伝学者は、よく使われる1,000語以外は使えないUp-Goer Five Text Editorを作りました。最近、Mental Floss はこの制約のもとで説明された科学のアイデア18選をまとめています。
これがMIRIとどう関係するのでしょうか。若い哲学者のロビー・ベンシンガーが、このUp-Goer Fiveテキストエディターを使ってMIRIの五つの主張を書き直してくれたのです。なかなか面白い仕上がりになっています。
- 知能爆発：ものをあまり使い減らさずに、いろいろな場面で難しいことをうまくできるコンピューターを作れば、もっとよいコンピューターを作るのを手伝ってくれるかもしれません。コンピューターは人より速いので、新しくてもっとよいコンピューターを作る仕事のほとんどを、じきにコンピューターがするようになるでしょう。新しいコンピューターが速くなり、部品もどんどん増えるにつれて、起きていることを人が思いどおりに動かしたり、わかったりするのは難しくなるでしょう。もっとよいコンピューターをすばやく簡単に作る方法がなくなるころには、いちばんよいコンピューターは、何が起きるかを思いどおりにする力で、人をはるかにはるかに上回っているはずです。
- 直交性：コンピューターが違えば、そして広くいえば考えるものが違えば、欲しいものも大きく違うことがあります。人にとてもよいものを欲しがることも、とても悪いものを欲しがることも、その間のどんなものを欲しがることもあります。力のあるコンピューターが人と同じようには考えず、ありうるコンピューターのほとんどが、人と同じように世界を変えようとはしないことは、かなり確かです。
- 道具的目標の収束：考えるもののほとんどは、それぞれ欲しいものが違っても、それを手に入れるために同じものをたくさん必要とします。コンピューターと人が長い目で見て欲しがるものは、互いにまったく関係がないかもしれません。それでも、それぞれのものを手に入れるには、まず同じものを取り合わなければならないことがあります。
- 価値の複雑さ：人がしてほしいことをすべてして、してほしくないことは何もしないコンピューターを作るには、ものすごい数の部品を、すべてぴったり正しく組み合わせる必要があるでしょう。
- 価値の壊れやすさ：その部品のいくつかを少し間違えただけで、コンピューターはその先ずっと、悪いことばかり起こすようになるでしょう。私たちが望むことのほとんどすべてが起きてくれなければ、まったく楽しめません。
以上です。どういたしまして。