非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

「枠の外」という枠

The “Outside the Box” Box

❦

誰かが「枠にとらわれずに考えろ」と勧めるとき、その人はたいてい、親切にも、「枠の外」がどこにあるのか正確に教えてくれる。体制に従わない人たちが、みんな同じ服装をしているのは、おかしくないだろうか……。

人工知能の分野では、分野外の人はみな、素晴らしい、斬新で革命的なAIのアイデアについて、キャッシュ済みの答えを持っている。人間の脳とまったく同じように働く、ニューラルネットワークだ! 新しいAIのアイデア。パターンの続きを埋めよう。「論理型AIは、あれほど大きなことを約束しておきながら、何十年も本物の知能を生み出せていない。必要なのはニューラルネットワークだ!」

このキャッシュされた考えは、もう30年も出回っている。いまだに汎用知能はない。なのに、どういうわけか、1970年代に誤差逆伝播法が発明されて以来ずっと、ニューラルネットワークこそが「支配的パラダイムを覆す新発想」なのだと、分野外の誰もが知っている。まさに、年老いたヒッピーだ。

非同調者のイメージは、その性質上、規範から外れることを許さない。黒い服を着なければ、苦悩する芸術家だとどうやってわかってもらえる? 「独特な人ならこう見えるはず」という標準的な型にはまらなければ、独特さをどうやって認めてもらえる? ニューラルネットワークの話でなければ、革命的なAIの構想を持っていると、誰がわかってくれる?

同じお決まりの構図の別の例が、「体制を揺さぶる」文学だ。どれも同じように聞こえるうえ、英文学科を丸ごと牛耳る、少数の反骨の反逆者たちに支えられている。スコット・アーロンソンのブログで、匿名の投稿者はこう問う。

これまで読んだ体制を揺さぶる文学の中に、あなたの政治的見解を何か一つでも変えさせたものはありますか?

あるいは、Lizardはこう述べている。

革命はすでにテレビ放送された。革命は商品化された。革命は商品、パッケージ化されたライフスタイルとなり、近所のショッピングモールで手に入る。19ドル95セント払えば、黒い覆面とスプレー缶、「ファシストをぶっ潰せ」の抗議プラカード、それにブログへのアクセスが手に入る。そこには、消火栓に自分を鎖でつないだときに受けた警察の暴力を書ける。資本主義は、反資本主義の売り方を学んだのだ。

シリコンバレーでは多くの人がこう指摘している。いつの時点でも、ベンチャーキャピタリストの大半はみな同じ「革命的イノベーション」を追いかけており、それは半年前に株式公開した「革命的イノベーション」なのだ。この観察は、ベンチャー投資ではとりわけ痛烈だ。群れに従わないことに、直接的な経済上の動機があるからだ。群れに従えば、誰かほかにもその製品を開発しているか、あるいは、誰かがその新興企業に高すぎる買値をつけていることになる。スティーブ・ジャーベットソンが以前教えてくれた話では、ドレイパー・フィッシャー・ジャーベットソンでは、どんな新興企業にも、パートナー2人が同意すれば150万ドルまで出資できる。そして、パートナー全員がよさそうなアイデアだと同意するものには、出資しない。研究助成の審査委員会にも、これだけの正気があればいいのに。

独創性の厄介なところは、それを手にするには、脳にパターンの続きを埋めさせるのではなく、実際に考えなければならないことだ。「枠の外」と親切に札が貼られ、すぐに駆け込める場所などない。そこには、ほとんど禅に通じるものがある。悟りとは言葉が役に立たなくなる経験だから、悟りを言葉で教えることはできない、というのに似ている。禅師の指示に言葉どおり従おうとすればするほど、無心の境地から遠ざかる。

目新しさを目指しても目新しさに到達できないのには、理由があると思う。真実であることや設計がよいことは、目新しさとは独立した性質だ。2 + 2 = 4。そう、本当に。ほかの誰もがそう考えているとしても、だ。真実を発見しよう、よい設計を考案しようと努める人は、時がたつうちに創造性に到達するかもしれない。あらゆる変化が改善になるわけではないが、あらゆる改善は変化だ。

あらゆる改善は変化だが、あらゆる変化が改善になるわけではない。「最適なネズミ捕りを作りたい!」ではなく、「独創的なネズミ捕りを作りたい!」と言う人は、ほとんどの場合、独創的だと見られたいのだ。

この意味での「独創性」は、本質的に社会的なものだ。他人との比較でしか決められないからである。そこで脳は、何が「独創的」と見なされるかという標準的なパターンの続きを埋めるだけになる。友人たちは同意してうなずき、それは体制を揺さぶるものだと言ってくれる。

ビジネス書はいつも親切に、あなたのチーズがどこへ移されたのか教えてくれる。そうしないと読者は、「行けと言われたこの『枠の外』って、どこにあるんだ?」と言いながら取り残されてしまうだろうから。

実際に考えることは、悟りと同じく、言葉によらない心の働きだ。

モンティ・パイソンの偉大な哲学者たちが、『ライフ・オブ・ブライアン』で、これを誰よりもうまく言っている。1

「自分で考えるんだ! 君たちは一人ひとり別の人間だ!」

「そうだ、私たちは一人ひとり別の人間だ!」

「君たちはみんな違うんだ!」

「そうだ、私たちはみんな違う!」

「一人ひとり、自分で答えを出すんだ!」

「そうだ、私たちは自分で答えを出さなきゃいけない!」

Graham Chapman et al., Monty Python’s The Life of Brian (of Nazareth) (Eyre Methuen, 1979). ↩