認知領域間の距離 | AGI Hub · Wikitags 日本語版

この AIアラインメントの文脈では、二つの異なる認知領域における能力が、それらについて推論するアルゴリズムのクラスに対して、どの程度分離可能なのか、あるいは逆に強く絡み合っているのかが、非常に重要になりうる。

XとYを「別々の領域」と呼ぶことは、少なくとも「Yについて知る必要なしにXについて上手に推論することを学べる」または「Xについて上手に推論する方法を必ずしも知らなくても、Yについて上手に推論することを学べる」のいずれかを主張することである。

背景領域Wに対して、領域集合Zの中でXを独立した領域と呼ぶことは、次を意味する。エージェントがZ内のどの領域について推論する際にも使える、ほかの背景アルゴリズムと知識Wを所与とする。そのうえで、主として相互に関連し、Z内の非X領域の考えとは絡み合っていない考え・方法・知識を用いて、領域Xについて上手に推論できる。

例として、領域XとYが「青い車」と「赤い車」だとしよう。青い車について上手に推論する方法を知るエージェントは、次の意味で、赤い車について上手に推論できるエージェントにほぼ間違いなく きわめて近い。そのため、XとYが明確に分離された領域であるとは考えにくい。

青い車について私たちが行いたい、または予測したいことのほぼすべてについて、そのように青い車を操作または予測するための、最も単純、最速、または最も発見しやすい方法は、赤い車の操作または予測にも使える。青い車と赤い車の領域が「自然に」非常に近いというのは、この意味である。

自然なエージェント設計の大半では、青い車について推論できるエージェントの状態または仕様は、赤い車について推論できるエージェントの状態または仕様に、おそらくきわめて近い。
- 青い車について上手に推論するエージェントを、赤い車について上手に推論するエージェントへ変換するのが難しくなる唯一の理由は、赤い車について上手に推論できないようにする特別な追加要素が、エージェントの設計へ加えられている場合である。この場合、赤い車についての学習を妨げる抑制を解きほぐして削除するために必要な追加の改変だけ、設計距離は大きくなる。しかしそれ以上ではなく、「青い車」と「赤い車」の領域は自然に近い。

青い車について上手に推論する方法をすでに学んだエージェントが、赤い車についても上手に推論するために必要とする追加の知識または学習量は、おそらくごくわずかであるか、まったくない。（これも、そのエージェントに、赤い車について下手に推論させる特別な設計要素が追加されている場合を除く。）

より複雑な場合、どの領域が本当に互いに近いのか、遠いのか、あるいは簡潔に切り分けられるのかは、理論を前提とした主張である。（ことさらに反対しようとしているのでなければ、）青い車と赤い車が非常に近い領域であることに異論を唱える人はほとんどいないだろう。次のことに関する予測では、研究者の意見はもっと割れやすい。

（既定で、ほかの条件が等しく、異なる振る舞いをさせる追加要素を含まない設計などを仮定して、）車の設計が得意なAIは、飛行機の設計方法を学ぶことにも非常に近い可能性が高いか。

（素直な設計を仮定して、）ソフトウェアを含む車の設計で超人的な工学能力を獲得した最初のAGIは、新しい数学的証明を発明する領域でも、少なくとも人間並みである可能性が高いか。

（素直な設計を仮定して、）ソフトウェアを含む車の設計で超人的な工学能力を持つAGIは、人間心理の理解と操作に必要となる事実や考えの大半について、必然的に考える必要があるか。

「汎用知能」との関係

この種の意見の相違の一部における重要なパラメータは、話者が汎用知能という概念をどれほど信頼しているかであろう。具体的には、重要な領域で人間並みまたは超人的な性能を得るための自然な、または最も素直な方法が、比較的汎用的な学習アルゴリズムを用い、その領域を特殊事例として学習させることである、とどの程度考えるかである。

車のソフトウェアを書くことも含め、車の設計が超人的に得意な心を構築する際、わずかな、または少量の適応で数学的証明問題を見て解明できるような汎用的アルゴリズムと方法を用いないためには、奇妙または歪んだ設計が必要になると考えるなら、「車を設計する」「定理を証明する」その他多くの領域は、ある意味で 自然にはそれほど分離していないと考えていることになる。議論のためにそう仮定すれば、人間が、一見まったく異なる非常に多くの認知領域でチンパンジーよりはるかに優れているのも、それが理由である。同じ能力、すなわち汎用知能が、そのすべてを解くのである。

一方で、超人的なチェスAIは囲碁を打てず、AlphaGoは車を運転できないという事実を重視するなら、人間があらゆることに汎用知能を使うのは、一本の金槌しか持たない私たちが、すべてを釘として扱おうとしている一例にすぎないと考えるかもしれない。そして、超人的な技術者ではあるものの、フェルマーの最終定理を証明できる種類の心からは心の設計空間において非常に遠い、特化した心の設計のほうが、超人的技術者を作る自然で効率的な方法になると予測するかもしれない。

詳しい議論については、汎用知能の項目を参照。