心の設計空間は広大である

可能な心の設計からなる巨大な空間を想像してほしい。その中では、これまで生きた人間全員が一つの小さな点に収まる。私たちは皆、同じ大脳皮質、小脳、視床などを持つ。「人工知能」を、川向こうに住む風変わりな部族のようなものとして思い描き、この異国の部族にはどんな奇妙な慣習があるのかと問いたくなる傾向がある。実際には、「人工知能」という語は、小さな人間の点の外にある可能性の 全空間を指しているにすぎない。したがって、AIについての問いの大半に対する答えは「AIの厳密な心の設計による」かもしれない。同じ理屈から、可能なすべてのAIにわたる普遍的な主張は、少なくとも一つのAIについての主張より、はるかに疑わしい。あらゆる心の設計からなる広大な空間に、選択可能な二値の設計判断が少なくとも10億個あると想像するなら、異なる心の設計は少なくとも 2^{1,000,000,000} 個ある。「可能な心の設計はすべて特性 P を持つ」という形の主張には、誤りとなる機会が 2^{1,000,000,000} 回ある一方、「特性 P を持つ心の設計が少なくとも一つ存在する」という形の主張には、真となる機会が 2^{1,000,000,000} 回ある、と言えるだろう。これは、心の設計の 大半が持ちうる特性について考えることを妨げない。しかし、 Pという特性が 通常は成り立ちそうで、それが望ましくないなら、例外的に P が偽となる心の設計の特殊例を、おそらく見つけられることを示唆する。