高度なエージェントの理論

AIアラインメントの多くの論点は、認知的に強力なエージェントの一般的な設計空間について事実として何を言えると考えるか、またはどの背景仮定から高度なエージェントについてどの含意が得られるかに依存する。たとえば、 直交性テーゼ は、強力なAIの一般的設計空間についての主張である。高度なエージェントの設計空間は非常に広く、その 全体 について真でありそうなのは、きわめて弱い記述だけである。しかし、それでも「XならY」と述べようとし、「Xという条件は不要で、Yはどのみち起きる」という主張を反証できる。