「十分に高度な人工知能」とは、ロボット自動車とは質的に異なる方法で考える必要があるほど大きな能力を持つ認知的な エージェント または認知アルゴリズムである。すなわち、 AIアラインメント理論 を適用し始める必要があるほど賢い機械知能である。
たとえば、AIが（a）自分に停止スイッチがあり、（b） 停止スイッチを押されると、ほかの目標を達成できなくなると知るまでは、AIが私たちに停止スイッチを押させないよう試みることを、おそらく心配する必要はない。
この知識はさらに、 全体像に関する戦略的認識の特殊例であり、それは 汎用人工知能を通じ、多くの領域について多数の事実を学習することから生じうる。
「 高度なエージェントの性質 」のページは、AIがこの意味で「十分に賢く」なりうるさまざまな方法と、その賢さを持つAIで遭遇しうる個々の問題を列挙し始めている。