反省的整合性

意思決定システムが、同様の意思決定システムの構築を承認できるなら「反省的に整合している」。たとえば、期待効用充足化器（空行動を取るか、期待効用が \thetaを上回る行動を取る）があるとする。このエージェントは、同じく何も行動しないか、期待効用が \theta. を上回る計画を承認する別のどんな設計へも自己改変できる。充足化器は、期待効用最大化器へ自身を変えることも承認するかもしれない（この自己改変自体が少なくとも \thetaの期待効用につながると予想する場合）が、少なくとも別の充足化器による自己の置き換えは承認する。一方、 因果的意思決定理論家 は、自己改変の機会を与えられると、 因果的意思決定理論家でないものの構築だけを承認する。ある性質が、より強い 反省的安定性 の条件を満たすのは、その性質を持つ意思決定システムが、同じ性質を持つ別の意思決定システムによる自己の置き換え だけを 承認するときである。たとえば、 ペーパークリップ最大化器 は通常、ペーパークリップを最大化するという性質を保存するコード変更だけを承認する。したがって「ペーパークリップを作りたいこと」は、反省的に 安定 しており、単に反省的に 整合しているだけではない。