未解決の「other-izer」問題とは、最大化、充足化、改善化、および既存だが満足できない他のいくつかのイディオムとは別に、 有界エージェント の最適化イディオムとして実際に適し、かつ 反省的に安定した何かを見つける問題である。
標準的な理論では、エージェントを、常に利用可能な選択肢のうち期待効用が最も高いものを選ぶ期待効用 最大化器 だと仮定しがちである。しかしこれは現実的なイディオムではない。計算能力の限られた現実的な 有界エージェント には、考えうるすべての行動の期待効用を計算できないからである。
たとえば期待効用が少なくとも0.95である限り、どの方策でも是認しうる期待効用充足化器の方が、はるかに現実的だろう。しかしこれも、実際のAGIには適さないように思われる。たとえば方策Xが少なくとも0.98の期待効用を生むなら、ほぼ常に方策Xを選ぶ一方で、期待効用0の方策Yを小さな確率で選ぶ無作為化でも、充足基準を満たしてしまう。これは不必要に大きな効用を手放すように見える。ほかの点ではアラインメントされたAGIが実際にそのようなことをしていれば、私たちはおそらくかなり不安になるだろう。
充足化はまた 反省的に整合的 ではあるが、 反省的に安定 ではない。 タイリング・エージェント理論 は、同様の充足化器の構築を是認する充足化器を定式化できるが、充足化器は最大化器へタイリングすることもできる。期待効用が少なくとも \theta, を達成する方策を是認することがあなたの意思決定基準であり、期待効用を 最大化 する自分自身の版なら少なくとも \theta, を達成すると期待するなら、期待効用最大化器になるよう自己改変することを是認するだろう。これは、充足化以外の最適化の定式化を好むべきもう一つの理由である。AIが強く自己改変するなら、「充足化」という性質が残って分析を引き続き適用できる保証はない。また強く自己改変しないとしても、自身の内部や環境内に、充足化しない認知機構の部分を作り出すかもしれない。
改善化器は現在の方策を持ち、それを期待効用が増える方策でのみ置き換える。この場合も、改善化器が別の改善化器への自己改変を是認でき、したがってこのイディオムが反省的に整合的であることは示せる。しかし、反省的に安定しているとは思われない。改善化器のままでいるより、最大化器その他になる方が期待効用が高いかもしれないからである。
「other-izer」という未解決問題は、資源制約のあるエージェントの最適化イディオムとして実際に意味をなし、たとえば タスクAGI に実行させてもよいと思えるものとして、最大化、充足化、改善化より優れた何かを見つける問題である。それは少なくとも反省的に整合的であり、できれば反省的に安定していなければならない。
さらなる望ましい性質、すなわち最適化強度を調節するパラメータとして、other-izerが備えていると好ましいものについては「穏健な最適化」も参照されたい。