ユーザー最大化

次のものを避けるための下位原則である：ユーザー操作。AIを、Xに対するargmax、または「Xを最適化せよ」という命令で定式化し、しかもXがユーザーとの相互作用を部分として含むなら、AIにユーザーを最適化せよと命じたことになる。たとえばAIの行動基準が「方策pを選べ。そのために、ユーザーの指示が実行される確率Xを最大化・最適化せよ」だとする。ユーザーの指示が、Xの式の外にある定数ではなく内部の変数なら、AIにもっと容易な指示を出すようユーザーを仕向けよと命じたことになる。