一見すると自明すぎるように思えるかもしれない、 低影響 の特殊な場合がある。ある効用関数を持つエージェントが無害に停止するような効用関数を、どうすれば作れるだろうか。たとえば、宇宙の全物質を同化し、AIが永遠に停止したままであり、何らかのごく小さな確率で偶然再起動されないことを絶対確実にする環境内のサブエージェントを作ることなしに、である。停止効用関数と、 反省的に安定した仕方で効用関数を切り替える安全なボタンがあれば、この二つの機能を組み合わせて、安全な停止ボタンを備えたAIを作れる。
さらに望ましいのは、過去のすべての計画と行動を低影響な仕方で安全に中断すること、そしてたとえばログファイルを保存したままAI自身をディスクに休止させることを促す、 中止 効用関数である。この効用関数と、それへ切り替える安全なボタンがあれば、いつでもAIの現在の行動を安全に 中止 できる。(ただし、これはより難しいため、まず停止効用関数だけに取り組むのが賢明と思われる。)
岩石がこの要件を自明に満たしてしまうのを避けるため、次の条件を加えるべきである。(1) 停止効用関数は、汎用知能エージェントに「自分の電源だけを切り、ほかには何もしない」という振る舞いを生じさせるものでなければならない。そのエージェントは、代わりにペーパークリップ効用関数を接続すれば、ペーパークリップを生産するようなものである。(2) 停止関数は 万能安全 でなければならない(他のあらゆる結果をプリミティブな行動として利用できる場合でも、AIは安全に停止する)。
「あらゆる結果の効用が等しい」は、停止効用関数にはならない。この場合、ほとんどの無制限分析の形態では、実際にどの行動が生じるかが未定義になるからである。本質的には、AIの内部システムが自身の慣性に従って動き続け、整合的で有害かもしれない何らかの未定義の振る舞いを生むことになる。何も同定できず未定義の振る舞いを生む効用関数ではなく、無害な振る舞いを同定する効用関数が必要である。