「ランダム効用関数」とは、効用関数の形式的で簡潔な仕様からなる論理空間上の、何らかの単純な確率測度に従って選ばれた効用関数である。
例として、効用関数がコンピュータ・プログラム(たとえば、結果の記述を有理数へ写像するプログラム)によって指定されるとしよう。次に、コンピュータ・プログラム上の標準的な 普遍 事前分布から、ランダムなコンピュータ・プログラムを抽出する。すなわち、 2^{-\operatorname K(U)} である。ここで、 \operatorname K(U) は、効用を指定するプログラム のアルゴリズム的複雑性(Kolmogorov複雑性)であり、そのプログラムは U.
この自明な測度には、たとえば次のような修正をさらに加えられる。停止しないプログラムを考慮する、確率質量のほぼすべてを極端に単純なプログラムへ置かないようにする、 Uを最適化することが計算上扱いやすく物理的に可能かどうかについて、充足化基準を設ける( 直交性テーゼで仮定されているように)、などである。
価値の複雑性とは、ランダム効用関数の達成可能な最適値は、非常に高い確率で、ほぼゼロの 良さしか持たないというテーゼである。すなわち、ランダム効用関数にとって達成可能な物質の最適配置は、非常に高い確率で、道徳的には ペーパークリップと同等である。これはさらに、ランダム効用関数を持つ 超知能が、非常に高い確率で、道徳的には ペーパークリップ最大化器と同等であることを含意する。
「ランダム効用関数」は、次のもの ではない。
- 一般化された宇宙内のエージェントたちの間に実在しうる、何らかの効用関数の分布からランダムに選ばれた効用関数。つまり、ランダム効用関数は、無作為に選んだ実在するエージェントの効用関数ではない。
- 最大エントロピーの内容を持つ効用関数。つまり、ランダム効用関数は、区別可能な結果の一つひとつに、0から1までの一様なランダム値を独立に割り当てるものではない。(この効用関数を最適化することは扱いやすくない。誰かに報酬をもらっても、私たち自身には最適化できない。そのため、たとえば 直交性テーゼの対象にはならない。)