ヒューム的自由度

認知システムにおけるある量、ラベル、概念が、効用関数またはより一般化された選好の選択に依存するとき、「ヒューム的自由度」が現れる。たとえば「世界への重大な影響」という概念は、どの変数の変化がシステムの関心事へ影響するかに依存する。したがってAIに「この行動がもたらす重大な影響をすべて教えよ」と命じるなら、自分の選好に依存する計算を求めている。その選好は複雑性が高く、AIに特定させるのが難しいかもしれない。