有益性

「有益」は予約語であり、AIアラインメント理論において、話者が「規範的」「本当に実際に良い」「結果として見たい帰結」などで意味するものを示す、話者依存の変数である。話者がメタ倫理理論として外挿意志を用いるなら、「有益」は「話者の外挿意志によれば良い」という意味になる。まだ発達したメタ倫理理論を持たない人は、「有益」を「『理想的に望むべき』が一体何を意味するにせよ、自分が理想的に望むべきもの」という意味で用いるだろう。出来事、エージェント、方策が「有益」だと仮定することは、善さの評価に一切の誤りがなく、本当に実際に良かったと仮定することである。AIを有益にする難しさを論じるとき、単に本当に良いものにする難しさであり、良いと私たちに思い込ませるだけではないことを論じたい場合があるため、AIアラインメント理論にはこの語が必要になることがある。詳しくは「価値」を参照。