友好的AI（Friendly AI）

「友好的AI（Friendly AI）」または「FAI」は、 Yudkowskyが、ある 高度なAIが人間的価値の何らかの アラインメントを達成し、その価値の 理想化された版、たとえば 外挿された意志と一致することを意味するために考案した古い用語である。現在の用法では、Yudkowskyが当初思い描いていた筋書きを反映し、かなりの 自己主権性を持つこと、および／または望ましい戦略レベルの帰結を自ら 同定できること、という弱い含意を伴う。「非友好的AI（UnFriendly AI）」または「UFAI」は、人間的な目的を特に 目標としていないもの、たとえば ペーパークリップ最大化器を意味する。（これは、短期的な目的だけを考慮する ジーニーや、さらに言えば岩のように、UFAIでもFAIでもないものが存在することを意味する点に注意せよ。）