どの高度エージェント性質が予見可能な難しさを生むかを区別する

良い思考の大きな体系を作る一般的なプロジェクトは、考えをモジュール的な部分へ分解し、前提と結論を区別し、どの推論段階を使っているか明瞭にラベル付けすべきである。これを AIアラインメント理論へ適用すると、AIの潜在的に難しい、または危険な将来の振る舞いを提案するなら、どの特定種類の高度性または認知的知能がその難しさを生むと想定しているか区別すべきだ、と示唆される。言い換えると、想定上の 予見可能な難しさ には、それと対応する 高度なエージェントの性質 の提案が伴うべきである。