WIKI CONCEPTスコア 0

善良さは第一の防衛線である

Niceness is the first line of defense

この日本語訳は、表示本文の全体がYudkowskyまたはSoaresに帰属すると確認できたページだけを対象にしています。

どのような十分に高度な 汎用人工知能を構築する場合でも、第一の防衛線は、あなたを傷つけることを望まないAIを作ることである。AIを箱に閉じ込めることや、AIがインターネットへアクセスするのを防ぐことなど、他の措置はすべて、この第一の防衛線が破られた場合の最後の備えにすぎないと考えるべきである。AGIを設計するときはまず、こうした対抗措置がすべて存在しないかのように考えるべきである。そうすれば、どれほど大きな力を持っていても、私たちを傷つけることを望まないAGIを思い描こうとするとき、注意をそらされずに済む。

次も参照:非敵対原則、および方向づけ、制限、対抗の区別。

Wiki専用概念

このページにはLessWrong上の関連投稿一覧がありません。