次を参照:AI安全性のマインドセット。コンピュータセキュリティ、暗号、またはAIアラインメント理論における能力を示したいなら、問題全体を自分で解決するより先に、既存の解決策にある技術的に実証可能な欠陥を明らかにすることを考えるべきである。Bruce Schneierの関連する言葉はこうである。「優れた工学は、物事をどう動作させられるか考えることを含む。セキュリティのマインドセットは、物事をどう失敗させられるか考えることを含む」。また、「自分では破れないセキュリティシステムなら、誰にでも発明できる。あなたが破ったものを見せよ。そうすれば、そのシステムは安全だというあなたの主張に意味があると示せる」。
WIKI CONCEPTスコア 11
壊したものを見せよ
Show me what you've broken
この日本語訳は、表示本文の全体がYudkowskyまたはSoaresに帰属すると確認できたページだけを対象にしています。
Wiki専用概念
このページにはLessWrong上の関連投稿一覧がありません。