行動する — Machine Intelligence Research Institute 日本語資料

AI分野の有力な研究者や研究機関の多くが、将来の人間より賢いAIシステムは、人類を絶滅させる深刻なリスクをもたらすと警告しています。

当然の対応は、そのようなシステムを作らないことです。私たちは国際社会に、停止スイッチを設けるため、直ちに行動するよう提案します。これは、手遅れになる前に危険なAIプロジェクトを停止するために必要な、国際協定、政策、物理的インフラのことです。そのため、政策立案者が問題の性質と緊急性を理解するのを助ける活動をしています。

しかし、力を持つのは政策立案者だけではありません。指導者は、有権者の意見に反応します。一般の人々が理にかなったAI政策を強く求めるほど、政策立案者がそれに力を注ぐ可能性が高まります。

あなたも、この問題を広く伝える力になれます。

その方法を、このページで説明します。

周囲に伝える活動と参考資料

さまざまな技能や経歴を持つ人が、将来のAIシステムによる絶滅リスクについて、政策立案者や一般の人々に知らせる力になれます。同僚に話すことから、ポッドキャストで質の高い対話の場を設けることまで、多くの選択肢があります。

問題を知ってもらうだけで世界を救えるわけではありません。しかし現在、それは、しっかりした政策対応に先立つ重要な条件に見えます。

そこで、多くの読者に向けた、私たちのいちばんの呼びかけはこうです。こうしたリスクについて周囲の人と話し始め、自分自身と周りの人々の理解を、一段ずつ深めてください。効果的に行うための助言を挙げます。

自分の目で確認できるまでは、ほかの誰かが対処してくれていると思い込まないでください。傍観者効果を避けましょう。
将来のAI開発については、大きな不確実性がありえます。しかし、「状況が不確かだ」と「何もしないのが最善だ」を混同しないでください。

この分野が将来どの道を進むかを予測しようとすると、専門家も、多くの点で手探りです。しかし、これは人間より賢いAIの開発を競って進める言い訳にはなりません。この技術を導入した場合にありうる結果の大部分は、きわめて悪いものだからです。

技術者が、自分の橋が崩落するかどうかについて大きな不確実性を抱いているなら、その橋に車を通すべきではありません。科学界が人類に深刻な絶滅リスクをもたらすと見ている発明に対し、それよりはるかに緩い基準を適用するのは、不合理に思えます。ここで行動すべき理由は、きわめて明快です。
最後に、自分の声を届けてください。人工超知能の開発はすべての人に影響し、すべての人に意見を述べる権利があります。

自分たちの産業を規制することについて、AI開発者は、短期的には複雑な誘因に直面しています。また、人工超知能の開発で利害を持つ中心的な当事者は、システムを作る技術者だけでなく、人類全体です。警鐘を鳴らすうえで専門家は重要な役割を担いますが、人間よりはるかに賢いAIシステムの開発を急ぐのがなぜまずいのかを正確に理解するために、何年もの技術的経験が必要だとは、私たちは考えていません。

さらに、専門家と一般の人々の両方が深刻な懸念を示していれば、政策立案者はリスクにずっと反応しやすくなるでしょう。目指すべきなのは、技術的な理解のあらゆる水準で、この話題について多くの会話が並行して起きることです。

もっと学んだり、
ほかの人に共有したりするのに使える資料はありますか？

私たちが主に勧める入門資料は、問題の概要です。2ページの要約版もあります。

ほかにも、次のような解説が役立つと感じています。

MIRIによる短い入門：TED講演（視聴11分）と、TIME誌への寄稿（読むのに11分）。
MIRIによる長めの入門：一般向けのBloombergによる動画インタビュー（視聴24分）と、技術的な読者向けの「AGIによる破滅」（読むのに28分）。
Financial Timesの「神のようなAIを目指す競争を減速させなければならない」（読むのに17分）。もっと短い記事には、CNNやNew York Timesの記事もあります。
Mediumの「超知能による絶滅を防ぐ」（読むのに10分）。

AIリスクについて役立つ伝え方をするための助言はありますか？

大まかな点としては、次のとおりです。

多くの人に届く伝え方を優先してください。たとえば、数百人が聴くポッドキャストは、個別の一対一の会話より、時間のよい使い方になるかもしれません。
小さいけれど熱心な集まりを作るより、広い連携を作るほうが役立ちそうだと意識してください。政治家がこの問題について効果的に行動するには、超党派で国際的な、幅広い支持が必要になるでしょう。党派間の分断と対立の固定化は、非常に悪い事態を招く可能性があります。個々人のAIリスクの語り方は、より大きな議論が生産的で中身のあるものになるか、それとも党派的な綱引きに終わるかを、左右する一因になります。
「何かしなければならない。これは何かだ。だから、これをしなければならない」という誤った推論には注意してください。どの行動が実際に最も役立ちそうか、よく考えましょう。
状況を悪化させないでください。非倫理的な振る舞いや、相手を操作するような行為は、目的に役立つよりも、裏目に出る可能性のほうがずっと高いのです。
破滅的なAIリスクについて伝えるときは、率直さ、開かれた姿勢、誠実さを優先してください。相手が何を信じているかを尋ね、一つひとつの議論で勝つことより、真実を探ることと誠実であることを大切にしてください。失うものが大きく、時間が重要だからといって、災害を防げるよう世界の状況を少しでも改善するには、正直であるより欺くほうが有用だ、ということにはなりません。

要するに、ある話題を初めて知る人や、自分と意見が違う人などと、互いを尊重して話すなら当然することをしてください。間違え、学び、大胆に行動してください。机上でよさそうに聞こえることだけでなく、実際にうまくいきそうなことを行ってください。それ未満で妥協してよいほど、失うものは小さくありません。

仕事と寄付先

MIRIは、活動を支える資金提供者を積極的に求めています。詳しくは寄付のページをご覧ください。

今すぐ寄付する

私たちは、広報チームと技術ガバナンスチームの拡大も進めています。求人への応募は2024年10月17日時点で締め切っていますが、再開するときは、月刊メーリングリストとX/Twitterでお知らせします。

メーリングリストに登録する

AIリスクに関わる分野で、よい活動をしていると私たちが考える団体は、ほかにもいくつもあります。この問題に専業で取り組みたい方には、これらの団体の求人への応募を勧めます。また、寄付先として、そして、より多くの団体やプロジェクトが取り組んでほしい活動の例としても、勧めます。

これは網羅的な一覧ではありません。また、これらの団体すべてを全面的に支持しているわけでも、あらゆる点で同意しているわけでもありません。逆も同様です。それでも、どの団体も、期待される効果としては、実際に役立つ活動をしていると考えています。

より一般的に、破滅的なAIリスクへの対処に役立ちそうだと私たちが考えるプロジェクトや仕事には、次のものがあります。

政策と提言活動 — 推進する価値のある政策の取り組みは数多くありますが、米国と国際社会を、停止スイッチの設置へ直接近づける仕事は、特に価値が高いと考えています。
一般向けの啓発 — これらの問題に関する人々の全般的な理解を深めることは、効果的な政策対応に不可欠かもしれません。同時に、将来のAI開発に世界全体がうまく対応する力にとっても、重要です。将来の展開の中には驚くべきものもあるでしょうし、思いがけないところから希望の道が見つかるかもしれません。今日、理にかなって見える特定の政策を訴えるだけでは不十分です。意思決定者が将来うまく対応するには、この問題をもっとよく理解する必要があります。
人間の能力向上と全脳エミュレーション — これまで研究者は、技術的なアライメント問題の解決で、それほど成果を上げてきませんでした。世界の最も優れた人材の能力を質的に高めたり、思考を速めたりできれば、アライメントがAI能力に「追いつく」ことを可能にし、この問題の解決を助けられるかもしれません。成功の見込みは小さそうですが、規制による解決と並行して追求する価値はあります。
コンピューターと情報のセキュリティ — セキュリティの技能や方法論にはAIアライメントへの応用が多くありますが、有力なAI研究所の情報セキュリティを改善するうえで、特に価値があるかもしれません。危険な技術の開発を止めることより優先順位は低いものの、その技術が公開インターネット上へ流出したり、強い意志と豊富な資源を持つ攻撃者の手に渡ったりしないことには、確かな利点があります。とりわけ、世界が停止スイッチを設けるまでの時間を稼げますし、モデルが訓練された後でも、停止スイッチが有効に働くようにできます。
AIアライメント — 超知能のアライメントに私たちが成功する見込みは非常に低そうなので、この研究は短期より長期で重要に見えます。それでも、ほかの有用な仕事と並行して進める価値はありそうです。アライメント研究を支援するうえでの主な懸念は、それが能力向上の研究と重なることが多く、そのため、益より害を大きくしやすいことです。それでも、場合によっては利益が費用を上回ると予想します。たとえば、私たちはクリス・オラーの機構的解釈可能性チームの研究を強く支持しており、興味深い成果をいくつも出していると考えています。
予測、合理性、制度改革 — 新しい技術について政策立案者が協調し、判断する能力を高めることは、大きな効果を生む可能性がありそうです。ただし、こうした取り組みが短期間でどれだけの影響を与えられるかについては、悲観的です。