「MIRIの2024年の使命と戦略の更新」で説明したとおり、MIRIは方針を転換し、技術的なアラインメント研究よりも、政策、コミュニケーション、技術的ガバナンス研究を優先するようになった。この記事では、その続編として、コミュニケーション戦略を詳しく説明する。
目標：開発を止める1
私たちの目標は、手遅れになる前に、主要国を説得し、 最先端AIシステムの開発を世界中で停止させること だ。これに満たない対策では、将来、人間より賢く、アラインしていないAIシステムが人類を滅ぼすのを防げない、と私たちは考えている。世界各国の政府に、十分に抜本的な行動を取るよう説得するのは容易ではない。だが、これが最も実現の見込みのある道だと信じている。
政策立案者が主に扱うのは妥協だ。こちらで少し譲り、あちらで少し得ることで連合を作る。私たちは、人類を生き延びさせるための法案の大半が、いつもの政治過程を通るうちに、効果のない妥協案へと削り込まれてしまうことを懸念している。
十分に強い法律を実現できる唯一の道は、政策立案者が本当に わかる ことだと考えている。アラインしていない、人間より賢いシステムを作れば、自分たちの子どもも含めて、全員が死ぬ と本当に理解することだ。この核心的な事実を理解して初めて、十分に強い法律を成立させ、執行するだろう。
その間にも、時間は過ぎていく。AI研究所は、より強力なシステムの開発と訓練への投資を続けている。必要としている広範な法律の実現には、まだ近づいていないように見える。そこで、人類が目を覚ますための土台を築く一方で、もっと控えめな要請もしている。政府とAI研究所に、 「停止スイッチ」を設けてほしい2 という要請だ。将来ある日、すべてを止めると決めたら、実際にそうできるようにするためである。
私たちは人類に目を覚まし、AIによる存亡リスクを真剣に受け止めてほしい。政治的に許容される議論の範囲であるオーバートンの窓を、ずらしたいのではない。打ち砕きたいのだ。
変化を起こすための考え方
ここから、目標をどう達成するのか、なぜこれがその方法だと考えるのかを詳しく述べる。取り上げる観点は次のとおりだ。
- 対象者：誰に語りかけるのか。
- メッセージと語り口：どのように伝えるのか。
- 媒体：どうやって対象者に届けるのか。
- 制作物：具体的に何を作る計画なのか。
対象者
主に届けたい相手は、私たちが望む広範な規制や政策を実現できる立場にある政策立案者と、そのスタッフだ。
しかし、政策立案者だけに対象を絞るのは費用がかかり、おそらくそれだけでは足りない。中には、私たちの主張を検証したり、深く考えたりするための背景知識がない人もいる。政策立案者が助言を求める人々の、少なくとも一部にも届ける必要がある。リスクについて明晰かつ慎重に考える力がある政策顧問、特に国家安全保障の経験がある人々の一部には、届くのではないかと期待している。官僚機構から「AIの専門家」と認識される、より幅広い層にも届いてほしいが、その圧倒的多数を説得できるとは思っていないし、それが必要だとも考えていない。
一般の人々にも届ける必要がある。政策立案者、とりわけ選挙で選ばれた人々は、有権者の期待に応えたいと思っている。一般の人々が規制を求めるほど、それが実現する可能性は高まる。私たちが求める具体的な措置が誰にでも支持されるわけではなくても、それらを選択肢に入れ、オーバートンの窓の中に置くことは、大いに役立つと考える。
これら三つの対象者向けに作るコンテンツの大半は、かなり基礎的な入門資料になるだろう。だが、技術に深く通じた人々にも届ける努力は続けたい。彼らは私たちの最も強力な支持者であり、最も深く納得しており、ほかの人を説得する可能性が最も高く、反対方向のカリスマ的なキャンペーンにも最も動かされにくい。そして、それ以上に重要なのは、高度な技術知識を持つ人々との議論が、私たち自身を厳しく検証するために欠かせないことだ。私たちは高い基準で評価されたい。それができるのは、技術に通じた人々だけだ。
メッセージと語り口
1年前にコミュニケーション責任者としてMIRIに加わって以来、もっと外交的に振る舞い、大胆さを抑えるべきだと、何人もの人から言われた。政治的な目標を達成するには、そのゲームの流儀に従うのだという。突飛すぎてはいけない。オーバートンの窓からはみ出さず、現実的でなければならない。地位と信用を蓄え、変わり者になるために使ってはいけない、と。
彼らが親切で、善意から助言してくれたとは思う。だが、私たちはその助言には従っていない。ほかの多くの組織が、そのアプローチを取っている。私たちは違うことをする。自分たちが理解しているとおりの真実を、ただ伝えるのだ。
そうする理由は三つある。
- 多くのほかの組織が、連合を築き、取引を重ねる現実路線を試みている。それらの組織で働く人の多くは、内輪では私たちに同意するが、公の場では薄めたメッセージを口にする。率直な発信をする側には空白があり、私たちにはそれを埋めるだけの適性があると考えている。
- 人々は、いつもの政治に感覚が鈍くなっていると思う。自分が誘導されているときは、それがわかる。私たちは、さまざまな見せかけや身構えを伴う政治劇、ケーフェイから降りた。単刀直入で、歯に衣着せず、正直に語り、ありのままの私たちとして伝わるようにする。
- おそらく最も重要なのは、「現実的な」政治的発言では、必要なことを成し遂げられないと考えている点だ。私たちが求める政治的措置は、大きなものだ。飾らないメッセージを丸ごと伝えるのでなければ、必要な行動を取る動機にはならない。
助言をくれる人々は、私たちを世間知らずだと思っていることが多い。初めて大都会へ出てきた田舎者で、ゲームの流儀を知らず、初歩的なメディア対応の訓練や指導が必要なのだ、と。すべての選択肢を検討し、熟考して、このメッセージと語り口にたどり着いたと知れば、驚くかもしれない。こう伝えるのは意図的だ。本当の成功に至る可能性が最も高いと考えるからである。短期的には軽く扱われたり、招待を取り消されたりするかもしれないとわかっている。一方、明快で裏のない目的を持ち、率直に話す人間だという評判は保たれる。また、私たちはコミュニケーションと政策の世界では比較的新参で、完璧ではなく、何らかの間違いや計算違いをしている可能性が非常に高いことも認めている。今後も注意を払い、学ぶにつれて戦略を更新していく。
媒体
これまで、寄稿記事、ポッドキャスト、新聞・雑誌・ラジオの記者によるインタビューを試してきた。各媒体の効果を測るのは難しいので、幅広く取り組んでいる。今後もすべてを続けるとともに、書籍、動画、場合によっては映画にも広げたい。
コンテンツは二種類に分けても考えている。一つは、安定し、長持ちし、こちらから働きかける「岩」のコンテンツ。もう一つは、現在の出来事に即応する、生きた「波」のコンテンツだ。岩には、ウェブサイト、ブログ記事、書籍、ほかにも数年にわたって役立つと期待できる制作物が含まれる。対して波は一時的で、24時間のニュースの流れに従い、主な居場所はソーシャルメディアやニュースである。
私たちは次のような循環を想定している。AIによる存亡リスクを知らない人が、トーク番組やソーシャルメディア、つまり波のコンテンツで初めて私たちを知り、メッセージに関心を持ち、もっと知ろうと調べる。ウェブサイトや著書、つまり岩のコンテンツに行き着き、知識が増え、懸念も深まる。すると、ソーシャルメディアをフォローしたり、ニュースレターを購読したりするかもしれない。再び波のコンテンツだ。こうしてフィードで定期的に私たちのメッセージを思い出し、さらに次へとつながっていく。
これは、現代ではごく標準的なコミュニケーション手法だ。だが、この循環を図にすることで、人々がどこで離れてしまうか、どこを強化すべきか、どこで基盤や能力を増やす必要があるかを特定できる。
制作物
循環を図にすると、ほぼどこでも多くの作業が必要だが、おそらく岩のコンテンツから始めるべきだとわかる。それが土台であり、長期的には投資が最も実を結ぶ場所だからだ。
そこで現在、この領域で次のようなコミュニケーション事業を検討している。
- 主として、初めてこの問題に触れる人にAIによる存亡リスクの基本的な根拠を示し、同時にMIRIの信頼性を確立する、新しいMIRIのウェブサイト。
- 一般読者向けの、短く、強く訴える書籍。
- 一般向けの科学書には盛り込むのを控えざるをえない、細かな違いや複雑さを掘り下げる、詳しいオンライン参考資料。
ほかにもアイデアはたくさんあるが、どれに投資するかは、まだ検討している。
取り組まないこと
集中することは、実行を助ける。コミュニケーションチームが何に投資 しない のかを述べることも重要だ。
草の根の働きかけ、抗議活動、デモなどには投資しない。私たちの強みを生かせるとは思わないし、この領域でほかの人々が前進していることを心強く感じている。個人として抗議活動に参加するメンバーはいる。
現在、AIシステムの恐ろしい能力を見せる実演を作ることにも重点を置いていない。これも現在の私たちの強みを生かす仕事ではなく、この重要な領域ではほかの人々が取り組んでいる。私たちが最も懸念する能力は、実演で示すのが実際には難しく、示せる頃には手遅れだと思う。ただし、その途中の能力や前兆となる能力を示す、ほかの人々の努力は評価し、支持している。
エリエゼル個人の影響力、知名度、届く範囲を広げることには、特に投資していない。むしろ逆だ。すでに、彼の時間、気力、持久力が制約になっている。人々のAIへの注目が高まれば、彼の知名度もおそらく上がり続けるだろう。潮が満ちれば、どの船も浮かび上がる。しかし、MIRIの表に立つ顔を多様にしたい。適任者が見つかれば、エリエゼル以外の広報担当者に大きく投資する可能性もある。
実行
この構想の実現を主に妨げているのは、人員だ。コミュニケーションチームは小さく、すべてを進めるには、一週間の時間がどうしても足りない。そのため、採用を進めてきたし、さらに増員するつもりだ。
執筆者をさらに採用したいし、誰かを編集統括の職に昇格させるかもしれない。広報担当者を追加で採用したり、協力関係を結んだりすることも検討している。また、プロジェクトを進めるジェネラリストをもう一人と、ソーシャルメディア・マルチメディアの専門担当者も採用したい。
これらの職の採用は難しい。最高水準の伝達力を持ち、妥当な論証だけを使う節度を心得ていて、MIRIの見方に賛同する人を探しているからだ。一つか二つの条件を満たす候補者は、三つすべてを満たす人よりずっと見つけやすい。最初の数人の重要な採用では、すべての条件を満たすことが大切だと考えた。チームが大きくなれば、説得力があり筋の通った文章を書く人を採用し、MIRIの見方を教えることもできるかもしれない。今のところ、私たちの見方をすでに共有する人に優れた文章の書き方を教えるより、力量があり筋の通った文章を書く人にAIによる存亡リスクを説明するほうが、簡単だと感じている。
支援の方法
最も役立つ支援は、AIによる存亡リスクを、普通に話せる話題にすることだと思う。このリスクを知っていた多くの人は、長年ほとんど口にせず、あるいは仲間内でしか話してこなかったのではないか。心当たりがあるなら、その方針を考え直してほしい。そして、友人や家族にこの話題を話すことを、もう一度、あるいは初めて試してほしい。どんな疑問があり、どこで理解につまずくのかを知り、そのつまずきを乗り越える手伝いをしてほしい。
MIRIがこの問題についての入門的なコンテンツを増やしたら、周囲の人々に共有してほしい。反応がどうだったか教えてほしい。実際に役立ったのか、どこが足りなかったのか。次に何を作ってほしいのかも知らせてほしい。特に知りたいのは、コンテンツに触れた人々に何が起こるかという予想だけではなく、実際に何が起きたかという話だ。
人に伝えるだけでなく、投票するときにも、AIによる存亡リスクを考慮してほしい。
優れた伝達力があり、存亡リスクも本当に理解しているなら、ぜひ私たちと働いてほしい！ あるいは、向いていそうな知人に求人を共有してほしい。
ニュースレターも購読してほしい。参加案内のページに登録フォームがある。
最後に、今年の後半には、5年ぶりに資金調達を行う予定だ。寄付はいつでもありがたく受け付けている。
読んでくださってありがとう。意見をお待ちしている。