よくある質問
あなたたちは誰ですか？
私たちは、AIのリスクを軽減することを目指す非営利団体が調整役を担う、ボランティアと地域コミュニティの集まりです。 各国の政府に介入を促し、超人的AIの開発を一時停止してもらうことを目指しています。 そのために、一般の人々への情報提供、意思決定者との対話、イベントの開催を行っています。 PauseAIの歴史や活動する人々については、私たちについてをご覧ください。
ソーシャルメディアはありますか？
Discord（活動の調整の大半はここで行っています！）、Twitter、Substack、Facebook、TikTok、LinkedIn、YouTube、Instagram、Telegram、WhatsApp、Redditで発信しています。 メールなどでの連絡は、[email protected]へお願いします。
変化や新しい技術を恐れているだけではありませんか？
意外かもしれませんが、PauseAIの参加者の多くは、自分を技術楽観主義者だと考えています。 AI開発に関わっていたり、新しい機器が好きだったりする人も多く、これまではおおむね未来に大きな期待を抱いてきました。 特に、AIが人類の役に立つ可能性に胸を躍らせてきた人が数多くいます。 だからこそ、AIが存亡リスクになるかもしれないという悲しい気づきは、多くの人にとって受け入れるのがとても難しいものでした。
すべてのAIを禁止したいのですか？
いいえ。「最先端モデル」と呼ばれることの多い、最大規模の汎用AIシステムの開発だけです。 私たちの提案のもとでも、現在存在するAIのほぼすべては合法であり、今後のAIモデルの大半も合法のままです。 私たちは、安全性を証明できるAIのつくり方が分かり、それを民主的な統制のもとに置けるまで、より強力な汎用AIシステムを禁止するよう求めています。
ChatGPTが私たちを殺すと考えているのですか？
いいえ。現在のAIモデルが存亡に関わる脅威だとは考えていません。 次に登場するAIモデルも、その大半はそうではない可能性が高いでしょう。 しかし、ますます強力なAIシステムをつくり続ければ、いずれその一つが存亡に関わる脅威になる段階に達します。
一時停止が裏目に出て、状況を悪化させることはありませんか？
その懸念には、こちらの記事で答えています。
そもそも一時停止は可能なのですか？
AGIは、避けられないものではありません。 その開発には、百万ドル単位の報酬を受け取る大勢の技術者が必要です。 最も複雑なハードウェアについて、完全に機能し、制約のないサプライチェーンも必要です。 そして私たち全員が、これらの企業に人類の未来を賭けさせることを許す必要があります。
誰が資金を出しているのですか？
資金提供のページをご覧ください。
今後の計画は？
運動の拡大、抗議活動の開催、政治家への働きかけ、一般の人々への情報提供に力を注ぎます。
計画の詳細と、資金が増えれば何ができるかについては、ロードマップをご覧ください。
どうすれば政府にAIの一時停止を決断させられると考えていますか？
戦略の詳細は、変化を実現する道筋をご覧ください。
なぜ抗議活動をするのですか？
- 抗議活動は、私たちがこの問題を真剣に受け止めていると世界に示します。声を聞いてもらうために、自分の時間とエネルギーを使う意思があることを示すのです。
- 抗議活動は、世論、投票行動、企業行動、政策に好ましい影響を与え得ますし、実際にそうなることもよくあります。
- 平和的・非暴力的な抗議活動は、圧倒的多数の人に支持されています。
- 抗議活動が暴力的である場合を除き、「逆効果」が生じるという証拠はありません。私たちの抗議活動は、平和的で非暴力的です。
- 人との絆を育む経験にもなります。同じ懸念と行動への意欲を持つ人々に出会えます。
- 抗議活動がなぜ有効なのか、さらに知りたい方は、こちらの優れた記事をご覧ください。
抗議活動を企画したい方には、助言や資料を提供できます。
超知能AIが人類の絶滅のような非常に悪い結果を招く確率は、どのくらいですか？
この分野の著名な専門家による'p(doom)'の値の一覧を作成しています。これは、悪い結果が起きる確率を示したものです。
この問題の専門家であるAI安全性研究者の間でも意見は分かれており、推定値は2%から97%、平均は30%です。 調査に回答したAI安全性研究者のなかに、確率が0%だと考える人はいませんでした。 ただし、ここには選択バイアスがあるかもしれません。AI安全性の分野で働く人は、AIによる悪い結果を防ぐことが重要だと考えているからこそ、その分野にいる可能性が高いためです。
安全性の専門家に限定せず、AI研究者一般に尋ねると、この値は平均約14%、中央値5%に下がります。 圧倒的多数の86%は、アラインメント問題は実在し、かつ重要だと考えています。 こちらには逆方向の選択バイアスがあるかもしれません。AIに携わる人は、AIが有益になると考えているからこそ、その仕事をしている可能性が高いためです。
新型飛行機の試験飛行に招待されたと想像してください。 設計した技術者たちは、墜落する確率が14%あると考えています。 あなたは、その飛行機に乗るでしょうか？ 今、私たちは全員でAIという飛行機に乗り込んでいるのです。
超知能AIができるまで、どれくらい時間がありますか？
数か月かもしれませんし、何十年もかかるかもしれません。確かなことは誰にも分かりません。 ただ、AIの進歩の速度が、しばしば大幅に過小評価されることは分かっています。 わずか3年前、私たちはSATに合格できるAIシステムができるのは2055年だと考えていました。 実際には、2023年4月に到達しました。 不意を突かれたくないのですから、残された時間はごくわずかだと考えて行動すべきです。
私たちが一時停止したら、中国はどうなるのですか？
まず、この時点で、中国のAI規制はほぼどの国よりも厳格です。 2023年9月まで、チャットボットすら認めず、インターネット上のデータを使った訓練も認めていませんでした。 中国政府は統制を重んじるため、制御できず予測もできないAIの影響を恐れる理由は、むしろ大きいのです。 AIの安全性に関する国連安全保障理事会の会合で、一時停止の実施可能性に言及したのは中国だけでした。
また、私たちが主として求めているのは、条約によって実施される国際的な一時停止です。 その条約には、中国の署名も必要です。 ほかの国も停止すると条約が保証し、十分な執行の仕組みが整っていれば、中国も実現を望むはずです。
OpenAIやGoogleは規制を望むと言っています。なぜ彼らに抗議するのですか？
OpenAIとGoogleがAIの国際的規制を求めていることは、評価しています。 しかし、現在の提案ではAIによる大惨事を防ぐには不十分だと考えています。 GoogleとMicrosoftは、AIの存亡リスクについて、まだ公に何も述べていません。 OpenAIだけは絶滅のリスクに明示的に言及しており、このリスクを真剣に受け止めていることは、重ねて評価します。 しかし、同社の戦略はかなり明確です。一時停止は不可能なので、まず超知能に到達する必要があるというものです。 問題は、同社自身がアラインメント問題を解決したとは考えていないことです。 AI企業は、競争上の優位性のために安全性を犠牲にする、底辺への競争から抜け出せなくなっています。 これは市場の力学が生んだ結果にほかなりません。 政府が介入し、最悪の結果を防ぐ政策を国際的な規模で実施する必要があります。
AI企業は私たちを操るために、存亡リスクの話を広めているのですか？
企業の動機を確実に知ることはできません。しかし、存亡リスクを最初に訴えたのはAI企業ではなく、科学者、活動家、NGOだったことは分かっています。 時系列を見てみましょう。
2000年代初めから、存亡リスクを警告してきた人は大勢います。 エリエゼル・ユドコフスキー、ニック・ボストロム、スチュアート・ラッセル、マックス・テグマークをはじめ、多くの人々です。 彼らには宣伝したいAI技術などありませんでした。ただ人類の未来を心配していたのです。
AI企業が存亡リスクに言及するようになったのは、ごく最近のことです。
サム・アルトマンは興味深い例外です。 OpenAIの設立前、2015年の時点で個人ブログに、AIによる存亡リスクについて書いていました。 しかし、その後の数年間は、存亡リスクに再び明示的に言及することはほとんどありませんでした。 2023年5月16日の上院公聴会では、そのブログ記事について尋ねられても、雇用と経済について話すだけでした。 この場で存亡リスクの話を押し出すどころか、積極的に避けていたのです。
2023年5月、状況は一変しました。
- 5月1日、「AIの父」ジェフリー・ヒントンが、存亡リスクを警告するためGoogleを退職しました。
- 5月5日、OpenAIのすぐ前で行う最初のPauseAI抗議活動が告知されました。
- 5月22日、OpenAIが超知能のガバナンスに関するブログ記事を公開し、初めて存亡リスクに言及しました。
- 5月24日、Googleの元CEOエリック・シュミットが存亡リスクを認めました。
- 5月30日、存亡リスクを認めるSafe.aiの声明が公表されました。今度はOpenAI、Google、Microsoftの関係者も加わっていました。
多くの従業員が何年も前から認識していたことを考えると、これらの企業が存亡リスクを認めるまでには、非常に長い時間がかかりました。 したがって私たちは、AI企業が存亡リスクの話を主導しているのではなく、ほかの人々が訴えるのに反応し、どうしても必要になるまで応答を待っていたと見ています。
事業上の動機は、むしろ逆方向に働きます。企業は、自社製品のリスクを人々に心配してほしくありません。 ほぼすべての企業は、顧客や投資を呼び込むために、リスクを誇張するのではなく小さく見せます。 これらの危険を認めることで、どれほど厳しい規制や否定的な注目を自ら招くのでしょうか？ また、OpenAIのような企業が、本当にリスクを信じていないのに、計算資源の20%をAIの安全性に振り向けるでしょうか？
私たちの解釈はこうです。AI企業が声明に署名したのは、存亡リスクが極めて真剣に受け止めるべき問題だと分かっているからです。
それでも多くの人が、存亡リスクが現実の懸念だと信じたがらない大きな理由は何でしょうか？ 私たちが実際に危険にさらされていると認めることは、非常に、非常に恐ろしいからです。
分かりました。手伝いたいです！ 何ができますか？
できることはたくさんあります。 一人でも、手紙を書いたり、チラシを配ったり、学んで人に伝えたり、抗議活動に参加したり、寄付したりできます！ そして、それ以上に大切なのは、PauseAIに参加し、行動する仲間と連携することです。 近くに地域コミュニティがあるか、確認してみてください。 もっと貢献したいなら、ボランティアとしてチームに加わったり、地域コミュニティを立ち上げたりすることもできます！
世界の終わりに向き合うときでさえ、希望はあり、とてもやりがいのある仕事もあります。💪