反論への回答

AIの危険性や、AIの一時停止を求めることに対して寄せられる異論をまとめました。

AIは世界に大きな恩恵をもたらしているし、これからもそうだ

その可能性はあります。私たちも、そこに異論はありません。しかし、存亡リスクを含む危険をもたらす可能性もあります。

人類の絶滅？ AI企業が自社の技術を大げさに宣伝しているだけでは

存亡に関わる脅威だと言っているのは、AI企業だけではありません。

数百人のAI科学者が次の声明に署名しています。「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争など、社会全体に及ぶほかのリスクと並ぶ世界的な優先事項とすべきである」。
AI科学者の86%が、AIを制御できなくなる可能性があると考えています。
論文の被引用数で上位3人のAI研究者、ヨシュア・ベンジオ教授、ジェフリー・ヒントン教授、イリヤ・サツケヴァーは、全員がAIによる存亡リスクを警告しています。

制御できなくなる？ AIは人間が設計したソフトウェアにすぎないでしょう

現代のAIは、設計されるのではなく訓練されます。何百万ものニューロンで構成された、文字どおりのデジタルの脳です。学習アルゴリズムを設計し、プログラムするのは人間ですが、その後に育ったAIを理解している人はいません。何ができるようになるかを予測できないため、「創発的能力」と呼ばれています。 GPT-4が自律的にウェブサイトをハッキングできることを科学者が発見するまで、12か月かかりました。 AIモデルはすでに非常に予測しにくく、数十億ドル規模の企業でさえ、自社のモデルが異常な言動をすることや、生物兵器のつくり方を説明することを防げません。

おかしなことをし始めたら、電源を切ればいい

多くの場合はそうかもしれません。しかし、本当に賢いAIなら、ほかのマシンに広がる可能性があります。 AIはデータにすぎず、一つの場所に縛られていません。

それにはハッキングできる必要があるでしょう

GPT-4はすでに、自律的にウェブサイトをハッキングし、テストされた脆弱性の87%を悪用し、競技に参加するハッカーの88%を上回る成績を収めています。 GPT-6はどれほど賢くなると思いますか？

サイバーセキュリティのリスクについて詳しく読む

AIは物理的な世界に働きかけられない

インターネットにつながっているものは、かなりたくさんあります。車、飛行機、ドローン、今では人型ロボットまであります。これらはすべて、ハッキングされる可能性があります。

ハッキングできるのは、ロボットや機械だけではありません。ある財務担当者は、AIを使ったビデオ会議にだまされ、2,500万ドルを送金してしまいました。 AIはほかのAIを使ってディープフェイクを生成できます。そしてGPT-4はすでに、人間を説得する能力が人間のほぼ2倍あります。

最高性能のAIモデルの能力について詳しく読む

なぜAIが人間を憎み、殺したがるのでしょうか？

人間にとって危険であるために、邪悪であったり、人間を憎んでいたりする必要はありません。私たちはチンパンジーを憎んでいませんが、それでも彼らの森を破壊しています。パーム油が欲しいから、森を奪うのです。私たちのほうが賢いので、チンパンジーには止められません。 AIも、何かほかの目標をよりうまく達成するために計算能力を増やそうとし、より高性能なコンピューターをつくるために私たちの環境を破壊するかもしれません。これは道具的収束と呼ばれます。この動画に分かりやすい説明があります。

私の知っているAIには自分の意志はなく、頼まれたことをするだけです

独自の目標がなく、ただ命令に従うだけであっても、いずれ誰かがAIを使って危険なことをするでしょう。人類を絶滅させるよう明示的に指示された、ChaosGPTというボットさえありました。自律的にGoogleで大量破壊兵器を検索していましたが、それ以上のことはほとんどできませんでした。要するに、今、私たちを守っているのは、AIがまだそれほど賢くないということだけなのです。

人間にとって危険なほど賢いAIができるまでには、少なくとも何十年もかかる

Metaculusでの弱い意味でのAGIの実現時期に関するコミュニティ予測は、わずか3年前には2057年でしたが、今では2026年になっています。

2022年には、AI研究者は、AIがニューヨーク・タイムズのベストセラーを書けるようになるまで17年かかると考えていました。その1年後、中国の教授がAIに書かせた本で文学賞を受賞しました。

残された時間は分かりません。だからこそ、安全側に判断しましょう。

緊急性について詳しく読む

こちらで禁止しても、中国がつくるだけだ

私たちは、こちら側だけで禁止するよう求めているのではありません。条約による国際的な一時停止が必要です。フロンや失明をもたらすレーザー兵器を禁止する条約と同じです。

私たちの提案について詳しく読む

技術の進歩を遅らせることは不可能だ

チップを規制することで、AIを規制できます。 AIモデルの訓練には非常に特殊なハードウェアが必要で、それを製造しているのはTSMCという1社だけです。その会社は、ASMLという別の会社が製造する機械を使っています。 AIチップのサプライチェーンは非常にもろく、規制が可能です。方法については、一時停止ボタンをつくるとオランダの一時停止ボタンをご覧ください。

実現可能性について詳しく読む

一時停止には問題がある。なぜなら……

一時停止が悪い結果を招く可能性と、そのような事態を防ぐ方法のいくつかは、こちらのページで説明しています。記事で取り上げていない懸念があれば、こちらから教えてください。

誰も一時停止など望んでいない

すでに70%の人が、政府はAI開発を一時停止すべきだと考えています。世論の支持は、すでにあります。次に必要なのは、この問題が緊急であることを政治家に伝えることです。

私一人にできることはない

そんなことはありません！力を貸す方法はたくさんあります。私たちは、得られる限りの助けを必要としています。