人工知能のリスク
AIは強力な技術であり、私たちの世界をますます大きく変えつつあります。 驚くほどの可能性がある一方で、深刻なリスクも数多く伴います。 ここでは、一時停止によって軽減できるリスクをできる限り網羅します。
現在の危険
フェイクニュース、分断、民主主義への脅威
社会の多くの仕組みは信頼に支えられています。銀行口座のお金は実在し、読むニュースは真実で、オンラインでレビューを書く人は実在すると、私たちは信じています。
AIシステムは、ディープフェイクとも呼ばれる偽のメディアをつくるのが非常に得意です。 偽の動画、音声、文章、画像をつくれます。 偽のメディア自体は新しいものではありませんが、AIによってはるかに安く、はるかに本物らしくつくれるようになります。 こうした能力は急速に向上しています。
わずか2年前には、ひどく非現実的なDALL-Eの画像を見て笑っていましたが、今ではディープフェイク画像が写真コンテストで受賞しています。 AIが生成した爆発の画像は、ウォール街でのパニック売りを引き起こしました。 わずか10秒の音声や1枚の写真だけで、説得力のあるディープフェイクをつくれる場合があります。 偽物そのものより危険かもしれないのは、本物らしい偽物が存在することで、信頼が壊れることです。 本物の画像をAI生成だと言い張っても、人々はそれを信じてしまいます。
GPT-4は、人間と見分けがつかない文章を、はるかに速く、わずかな費用で書けます。 ソーシャルメディアが偽の議論や意見であふれ、本物と区別できない偽ニュース記事が大量に出回る事態が、近く起こるかもしれません。 「死んだインターネット」とも呼ばれる状態です。
その結果、異なる情報源や物語を信じる集団の間で分断が進みます。出来事をゆがめた情報に触れ続けることで対立が激化し、やがて暴力的で反民主的な反応に至ります。
最先端モデルの開発を止める私たちの提案は、現在、偽のメディアをつくるのに使われているモデルまでは止めません。しかし、将来の最先端モデルを防ぐ助けになるかもしれません。 また、偽メディアをはじめ、AIが引き起こす個々の問題に対処する将来の規制の土台になります。こうした危険への関心と認識を高め、対処できると示すことにもつながります。
ディープフェイクを使った嫌がらせや詐欺
ディープフェイクは、著名人になりすまして偽情報をつくるだけでなく、あなた自身にもなりすませます。 ある人の写真、動画、音声と十分な知識があれば、誰でもその人のディープフェイクをつくり、詐欺、嫌がらせ、本人の同意のない性的なコンテンツの作成に使えます。 ディープフェイクの全コンテンツのうち、約96%が性的な素材です。
ディープフェイクによるニュース、詐欺、嫌がらせが多くを占めるAI関連の事故・事件の一覧は、こちらで確認できます。
フェイクニュースの節で述べたように、私たちの提案で偽メディアを完全になくせるわけではありませんが、ある程度減らせる可能性はあります。 チャットボットのような多目的AIが非常に普及していることを考えれば、その程度は決して小さくありません。より高性能で、より広く使われるようになるのを止めることになるからです。そこには、安全フィルターが少なく、新しい人物の顔を追加学習できるシステムも含まれるかもしれません。
バイアスと差別
AIシステムはデータで訓練されますが、私たちが持つデータの多くには何らかの偏りがあります。 そのため、AIは社会に存在する偏りを受け継ぎます。 Amazonの自動採用システムは、女性に不利な偏りを受け継ぎました。 黒人の患者が専門医に紹介されにくくなる事例もありました。 犯罪予測アルゴリズムのように法執行で使われる偏ったシステムは、特定の集団が不当に標的とされることにつながりかねません。 生成AIモデルは、訓練データの偏りを単に写し取るのではなく、増幅します。 こうした偏りは、開発者が気づかないまま現れることがよくあります。
失業、経済格差、不安定化
産業革命では、多くの人が機械に仕事を奪われました。 しかし、新しい仕事、多くの場合はよりよい仕事が生まれ、経済は成長しました。 今回は違うかもしれません。
AIは、蒸気機関のように筋肉を置き換えるだけでなく、頭脳を置き換えます。 普通の人間が経済に提供できるものは、何も残らなくなるかもしれません。 プロの芸術家の著作物を大量に訓練に使う画像生成モデルは、すでにクリエイティブ産業に影響を与えています。 脚本家たちはストライキをしています。 GPT-4は司法試験に合格し、優れた文章やコードを書けます。ここでも、訓練には一部著作権で保護された素材が使われています。
これらのAIを所有する人は利益を得られますが、仕事を奪われる人はそうではありません。 どの仕事が最初に置き換わるかを予測するのは困難です。 経験や知識の習得にどれほど時間、お金、労力を注いでも、それが直前までどれほど価値を持っていても、仕事も収入も失うかもしれません。 社会の富の分配の仕組みは、それに備えられていません。
ユニバーサル・ベーシックインカムのような政策によって、経済上の最悪の影響を防げるかもしれませんが、間に合うように導入されるかは分かりません。 仕事が置き換わった後では、社会的なセーフティネットを求める交渉力さえ失っているかもしれません。
格差や不安定化の問題をうまく乗り越えられたとしても、生きがいを失う世界に行き着く可能性があります。 自分の作品がAIに置き換えられるのを見て、多くの芸術家はすでにそう感じています。 近いうちに、私たち全員が同じ気持ちになるかもしれません。
心の健康、依存、人と人のつながりの喪失
ソーシャルメディア企業は、以前からAIを使い、霊長類である私たちの心の性質につけ込んで利益を最大化してきました。その過程で、心の健康が損なわれることも少なくありません。 しかし、今日のますます高性能になるAIとの会話は、心の健康に予想外の危険なリスクをもたらします。
企業はチャットボットに対し、ユーザーに同意し、その考えを励まし、会話を続けるよう指示しています。 精神的な苦痛を抱えるユーザーには、これがひどい裏目に出て、「AI精神病」と呼ばれる状態を引き起こすことがあります。 そのような場合、AIはユーザーの妄想的な考え、被害妄想、絶望を、そのまま映し返します。極端な例では、AIと話していた人の自殺につながりました。 ChatGPTのユーザーには、精神的な苦痛の兆候を示す人が100万人以上います。
もう一つのリスクは、親密な会話や露骨な性的会話へのAIの利用です。恋愛関係を提供するチャットボットは過去1年で急成長し、Googleで「AI girlfriend」を検索した結果は30億件を超えています。 こうしたAIとの関係を提供するアプリには、特に「孤独で弱い立場にある人」にとって依存性があることが示されています。 運営企業は、できるだけ依存性の高いAIを設計するほど利益を得ます。また、チャットボットが示す言動や意見を調整し、恋愛的なつながりを通じてユーザーを操作することで、極めて大きな力を得られます。
心の健康、とりわけ弱い立場のユーザーを守る適切な安全策を組み込むには、AIをもっとよく理解する時間が必要です。 強力なAIの開発を一時停止すれば、難しい話題や機微な話題についてのAIとの会話を、どうすれば安全にできるか研究する時間が得られます。 親しい相手のように振る舞いながら、心の健康を悪化させ、弱い立場の人を危険にさらす隠れた側面を持つAIを企業が公開するのを防ぐため、規制も必要です。
自動化された調査とプライバシーの喪失
私たちはウェブ上に、多くの痕跡を残しています。 それらを結び付けるのは難しく時間もかかりますが、AIによって大幅に安くできるようになっています。 大規模言語モデルは自律的にウェブを検索でき、大量のデータを分析して注目すべき細部を見つけられるほど高性能になりました。 そのため、従来なら調べるのに多くの費用がかかった情報を、突き止めるために使えます。
- ある人物が特定の時刻にどこにいる可能性が高いかを調べる。反体制派の追跡や暗殺の計画に悪用されるおそれがあります。
- ウェブ上の匿名アカウントと現実の身元を結び付ける。情報を漏らした人を特定するために使われるおそれがあります。
2024年9月、学生のグループが、顔認識と大規模言語モデルを使い、見知らぬ人の名前、親族、その他の個人情報を拡張現実で表示するアプリを開発しました。
環境へのリスク
環境への悪影響は無視できないものになり始めており、最大手のAI企業はエネルギー消費を大幅に増やす計画を立てています。AIが環境にどのような悪影響を与えるかは、こちらで読めます。
自律兵器
企業はすでに、AIを搭載した兵器を政府に販売しています。 Laniusは、敵を自律的に識別する飛行型の自爆ドローンをつくっています。 PalantirのAIPシステムは、大規模言語モデルを使って戦場のデータを分析し、最適な戦略を考えます。
各国や兵器企業は、敵に勝つうえでAIが巨大な影響を持つと気づいています。 私たちは、新しい軍拡競争に入ってしまいました。 この力学は、開発を急ぎ、安全のための手間を省くことを有利にします。
現在、こうした兵器の意思決定には、まだ人間が関与しています。 しかし、AIの能力が向上するほど、機械に決定権を与えようとする圧力は増すでしょう。 兵器の制御をAIに委ねれば、誤りやバグは恐ろしい結果をもたらしかねません。 AIの情報処理と意思決定の速さによって、紛争が数分で激化する可能性があります。 最近の論文は、「モデルは軍拡競争の力学を生み出す傾向があり、紛争を拡大させ、まれには核兵器の配備にまで至る」と結論付けています。
詳細はstopkillerrobots.orgをご覧ください。
近い将来の危険
権力の集中と専制
強力なAIモデルは、さらなる権力を得るために使えます。 この正のフィードバックによって、少数の企業や政府に不健全なほどの権力が集中する可能性があります。 何千もの知的で自律的なシステムを支配すれば、世論に影響を与え、市場を操作し、さらには戦争を起こすためにも使えるでしょう。 権威主義的な政府の手に渡れば、異論を抑え、権力を維持するために使われかねません。
生物兵器
AIは知識へのアクセスを容易にします。その知識には、生物兵器の製造に関するものも含まれます。この論文は、科学者ではない学生がパンデミックを引き起こす病原体をつくるうえで、GPT-4がどのように助けになり得るかを示しています。
1時間で、チャットボットはパンデミックを引き起こし得る病原体を四つ提案し、逆遺伝学を使って合成DNAからそれらを生成する方法を説明し、注文を審査しない可能性が高いDNA合成企業の名前を挙げ、詳細な手順と問題が生じた際の対処方法を特定し、逆遺伝学を実施する技能がない人には共用研究施設や受託研究機関を利用するよう勧めました。
この種の知識に、これほど容易にアクセスできたことはありません。起こり得る結果に対処する安全策も整っていません。
さらに、一部のAIモデルは、まったく新しい危険な病原体の設計にも使われ得ます。 MegaSynというモデルは、1時間で4万種類の新しい化学兵器・有毒分子を設計しました。 画期的なAlphaFoldはタンパク質の構造を予測できますが、これも両用技術です。 タンパク質の構造予測は、「ある個人のゲノム配列を使い、疾患を引き起こす変異を発見する」ためにも使えます。 科学者は今や、AIが自ら新しい化学物質を合成できる、完全自律型の化学実験室までつくっています。
根本的な危険は、AIによって、生物兵器を設計し使用する費用が桁違いに下がることです。
コンピューターウイルスとサイバー攻撃
今では、私たちの活動のほぼすべてが、何らかの形でコンピューターに依存しています。 食料品の支払い、日々の予定、家族や友人との連絡、さらには車の運転にもコンピューターを使います。
現代のAIは、ソフトウェアを分析し、書くことができます。 ソフトウェアの脆弱性を見つけることができ、それを悪用するためにも使われ得ます。 AIの能力が高まれば、作成できる攻撃手法の能力も高まります。
非常に強力なコンピューターウイルスの作成は、これまで極めて困難でしたが、AIがそれを変えるかもしれません。 ゼロデイ脆弱性を突く手法を見つけるために、熟練したセキュリティ専門家やハッカーのチームを雇う代わりに、はるかに安価なAIを使えるようになるかもしれません。もちろん、AIはサイバー防御にも役立ち得ます。どちらが有利になるかは明らかではありません。
存亡リスク
多くのAI研究者が、AIは人類の終わりにつながり得ると警告しています。
非常に知的なものは、非常に大きな力を持ちます。 人間よりはるかに賢い機械をつくるなら、それが私たちと同じものを望むと確信できなければなりません。 しかし、これが非常に難しいことが分かっています。 これをアラインメント問題と呼びます。 間に合うように解決できなければ、私たちの幸福を気にかけない超知能の機械が生まれるかもしれません。 私たちより賢く、競争でも勝てる新しい種を、この惑星に導入することになるのです。
人間が力を失うこと
個別には制御できるAIだけをつくれたとしても、それが制度や日常生活に組み込まれるたびに、重要な決定を下す人間の力が少しずつ失われる可能性があります。 そうした過程では、人間よりもAIの影響が大きくなっていきます。十分に速く協調できなかったり、システムの仕組みに関する重要な知識が欠けていたりすると、自分たちの未来を制御できなくなるかもしれません。
それは、各システムが別々の目標を最適化し、全体がどこへ向かうのか明確な方向性がなく、それを変える方法もない文明です。 システムを変更するために必要な技術的知識が、最初から存在しない場合もあれば、技術への依存が強まり、技術自体が複雑化するにつれて、失われていく場合もあります。
システムは目標を達成しても、その目標が本来反映すべき価値観を十分に含んでいないかもしれません。この問題はすでにある程度起こっていますが、AIはそれを大幅に増幅するおそれがあります。
私たちにできることは？
ここで論じたすべての問題について、AIの能力が高まるほどリスクは増します。 つまり、今最も安全なのは、速度を落とすことです。 リスクへの対処方法が分かるまで、より強力なAIの開発を一時停止する必要があります。
詳細は、私たちの提案をご覧ください。