1901年、空気より重い最初の飛行機の製作に携わる2年前、ウィルバー・ライトは弟に、動力飛行の実現はまだ50年先だと語っていました。一方、核融合発電はこの50年間ずっと「あと20年」と言われてきたことで有名です。歴史を振り返ると、科学者や技術者は、ある技術が実現可能か、どのような技術になるかを言い当てることには比較的成功してきました。しかし、突破口が開けてその技術が実現するのがいつかという予測では、それほど成功していません。
ASI（人工超知能）がいつ実現するかは、不確実だと私たちは考えています。こうした進展の時期を予測する難しさを踏まえると、ASIの実現が目前に迫るか、すでに実現してしまうまで、同じような不確実さが続くと見ています。政策担当者が介入してこの技術の開発を阻止するのであれば、残された時間が完全にはっきりする前に行動する必要があります。
とはいえ、現時点で最も妥当だと考える見通しは、ASIの実現まで、おそらくそれほど長くはないというものです。最近の進歩は非常に速く、私たちMIRIは、2年後や5年後にASIが開発されても驚きません。逆に、まだ20年以上先だとすれば驚きます。
ChatGPTのような最近の発明によって、AIは一般の人々からも注目されるようになりました。しかし、こうした発明は、一度きりの突破口が生んだものではありません。ChatGPTのようなツールは、長く続いてきた進歩の最新の成果なのです。
20年前、研究者たちは、AIにはできないことが多いからASIはまだ遠い先だと論じていました。基本的な画像認識や画像生成、翻訳、ウィノグラード・スキーマ、プログラミング、囲碁やStarCraftのようなゲームなどです。そうした課題はすべて克服されました。その結果、いまの私たちとASIの実現との隔たりは、ほとんどが具体的に捉えにくいものになっています。最先端のAIでも解けない問題はまだ多数ありますが、「AIにはこの問題は絶対に解けない」と言った人が、いまのAIがすでにその課題を得意としていると知る、といったことがますます増えています。
現在のシステムから人間より賢いシステムへの進歩には、ある境目を越えた途端に大きな変化が起きる、閾値効果が現れそうです。チンパンジーと人間の脳は大筋で似ていて、進化の隔たりも数百万年にすぎません。それでも、両者の認知活動が生み出す結果は大きく異なります。人間は、チンパンジーには届かない一つ以上の閾値を越えたからです。
進化は地質学的な時間のスケールで起こりますが、人間の技術は数か月、数年という単位で進歩します。しかもAIには、自己改良のような別の閾値効果もあるため、人間の場合よりさらに急激で不連続な変化が生じるかもしれません。
ここ数年で、AIは急速にソフトウェア開発の重要な担い手となりました。AI研究の作業を自動化し、自身の汎用的な能力を高めるAIの力が、決定的な閾値を越えると、追加の改良が自己改良の過程をさらに加速させ、AIの能力は歯止めなく伸びていく可能性が高くなります。自己改良できるAIが当初は人間の能力の範囲に収まっていたとしても、この循環で得られる効果が大幅に逓減するころには、その能力は人間の範囲をはるかに超えていても不思議ではありません。そもそも、最初からその範囲に収まっているとも限りません。
こうした要因があるため、非常に短期間で実現する可能性は排除しにくくなっています。それでもなお、状況には大きな不確実性が残っています。
今後1年以内にASIが作られる可能性を排除する観測結果も理論もありません。同時に、大規模言語モデルが壁に突き当たり、研究者たちが新しく優れたアプローチを探して苦戦する可能性を排除する観測結果や理論もありません。AIの問題がすっかり解決する時期は、AlphaGoのように驚くほど早いこともあれば、自動運転車のまれな失敗をなくす取り組みのように、驚くほど遅いこともあります。
閾値効果があること、そして「いまの私たちとASIの実現との隔たりのほとんどが、具体的に捉えにくいものである」ことから、新たなAIの進歩が現れれば状況が明確になるとも期待しにくいのです。課題が次々に克服されても、次の課題がどれほど早く克服されるのか、現時点の最先端とASIの間にどれだけ隔たりがあるのかは、引き続きはっきりしない可能性が高いでしょう。
これほど不確実なのに、なぜMIRIの研究者は、たとえば30年後よりも5年後や10年後の実現のほうがありそうだと考えるのか、と問うのはもっともです。簡潔に答えるなら、この状況で実現年を計算できるような、精緻な形式的手法はありません。ほかの多くの研究者も、ASIの時期については同様に考えているようです。できるのは、アルゴリズムの進歩とハードウェアの規模拡大が何らかの形で組み合わさることで、比較的近いうちに、人間を超える汎用的な認知能力が実現するのではないかと、推測することです。その根拠は、囲碁から画像生成、会話に至るまで、最近のアルゴリズムの進歩がもたらした質的な大幅改善と、GPTが規模の拡大によって示してきた質的な能力の飛躍です。
AI開発はもっと予測可能だと論じる研究者もいます。この文脈でよく引用されるKaplanら（2020年）の論文は、モデルの規模、学習データ、計算量を増やしたときの性能向上に関する「スケーリング則」を提案しました。しかし、スケーリング則で追跡する種類の指標は、システムの能力水準について、実際に重要となる情報を教えてくれません。特定の計算能力やデータ量などを「人間並みの知能」や「超知能」と対応づけようとする試みは、ほとんど単なる推測に見えます。経験的に観測された傾向とそうした推測を同列に扱うと、両者の根拠の確かさも同程度であるかのような誤解を招きかねません。
大規模言語モデルに代表される現在のアーキテクチャーが、規模を拡大するだけで超知能にまで到達できるかどうかは分かりません。しかし、AI企業は別のアーキテクチャーを懸命に探しており、最新の最先端モデルには、すでに構造上の調整や改良が施されている可能性が高いでしょう。
過去には、1980年代後半から1990年代にかけてのAIの冬のように、AIへの熱狂の後で進歩が鈍った時期がありました。今後も、大小さまざまな減速が起こるかもしれませんし、起こらないかもしれません。しかし、この10年間でAIが非常に急速に進歩した結果、状況は1980年代のバブルとは大きく異なっています。
数百億ドルの資金と何万人もの研究者・技術者が、金鉱に続いていると信じる道を追っています。単純な規模拡大がうまくいかなくても、突然諦めるわけではありません。ChatGPTのようなAIの中核にあるトランスフォーマーほどの大きな革新は、毎年は生まれませんが、ときどきは生まれます。現在のアーキテクチャーで規模拡大が効果を上げなくなれば、AI業界は別のアルゴリズムにいっそう力を注ぐでしょう。
したがって、この分野に投入される研究の労力と資金が大きく増えていることは、今後10年間で進歩が加速する可能性を示しています。私たちは、あとどれだけのAIの進歩までなら生き延びられるのか分からない一方で、技術的な突破口を次々と生み出そうと莫大な労力が注がれていることは分かっている、という落ち着かない立場にあります。MIRIの上級研究員エリエゼル・ユドコウスキーの最も妥当だと考える推測では、開発者がASIに到達するまでに必要な、トランスフォーマーに匹敵する重要な革新は、あと0〜2回である可能性が高いとのことです。もっとも、これはあくまで推測です。
付け加えるなら、有力な研究所のトップたちも、数年以内に完全に汎用的なAIが実現すると予測しています。2024年2月、Google DeepMindのCEOデミス・ハサビスは、2030年ごろまでに「AGIに似たシステム」が登場すると予測しました。MetaのチーフAIサイエンティストで、人間並みのAIには懐疑的と見られることの多いヤン・ルカンでさえ、2024年10月にはこう述べています。
私は、人間レベルのAIに到達するには「10年とはいかなくても、数年はかかる」と言いました。
［OpenAIのCEO］サム・アルトマンは「数千日」と言っています。つまり少なくとも2,000日（6年）、あるいは3,000日（9年）ということでしょう。
ですから、私たちの見解は食い違っていません。
ただ私は、この分布には長い裾があると考えています。つまり、それよりずっと長くかかる可能性があります。AIでは、ほとんどいつも予想より時間がかかるものです。
いずれにせよ、今後1、2年で実現するわけではありません。
私たちから見ると、この種の証拠はやや弱いものです。研究所は自社製品をいくらでも大げさに宣伝できるので、そのトップの公の予測だけを重く受け止めてはいません。それでも、企業が20年や50年ではなく、5年や10年という時間軸で語っていること、そしてルカンでさえそうした見方をしていることは、注目に値するでしょう。
私たち自身の評価も、不確実ではありますが、こうした見通しとおおむね一致しています。ASIは現代の大規模言語モデル（LLM）に似た手法で作られるかもしれませんし、そうではないかもしれません。しかし、研究者たちはLLMの規模拡大だけでなく、新たな手法も追求しています。
投入される労力と資金が増えるにつれ、ASIが登場しても生き延びられる備えが世界にあるかどうかにかかわらず、誰かが成功する可能性は高まります。