AI業界は崖に向かって突き進んでいる。
人工超知能（ASI）がつくられれば、そのままでは人類の絶滅に至る。
私たちが生き延びるには、一刻も早く対策に着手し、必要な限り、ASIがつくられる時期を先延ばししなければならない。
私たちの見解
機械知能研究所（MIRI）は20年以上にわたり、人類が人工超知能のある世界へ移行する際に直面する重大な課題を理解し、備えるために活動してきた。私たちの技術的・哲学的な研究は、AIアライメントという分野の創設に貢献した。現在のAIをめぐる議論の中心にある理論や概念の多くも、当研究所の研究者が生み出したものだ。
近年、人工知能の最前線で急速に進歩が起こり、超知能が登場するまでの予想期間は大幅に短くなった。安全性、アライメント、制御に関する技術的進歩は、その速度についていけていない。人類は現在のシステムでさえ、その内部の仕組みを十分に理解しておらず、完全に制御したり、その振る舞いを確実に望む方向へ導いたりすることができない。今後数年で登場すると見込まれる、はるかに強力で複雑なシステムについては、なおさらだ。
どの国や集団であれ、現在の手法に少しでも似た方法で近いうちにASIを開発・配備すれば、最も起こりやすい結末は人類の絶滅である。
これは大胆な主張であり、軽い気持ちで述べているのではない。世界の多くの専門家は、最先端の組織に所属する一部の人々も含め、私たちと懸念を共有している。それでも、ASIに向かう進歩は猛烈な速度で続いている。業界は先を争って進み続けており、未来のシステムを実際につくっている人々が、手遅れになる前に止まると当てにすることはできない。
私たちが生き延びるには、世界規模で協調し、共同で実施を徹底する何らかの形のASI開発の一時停止を、一刻も早く始め、必要な限り続けなければならない。
[
問題とは
なぜ私たちは、人間より賢いAIにはこれほど甚大なリスクがあると考えるのか。問題の全体像はどのようなものか。
続きを読む
](https://intelligence.org/the-problem/)
[
概要説明
AIによる破局についての、より短い入門。
続きを読む
](https://intelligence.org/briefing)
[
研究
科学の現状を、政策担当者の次の行動にどう生かすべきか。
続きを読む