MIRIについて
Machine Intelligence Research Institute（MIRI、機械知能研究所）は、米国カリフォルニア州バークレーを拠点とする、内国歳入法501(c)(3)条に基づく非営利団体です。人工超知能（ASI）の開発による人類滅亡の防止に向けて、研究と社会への情報発信を行っています。
私たちの活動
20年以上前に設立されたMIRIは、将来の人工超知能の発明こそが、21世紀で最も重要であり、破局を招くおそれもある出来事だと、いち早く認識した組織の一つです。ASIのアラインメントを技術的な問題として提起し、取り組み始めた最初の組織であり、長年にわたりこの研究分野を築く中心的な役割を担ってきました。
残念ながら、私たちの努力では、現在の危機を防げませんでした。有力企業が人間より賢いAIの開発に成功するまでに、アラインメント問題を解決できる見通しは立っておらず、このまま進めば人類滅亡に至ります。
私たちがいま優先しているのは、これまでに得た教訓を生かし、現在の状況と必要な対策を世界に伝えることです。
AIによる人類滅亡は、現実に起こりうることです。理にかなった唯一の対応は、アラインメント問題が解決されるまで、AI開発を全面的に停止することです。
これまでの歩み
2000年
エリエゼル・ユドコウスキーが、ブライアン・アトキンス、サビーン・アトキンスとともに、Singularity Institute for Artificial Intelligenceという名称でMIRIを設立しました。当初の目標は、人間より賢いAIの実現に向けた進歩を加速させることでした。
2000〜2003年
ユドコウスキーは、人間より賢いAIを人間の価値観に沿わせることが、実際には解決すべき問題になると気づきました。
MIRIは方針を転換し、研究の大部分をASIのアラインメントに振り向けました。ただし「アラインメント」という呼び名が生まれるのは、さらに10年以上後のことです。
2006〜2012年
研究分野を育てる活動の一環として、ユドコウスキーは、人間の推論、意思決定理論、道徳、AIなどを扱う一連のブログ記事を書きました。これらの文章から、人気の共同ブログLessWrongが生まれ、後には書籍として出版されました。
MIRIはSingularity Summitを共同で立ち上げ、運営しました。AI、ブレイン・コンピューター・インターフェース、ロボティクス、再生医療などを扱う年次会議です。
2013年
組織名をSingularity InstituteからMachine Intelligence Research Instituteへ変更しました。
2013〜2018年
研究の重点を、AIアラインメントに関わる基礎的な数学の問題に置きました。
MIRIは、さまざまな分野の研究者が集まり、AIアラインメントに関わる問題に取り組むワークショップを継続して開催しました。
MIRIxプログラムを通じて、世界各地の研究者グループが自らワークショップを開催できるよう、資金と支援を提供しました。
2017年
AIプロジェクトへの資金投入と研究の進展を見て、MIRIの幹部は、人間より賢いAIが比較的近い将来に登場するかもしれないという懸念を強めました。
MIRIは、従来の研究計画に加えて、工学的な取り組みを重視した新しいアラインメント研究の方向性を模索しました。
2020年
AIアラインメント問題の解決に向けた進歩は、MIRIでも分野全体でも、引き続きゆっくりとしたものでした。MIRIの幹部は、この研究分野やMIRIの既存の研究方針が、間に合ううちに実を結ぶ可能性に悲観的になり、残されたわずかな希望を追うための大きな方向転換を始めました。
2021〜2022年
MIRIは、AIリスクをめぐる戦略上の状況を論じた複数の論考を発表しました。また、他のAIアラインメント研究者との一連の対話も公開しました。
2023年
ChatGPTの成功をきっかけに、AIによる人類滅亡のリスクについて、それまでよりはるかに幅広い議論が起こりました。
MIRIは、活動の重点を大きく移し、この問題を幅広い人々に伝えることに力を注ぎました。主要な政治討論の場への参加も、その一環です。
2024年
人間より賢いAIシステムによる破局が迫りつつあることを政策担当者と一般の人々に伝える事業を実施するため、MIRIは広報チームの拡充を始めました。また、技術面からAIガバナンスに取り組むプログラムを立ち上げました。
2025年
人工超知能をこのまま開発すると、なぜ人類滅亡に至るのか。その理由を要点に絞ったブリーフィングと、短い解説を公開しました。技術ガバナンスチームは、「停止スイッチ」の実現を中心に据えた新たな研究計画を発表し、時期尚早な超知能の開発を防ぐための国際合意の草案を作成しました。9月には、エリエゼル・ユドコウスキーとネイト・ソアレスが『If Anyone Builds It, Everyone Dies』を出版し、関連するオンライン資料も公開しました。