概要
MIRIが2013年4月の戦略計画を発表してからの出来事を通じて、私たちが「正しい方向へ進んでいる」という私の確信が強まりました。2014年の残りの期間も、引き続き次の方針で進みます。
- 一般向けの発信を減らし、その仕事の大半を、オックスフォード大学のFHI、ケンブリッジ大学のCSER、MITのFLI、カリフォルニア大学バークレー校のスチュアート・ラッセル、そしてジェームズ・バラットなどの人々に任せます。
- 未完了の「戦略研究」プロジェクトをいくつか仕上げた後、この方面の活動も減らします。ここでも大半をFHIに、また研究者を採用するならCSERやFLIにも、その他の人々とあわせて任せます。
- 友好的AI（FAI）の技術研究計画への投資を増やします。
この道を進み続ける理由は、おおむね以前と同じですが、今は以前よりも確信があります。2013年4月以来、次のことがあったからです。
- さまざまな方面で友好的AIの研究を大きく進めることができました。研究者がもっといれば実現できる進歩を、すでに出し尽くしたなどとは、少しも感じていません。このことは、FAIの技術研究では、取り組めば成果を出せる見込みが高いことを示しています。
- FHI、CSER、FLIは、大学への所属やそうそうたる顔ぶれの諮問委員会も生かして、一般向けの発信で大きな成果を上げました。
- こうした発信の成功や、AI学会でのスチュアート・ラッセルと研究者たちとの議論を受け、AI研究者から「なるほど、重要そうだ。でも、技術面では何を研究するのか。自分や学生には何ができるのか」という声が出始めたと聞いています。要するに、FAIの技術研究計画を知りたいのです。そしてMIRIは、すでにその計画を作っています（後述）。
つまり、MIRIが新たに定めた戦略上の重点は、試して、その有効性を確かめられたと思います。今は規模を拡大するときです。そこで、今後6〜12か月の最優先目標を次のように定めます。
- 友好的AIの研究をさらに進める。
- 友好的AIの研究者をさらに採用する。
- これらの活動を支えるため、積極的に資金を集める。
この大きな目標を達成するための具体的な方法は、試して学ぶにつれて、すぐに変わっていくでしょう。それでも、現時点の実行計画を以下にまとめておきます。
1. 友好的AIの研究をさらに進める
私たちのワークショップは、FAI研究に多くの進歩をもたらし、2014年に2人の新しいFAI研究者を採用する機会にもなりました。一方で、「新しく入ってきた人」、つまり、この研究を長く追ってきたわけではない人が、ワークショップでFAI研究に貢献するのは難しいこともわかりました。最先端で大きく貢献できるようになるには、よりよい入門講義と、研究課題について考える時間がもっと必要です（次節参照）。そのため、2014年に新しい研究成果を生み出す活動では、次のことに重点を置きます。
- 2014年5月のワークショップのように、参加者の大半、または全員が、この研究を長く追ってきた「経験者」である研究ワークショップを開く。
- 研究者を個別に数日ずつMIRIへ招き、すでによく知っている具体的な研究課題に、一緒に取り組む。
- MIRIのFAI研究員が、自分で、あるいは同僚とともに理論研究を進める時間を確保する。
2. 研究者の採用
ここでは「分野を作る」ではなく「採用」と書いています。しかし、以下で計画している活動のほとんどは、新しいFAI研究者を見つけ、活動を始める後押しをするため、実際には両方の目的を同時に果たします。ただし、採用と分野づくりの支援との間に大きなトレードオフがある場合には、採用を優先します。FAI研究は、他のことに気を取られるのを最小限にして、専業で取り組むのが最善です。そして今、そのような仕事を提供しているのはMIRIだけです。
採用に何が最も役立つのかを確かめるため、さまざまなことを試す予定です。
- 現時点で私たちが考えるFAIの技術研究計画の概要を公表します。これによって、将来FAI研究者になりうる人が、研究に参加しやすくなるはずです。
- FAIの技術研究計画の各分野について、一連の入門講義を用意し、試し、改良したうえで、多くの都市で実施します。講義に加え、新しい研究成果を生むことを目的とせず、入門講義と質疑応答だけに充てる1〜2日のワークショップを開くことも考えています。
- ユドコウスキーのLess Wrong Sequencesを書籍として刊行する予定です。その理由の一つは、FAI研究の進歩に最も大きく貢献してきた人々が、これらの文章を読んで影響を受けており、それがFAI研究をするうえで役立っているように見えることです。
- SPARCへの資金援助を続けます。その主催責任者ポール・クリスティアーノは、MIRIのワークショップに頻繁に参加しています。
- MIRIxプログラムを通じて、独自に企画されたFAIワークショップへの資金提供を続けます。
- 特定の種類の研究成果に賞金を設け、広く告知することも考えています。たとえば、頑健なプログラム均衡の競技会に提出された優勝する意思決定アルゴリズムや、レーブの障害に対するある種の解決策などです。
- 数学者に広く読まれているNotices of the AMSや、計算機科学者に広く読まれているCommunications of the ACMなどに、広告を出すかもしれません。
- 一流の学術機関に籍を置いたまま、研究者がMIRIと深く協力しやすくなるよう、MIRIとバークレー校のさまざまな連携の可能性について、同校の寄付・渉外担当者と協議しています。
また、FAI研究者の採用条件も、他の就職先と比べて、より魅力的なものにしました。
3. 資金調達
拡大する友好的AIの研究活動を支えるため、挑戦的な目標として、2014年に170万ドルを集めることを掲げています。
その目標に向け、5月6日にSV Givesに参加し、約11万ドルを集めました。さらに、この機会がなければMIRIに寄付しなかったであろう提供元から、寄付の上乗せと賞金で約6万1,000ドルを獲得しました。寄付してくださった皆さんに感謝します！
例年どおり、大規模な夏と冬の募金キャンペーンも、それぞれ7月と12月に始めます。
今年は企業スポンサーの可能性も探りますが、この方法にはあまり楽観していません。MIRIの仕事は短期の商業的な利益にほとんど結びつかず、企業スポンサーが支援先に求める見返りは、受け取る資金に見合わないことが多いと助言を受けているからです。
それよりも、すでに始めている、寄付者との関係維持と新たな寄付候補者の開拓を改善するほうに、成果を期待しています。そのため、常勤の資金調達責任者を採用しようとしています。
寄付候補者の開拓が2014年中に新しい寄付者につながる可能性は低いものの、今後の資金調達には重要です。最近始めた、民間・公的双方の助成機関から助成金を探し、申請する取り組みについても同じことが言えます。2014年に多額の助成金を得られるとは考えていません。しかし、将来大きな助成金を獲得し、資金源を多様化するため、今後数年で他に何をする必要があるのか、具体的に学べると考えています。