注：本稿は、これから数週間かけて投稿する「有限因子分解集合」の連載への前置きです。今度の日曜日、太平洋時間の正午から、Zoomで有限因子分解集合を紹介する講演を行います（リンク）。これは、技術的な面白さという点では論理的帰納にほぼ匹敵すると私が考えている枠組みです。
（5月25日追記：有限因子分解集合を紹介する動画とブログ記事を、こちらで公開しました。）
ここ数年、私の研究の動機の大きな部分は、時間という概念を救おうとすることに向けられてきました。たとえば、決定理論の問題が生み出す、さまざまな奇妙な因果のループから救うことです。この記事で、なぜ私が時間にこれほどこだわるのか、何を直す必要があると考えているのかを、説明できればと思います。
なぜ時間なのか？
時間を短く説明しようとして、私が今のところいちばんよいと思うのは、時間とは因果関係であるというものです。たとえば、パール流のベイジアンネットワークでは、より前のノードからより後のノードへ辺を引きます。したがって、因果関係について考えたいのであれば、時間を理解する必要があります。
特に、時間は、学習とコミットメントが行われる土台です。エージェントが学ぶとき、それは時間の中で学びます。時間の経過とは、機会が失われ、知識が作られる儀式のようなものです。そして、学習モデルの多くには微妙な混乱があると私は考えています。混乱した時間の概念を土台にしているからです。
エージェンシーを考えるうえでも、時間は欠かせません。エージェンシーを短い言葉で定義するなら、私が最もよいと思うのは、エージェンシーとはタイムトラベルであるというものです。エージェントは、未来が過去に影響を与えられる仕組みです。エージェントは、自分の行動が将来もたらす結果をモデル化し、その結果に基づいて行動を選びます。その意味で、通常の物理的な意味では行動のほうが先に来るにもかかわらず、結果が行動の原因になるのです。
問題：時間にはループがある
時間について主にうまくいっていないのは、そこに「ループがある」ということです。
ニューカムの問題で主に混乱するのは、物理的には後に来る自分の決定を、箱に中身を入れる「前」に来るものと考えたくなる点です。これは、物理学の時間に加えて、何か別の「論理的な」時間も理解したいのかもしれない、ということを示唆しています。
しかし、それを試みると二つの問題にぶつかります。第一に、この論理的時間がどこから来るのか、どうすればそれを学べるのかがわかりません。第二に、時間のループと思われるものに出くわします。
ここでは第一の問題は脇に置き、第二の問題に焦点を当てます。
なぜ時間のループにぶつかるのかを知る最も簡単な方法は、物理的時間と論理的時間が、少なくとも多少は絡み合っているように見えることに気づくことです。
ニューカムの問題を物理シミュレーションで実行し、すべての原子の細部をすべて追跡している人の視点を想像してください。その視点からは、エージェントが一つの箱を取るか二つの箱を取るかを決めるよりも前に、箱に中身が入れられる、と捉えることに有用な意味がありそうです。しかし同時に、その原子が構成するエージェントは、自分には何も変えられないかのように決定を下すべきではありません。
ここでの解決策は、「前」と「後」、「原因」と「結果」などには、多くの異なる種類があると考えることかもしれません。たとえば、エージェントを出発点とする視点ではXがYより前に来るが、物理を出発点とする視点ではYがXより前に来る、と言えます。
私はこれは正しいと思いますし、多くの異なる時間の体系があると考えたいと思っています。できれば、それらが予測可能な形でつながっていてほしいとも思います。しかし、これで問題全体が解けるとは思いません。
ソースコードが公開された囚人のジレンマで、レーブの定理に基づくハンドシェイクを首尾よく実行し、協力する二つのFairBotエージェントを考えてください。私は、ある意味で、それぞれのエージェントの協力が相手の協力を引き起こす、と言いたいのです。各エージェントを基準にすれば因果的・時間的な順序が異なる方向を向く、とも言えるでしょう。しかしこの場合、ループは構造の重要な一部だと思います。（また、時間のどちらの向きを、どちらのエージェントに対応させたいのかさえ、私にははっきりしません。）
ほかの理由でも、時間や因果関係にループを入れたくなります。たとえば、時間を通じて持続するシステムのフィードバックループをモデル化するとき、ベイジアンネットワークによく似ていても、非巡回ではない構造を描くことがあります。POMDP（部分観測マルコフ決定過程）などです。これは、時間という次元をさらに持つ別のシステムを射影したものと考えられますが、それでも有用な射影です。
解決策：抽象化
一貫した時間の概念を取り戻し、こうした時間のループをほどくうえで、私が主に期待しているのは、抽象化を通じた方法です。
エージェントが結果に基づいて行動を選ぶ例では、その結果についての抽象モデルが、因果的には行動の選択より前にあり、行動の選択は実際の物理的な結果より前にある、と考えています。
ニューカムの問題では、箱に中身を入れるよりも因果的に前に、行動の抽象モデルがあると言いたいのです。
ソースコードが公開された囚人のジレンマでは、エージェントのプログラムの実際の実行トレースよりも因果的に前に、協力についての抽象的な証明があると言いたいのです。
これらはすべて、同じ方向を指しています。構造を粗く抽象化したものと、同じ構造をより詳しく表したものとを、異なる時間に位置づける必要があるのです。記述の水準が違えば、因果の鎖の中で占める位置も違うことを正しく認めれば、時間のループをすべてほどけるかもしれません。
でも、どうやって？
残念ながら、時間についての私たちの最良の理解はパールの因果論ですが、パールの因果論は抽象化をそれほどうまく扱えません。
パールの理論には、多数の変数を持つベイジアンネットワークがあります。しかし、その変数の一部がほかの変数を粗く抽象化したものであるなら、決定論的な関係を認めなければなりません。一部の変数がほかの変数の決定論的関数になるからです。そして、パールの理論の最も優れた部分は、決定論的な関係にはうまく対応できません。
しかし、問題はそれより深いところにあります。決定論的関数の方向に矢印を引くと、同じ構造をより詳しく表したものから、より粗く表したものへ、時間の矢印を引くことになります。これは、これまでの例すべてとは逆向きです。
より詳しいノードからより粗いノードへ、この矢印を引くのを避け、代わりに、より粗いノードから詳しいノードへ向かう経路を持たせられるかもしれません。しかしそうすると、新しい自由度を何も加えず、詳しいノードの決定論的な下流にある、粗いノードのコピーをもう一つ作ることができます。では、その粗いノードの二つのコピーを入れ替えるのを、何が妨げるのでしょうか？
全体として、パールの理論は、一部のノードがほかのノードの抽象版である場合に対応する準備ができていないように私には見えます。時間を救うには、この点を直す必要があると思います。
議論の場：LessWrong