❦
自分では信じているつもりのことと、実際に予期していることが食い違う人を相手にすると、ちょっと面白いことができる。
ある晩餐会で、私は一人の男性に自分の仕事を説明しようとしていた。すると彼はこう言った。「人工知能は不可能だと思います。魂を作れるのは神だけですから」
このときの私は、神のお導きを受けていたに違いない。即座にこう返したのだから。「つまり、私が人工知能を作れたら、あなたの宗教が間違っていると証明されるんですね？」
「え？」と彼は言った。
私は言った。「あなたの宗教が、私に人工知能を作れるはずがないと予測するのなら、私が人工知能を作ったときには、あなたの宗教が間違っていることになりますよね。私がAIを作れる可能性をあなたの宗教が認めるか、それとも、私がAIを作ればあなたの宗教が反証されるか、どちらかです」
彼は自分の仮説をたった今、反証されうるものにしてしまったと気づき、しばらく黙った。それからこう言った。「いや、知能が作れないと言ったつもりではなくて、私たちと同じように感情を持つことはできない、という意味です」
私は言った。「では、何らかの台本を意図的にあらかじめ組み込んだわけでもないのに、私たちに似た感情生活を語り始める人工知能を私が作ったら、それであなたの宗教が間違っていることになるんですね」
彼は言った。「ええと、その、これについては意見が一致しないということで、お互い合意するしかないかもしれませんね」
私は言った。「いや、実はそれはできないんです。合理性の定理にオーマンの合意定理というものがあって、合理主義者である二人が、意見の不一致について合意することはできないと示しています。二人の意見が食い違うなら、少なくとも片方は何かを間違えているはずです」
この点をめぐって少しやり取りした。最後に彼は言った。「私が本当に言いたかったのは、あなたに永遠なるものは作れないと思う、ということなんでしょうね」
私は言った。「それなら私もそう思います！ オーマンの合意定理が要求する通り、この点で合意できてよかったです」。私が手を差し出すと彼は握手し、それから立ち去った。
そばに立って会話を聞いていた女性が、真顔で私に言った。「見事でした」
「どうもありがとうございます」と私は言った。