❦
2007年のシンギュラリティ・サミットで、登壇者の一人が、人工知能を民主的かつ多国間で開発するよう呼びかけた。そこで私はマイクの前に進み、こう尋ねた。
民主共和制の国々がAIを開発するための共同体を作り、その過程で多くの政治的駆け引きが行われるとします。ある利益集団は異例に大きな影響力を持ち、別の集団は割を食う。言い換えれば、その成果は現代の民主主義が生み出すものとまったく同じようになるとします。もう一つの可能性として、反逆的なオタクの集団が地下室でAIを開発し、世界中の全員に意見を尋ね――携帯電話を持たない人には投下して届け――多数派の言うとおりにするようAIへ指示したとします。どちらのほうがより「民主的」だと思いますか。そして、どちらか一方でも安全だと感じますか？
私は彼が、民主的な政治過程が実用上十分だと信じているのか、それとも投票することが道徳的に正しいと信じているのかを知りたかった。しかし登壇者はこう答えた。
最初のシナリオはReason誌の社説のようだし、二つ目はハリウッド映画の筋書きのようですね。
困惑した私は尋ねた。
では、どんな民主的過程を実際に考えていたのですか？
登壇者は答えた。
ヒトゲノム計画のようなものです。あれは国際的な支援を受けた研究計画でした。
私は尋ねた。
ヒトゲノム計画のような組織で、異なる利益集団はどうやって対立を解決するのですか？
すると登壇者は言った。
分かりません。
このやり取りから、私は、意のままにする自国を民主主義へ移行させる意図はあるかと問われた、どこかの独裁者の言葉を思い出す。
我々は、すでに民主的な制度の中にいると考えている。民意の表明など、まだ欠けている要素はいくつかある。
民主主義の実体は、政策上の対立を解決する具体的な仕組みである。すべての集団が同じ政策を好むなら、民主主義は必要ない。私たちは自動的に協力するだろう。解決の過程は、直接の多数決でも、選挙で選ばれた議会でも、さらには有権者の意向に反応する人工知能の振る舞いでもよいが、何かでなければならない。対立解決の仕組みを何も思い描いていないなら、「民主的」な解決を求めることに、どんな意味があるのか。
それが意味するのは、あなたが「民主主義」という言葉を口にしたので、聴衆は歓声を上げることになっている、ということだと思う。命題的な言明というより、スタジオの観客へ拍手のタイミングを知らせる「拍手」ランプに相当する。
この事例が珍しいのは、私が拍手ランプを政策提案と取り違え、その結果、全員がきまりの悪い思いをしたことだけである。ほとんどの拍手ランプは、もっとあからさまで、単純な反転テストによって見破れる。たとえば誰かが、こう言ったとしよう。
AIのリスクと機会の均衡を取る必要がある。
この言明を反転すると、こうなる。
AIのリスクと機会の均衡を取るべきではない。
反転した文は不自然に聞こえるので、反転していない文はおそらく普通の文であり、新しい情報を伝えていないことが示唆される。それだけを取り出せば情報を含まない文を発することにも、正当な理由はいくつもある。「AIのリスクと機会の均衡を取る必要がある」は、議論の題目を導入できる。均衡を取るための具体的な提案の重要性を強調できる。均衡を欠いた提案を批判できる。普通の主張とのつながりを示せば、能力に限界のある合理主義者へ新しい情報を伝えられることもある。そのつながり自体が明白とは限らないからだ。しかし、あとに具体的なことが何も続かないなら、その文はおそらく拍手ランプである。
いつか、拍手ランプだけで構成された講演を行い、聴衆が笑い始めるまでどれほどかかるか確かめてみたいという誘惑に駆られる。
本日、私が皆さんに提案するのは、高度な人工知能のリスクと機会の均衡を取る必要があるということです。私たちはリスクを避け、可能な限り機会を実現すべきです。完全に不要な危険と、いたずらに対決すべきではありません。こうした目標を達成するには、賢明かつ合理的に計画しなければなりません。恐怖と混乱の中で行動したり、技術恐怖症に屈したりすべきではありません。しかし、盲目的な熱狂の中で行動するべきでもありません。シンギュラリティに利害を持つ、すべての当事者の利益を尊重すべきです。高度な技術の恩恵が少数に限られず、できるだけ多くの個人にもたらされるよう努めなければなりません。こうした技術を用いた暴力的な紛争を、可能な限り避けるよう努めなければなりません。そして、巨大な破壊能力が個人の手に落ちるのを防がなければなりません。手遅れになってからではなく、まだ何かできるうちに、こうした問題を徹底的に考えるべきです……。