「人間レベルの人工知能」、別名 「汎用人工知能」（AGI）について意見を求めると、多くの専門家は、これらの言葉はまだ厳密に定義されておらず、定義されていないものについて話すのは難しい、と答える。もっともな反応だ。((私はHLAIとAGIを同じ意味で使っているが、最近はほぼAGIだけを使っている。AIのコミュニティでは、「人間レベル」のAIと口にするだけで否定的な反応を示す人が多い一方、特化型と汎用の知能を区別することには異論がない、とわかったからだ。ベン・ゲーツェルのこちらのコメントも参照。))((HLAIがいつ作られると思うかと聞かれた、AAAI元会長パット・ヘイズは、こう答えた。「この質問には答えられるとは思わない。よく使われる『人間レベルの知能』という概念に、意味があると認めていないからだ」。同じ質問に対して、AI研究者ウィリアム・ウーサーは、こう答えた。「『人間レベルのAGI』について、たくさん質問されていますね。この言葉は明確に定義されていないと思います」。AI研究者アラン・バンディも、こう答えた。「『人間レベルの機械知能』という概念は、きちんと形になっていないと思います」。))この記事では、MIRIでよく使っている、厳密ではないが役に立つ 知性 の「作業上の暫定的な定義（working definition）」を簡単に示したい。今後の記事では、汎用人工知能 の有用な暫定的定義をいくつか取り上げる。
厳密でない定義も役に立つ
厳密な定義は重要だ。だが、私はバートランド・ラッセルの次の言葉に賛成する。
最初から厳密なものを出発点にすることは［できない］。そのような厳密さは……進んでいくうちに獲得しなければならない。
物理学者ミラン・チルコヴィッチもこれに同意し、次の例を挙げている。
厳密な定義を与えることも含め、知識の形式化は、通常、ある分野の独創的な研究の最後に行われるのであって、最初ではない。とりわけわかりやすい例は 数 という概念だ。現代的な意味で適切に定義されたのは、20世紀に……公理的集合論が発展してからだった。((Sawyer（1943）は、別の例を挙げている。「数学者たちは最初、√-1が何を意味しうるのか、まったくわからないまま、その記号を使った。計算の手間が省け、正しい結果が得られたからだ。当然、人々はなぜそうなるのか、√-1が本当は何を意味するのかを解明しようとした。そして200年後、成功した」。Dennett（2013）も、関連することを述べている。「君、用語を定義したまえ！ いや、しない。時期尚早だからだ……。私の［アプローチ］は、難しい問題を最初から丸ごと食べて消化しようとするのではなく、少しずつかじる方法の一例である……。『Elbow Room』では、私の方法を、大理石の塊から大まかな形を削り出し、慎重かつ控えめに、段階的な近似によって最終的な表面に近づく、彫刻家の方法にたとえた」。))
もっとAIに近い例として、「自動運転車」という概念を考えてみよう。1930年代以来、さまざまな曖昧な定義が与えられてきた。地中のケーブルで誘導される車は当てはまるだろうか。音波で障害物を検知し、必要に応じて自動でブレーキをかけられるが、曲がる箇所を一つずつ事前にプログラムした場合にしか「自分で」操舵できない、改造された1955年式スチュードベーカーはどうだろう。それは「自動運転車」に数えられるのか。
コンピュータービジョンを使って障害物を避け、カーブを曲がることはできたが、公道を走れるほどには進んでいなかった1980年代の「VaMoRs」はどうだろう。米国を横断し、旅程の98.2%を完全に自律走行した1995年のNavlabはどうか。あるいは、経路のGPS座標だけを与えられ、2005年DARPAグランド・チャレンジの132マイルのオフロードコースを完走したロボット車はどうか。2007年DARPAグランド・チャレンジで、交通法規をすべて守り、ほかの車との衝突を避けながら、市街地のレースを完走した優勝車たちはどうだろう。Googleの無人運転車は、コンピューターの制御下では一度も事故を起こさず、50万マイルを超える自律走行を記録しているが、難しい合流や雪道にはまだ苦労している。この車は当てはまるのか。((自動運転車について、研究者たちは進歩の評価に、事故率、速度、補助なしで走れる時間の割合、行き詰まる頻度など、厳密な外部的性能指標を数多く使ってきた。また、探索速度や損失上限の保証など、内部的な性能指標も使ってきた。長期的な貢献度の比重は不明でも、それぞれの進歩が正しい方向に向かっていることはわかった。AI全般でも同じだ。研究者は多くの厳密な外部・内部性能指標で進歩を評価するが、最終目標であるAGIに向けて、それぞれの進歩がどれほど貢献するかを比較するのは難しい。))
「自動運転車」の厳密な定義がないことは、その開発をそれほど妨げていないように見える。((そもそも、ポルノグラフィーは何千年も存在するのに、私たちは いまだに 厳密には定義できていない。百科事典の「ポルノグラフィー」の項目も、しばしば単に、ポッター・スチュワート判事の言葉を引用する。「私が［ポルノグラフィー］と理解する種類の素材を、ここでさらに定義しようとは思わない……。だが、見ればわかる」。))そして私は、厳密な定義ができるまで、自動運転車について真剣に議論するのを待たなくてよかったと思う。
同じように、AGIについて真剣に議論するのに、厳密な定義ができるのを待つべきではないと思う。一方で、その言葉に情報が 何も 含まれていないなら、役に立たない。そこで、AGIについて、用法を定めた操作的な定義に向かって進んでみよう。まずは 知性 の操作的定義を考えるところから始める。
「知性」の定義
LeggとHutter（2007）は、知性の定義が、「知性は、幅広い環境で目標を達成するエージェントの能力を測るものだ」という考えに収束していることを見いだした。これは、エージェントが自分の選好に従って世界を最適化する力を測るものなので、知性の「最適化能力」という概念と呼ぼう。
これは、実りあるアプローチだと思う。知性を、意識、総当たりの計算、「複雑さ」など、成果を どうやって 生むかという内部の仕組みではなく、外から測れる 達成度 と結びつけているからだ。それに、私たちが普通気にするのは 達成度 である。AIに特定の内部的特徴があるかよりも、人間の労働者を代替できるほどの成果を出せるか、人間の助けなしに自分の能力を改善できるほどの成果を出せるかを、最も気にする傾向がある。((機械が知的であることに加え、意識があるかも気になるかもしれない。だが、それにはすでに便利な言葉がある。意識 だ。とりわけ、AIをゆっくり手探りで発明する過程で、部分的に意識を持つAIに近いものを何百万体も作って壊すことになるかもしれないため、機械の意識は気がかりだ。それらは起動され、しばらく苦しんでから停止される。その間ずっと、苦しんでいると私たちに伝えることはできない。今後数十年も意識の本質がはっきりせず、そのため、意識を持たず、したがって苦しむこともないと わかっている 知的機械を作る原理に基づく方法――たとえば非人格述語による方法――がないままでいれば、こうなる可能性は特に高い。この点を早くから明確に述べた一人が、Metzinger（2003）の621頁だ。「誰かがやってきて、『遺伝子工学によって、知的障害のある乳児を作りたいのです！ 科学を進歩させるため、生まれてからの心理的発達を研究するのに、認知や感情に特定の欠損がある乳児が必要です。この重要で革新的な研究に、至急資金が必要なのです！』と言ったら、どう答えるだろうか。それはばかげていて恐ろしいだけでなく、危険な考えだと思うに違いない。民主主義社会のどんな倫理委員会でも承認されないことを願いたい。だが今日の倫理委員会が見落としているのは、意識的経験に最低限十分な一組の条件を満たす最初の機械が、ちょうどそのような知的障害のある乳児と似た存在になりうることだ。それらも、機能や表象にあらゆる欠損を抱えるだろう。しかも、その欠損を主観的に経験することになる。さらに、政治的に働きかける団体も、倫理委員会で代弁する人もいない」。メッツィンガーは、Metzinger（2010）の194頁以降でも、この点を繰り返し述べている。))
さらに、最適化能力という概念を使うと、異なる種類のエージェントの知性を比較できる。Albus（1991）が述べたように、「知性の有用な定義は……生物と機械の両方の実現形態を含むべきであり、その知的な範囲は、昆虫からアインシュタインまで、サーモスタットから、いつか作られうる最も高度なコンピューターシステムまでを包含すべきだ」。
ただ、もう一つ考慮したいことがある。二つのエージェントが、それぞれの選好に従って世界を最適化する能力ではおおむね同じでも、二つ目のエージェントのほうが、はるかに多くの資源を必要としたらどうだろう。この二つは最適化能力が同じだが、一つ目のほうが、より知的に最適化しているように見える。そこで「知性」を、「最適化能力を使用資源で割ったもの」という意味にできるかもしれない。ユドコウスキーが効率的な領域横断的最適化と呼んだものだ。((確かに、これでもまだかなり曖昧だ。厳密さへ一歩進むには、ありうる選好についての何らかの標準的な分布と、環境についての何らかの標準的な分布を取り、資源使用へのペナルティを加えた最適化能力として、知性を定義する案が考えられる。標準的な選好や環境では、私たちの関心に近いものに重みを付けてもよい。私たちは、AIが抽象画を描けるかより、科学を行えるかを重視し、ブラックホールの中で目標を達成できるかより、太陽系で達成できるかを重視する。Goertzel（2010）の「効率的で実用的な汎用知能」も参照。))
ほかの定義にも、それぞれ利点がある。((Hibbard（2011）、Legg & Veness（2011）、Wang（2008）、Schaulほか（2011）、Dowe & Hernandez-Orallo（2012）、Goertzel（2010）、Adamsほか（2011）。))だがMIRIでは、「効率的な領域横断的最適化」という概念を十分に有用だと考え、知性の、なお厳密ではない暫定的定義として使っている。
今後の記事（ 追記 ：こちら）では、汎用人工知能 の有用な暫定的定義をいくつか論じる。