人工超知能の時期尚早な創出を防ぐ国際合意――条約案(非公式翻訳)

この合意の前文は、核兵器不拡散条約（NPT）の前文を手本にしています。同条約は、次のように始まります。

核戦争が全人類にもたらす惨害を考慮し、したがって、そのような戦争の危険を回避するためにあらゆる努力を払い、諸国民の安全を守る措置をとる必要があることを考慮し……

続いて、次のように述べています。

核兵器国が核爆発装置の開発から得る技術上の副産物を含む、原子力技術の平和利用による便益は、核兵器国か非核兵器国かを問わず、すべての締約国が平和的目的のために利用できるようにすべきであるという原則を確認し……

こうして前文は、強力な技術がもたらす破滅的な脅威から人類を守る責任ある国々の取り組みに加わり、安全に認められる便益を分かち合うよう、世界に呼びかけています。私たちの前文も、この例にならおうとするものです。

NPTは1970年に発効し、1995年に無期限延長されました。ほぼすべての国が参加していることで知られ（締約国は191か国）、その前文は、兵器拡散の地球規模の危険を強調すると同時に、原子力の平和利用による便益をすべての締約国が利用できるようにすべきだと確認しています。

多くの条約と同様、NPTの第I条は、締約国が引き受ける大枠の約束を定めています。この場合は、自国の核兵器を他者に渡さず、他者の核兵器取得を援助しないという約束です。

各核兵器締約国は、核兵器その他の核爆発装置又はそれらの兵器若しくは爆発装置の管理を、直接又は間接に、いかなる受領者にも移譲しないこと、並びに非核兵器国が核兵器その他の核爆発装置を製造し若しくはその他の方法によって取得すること、又はそれらの兵器若しくは爆発装置の管理を取得することを、いかなる形でも援助し、奨励し、又は勧誘しないことを約束する。

私たちの合意案の第I条にまとめた約束は、これよりも強いものです。誰であれ、どこであれ、ASIの開発規制を突破する事態は、ただの一度も許してはならないからです。² 他者による開発を「援助し、奨励し、又は勧誘」しないだけでは足りません。そのため、どこで行われる開発であっても、それを思いとどまらせ、防止するために締約国がとる「合理的な措置を支援し、又は妨げない」という約束を盛り込みました。

NPTが既存の脅威である核兵器を封じ込めようとする一方で、私たちの合意案は、ASIという脅威がそもそも生まれないようにするものです。危険な新技術の開発を防ぐ先例は、特定通常兵器使用禁止制限条約の一部をなす「失明をもたらすレーザー兵器に関する議定書」に見いだせます。³ その第I条は、次のように定めています。

唯一の戦闘機能又は戦闘機能の一つとして、補助のない視力、すなわち裸眼又は視力矯正器具を用いた眼に恒久的な失明をもたらすよう特に設計されたレーザー兵器を使用することを禁止する。締約国は、このような兵器をいかなる国家又は非国家主体にも移譲してはならない。

しかし、この条文は、誰かがどこかでそのようなシステムを実験したり、偶然作ってしまったりすることまで防ごうとはしていません。私たちの合意は、偶然ASIが作られてしまうことも防げるほど、強力でなければなりません。引き返せなくなる地点がどこなのかは明らかではないため、第I条には「ASIに向けて実質的に前進させる活動に従事せず、そのような活動を許可しない」という約束を盛り込んでいます。

AIの定義について

ここで用いたAIの定義は、チャック・グラスリー上院議員のAI内部告発者保護法案をもとにしたものですが、広すぎるかもしれません。スペルチェックや画像認識システムなど、明らかに安全なコンピューターシステムには適用されないことを明確にするには、さらに定義を詰めるとよいでしょう。

最先端の大規模言語モデルの開発に高度に専用化されたハードウェアが必要で、ほかの活動との区別も容易であるという、現在のAI技術のあり方が変わらないのであれば、対象を絞った定義を作るのはもっと簡単でしょう。しかし、ASIへ至る技術は変わっていきます。用いるAIの定義は、LLM以外も含むものでなければなりません。機械学習だけを禁止する合意では、研究者が技術上は定義に当てはまらない新しいAIの方式を開発し、超知能に向かって先を争うことを促しかねません。新たな方式が登場した場合、特に、深層学習ほど大量のAIチップを必要としない方式であれば、合意を更新する必要が生じる可能性が高く、執行は大幅に難しくなるかもしれません。

計算能力の定義について

計算能力の主要な尺度には、H100換算を用います。第V条では、これによって監視なしで認められるチップクラスターの最大規模を定めています（16 H100換算）。第IV条はAIの学習に使う総演算回数で閾値を定めているため、監視なしで行える1秒あたりの演算回数を制限すれば、監視されないハードウェアで違法な規模の学習を行おうとしても、実用にならないほど長い時間がかかることになります。

H100換算を使うのは、さまざまなチップ設計を比べるうえで最も重要な尺度が演算の速さであり、H100が適切で、使用の先例もある物差しだからです。高帯域幅メモリーなど、AIの学習ではほかのチップの指標も重要ですが、全体としては、1秒あたりの演算回数ほど重要ではありません。

私たちが提案する対象チップクラスター（CCC）の定義は、いくつかの条件を同時に満たそうとするものです。基準値は、一般の人々が規則違反にならない程度には高くなければなりません（筐体間の25 Gbit/sという帯域幅はデータセンター以外のインターネット接続より速く、個人が16 H100換算を超える機器を所有することは非常にまれで、費用もかかります）。同時に、危険なAI活動を防ぎ、規制のすり抜けを難しくできるほど低く設定する必要もあります（つまり、CCCに満たない複数のチップ群に分散して学習することを難しくします）。このトレードオフについては、第V条の解説で詳しく論じます。CCCのアクセラレーターメモリーへの制約は、こちらの記事で論じているように、違法な分散学習を防ぐために設けています。

AIチップは先端コンピューターチップの一部ですが、AIチップとそれ以外を分ける明確な境界線はありません。ここではその区別を定義して頼るのではなく、H100換算で測ったクラスター全体の計算能力（1秒あたりの演算回数）を用います。AIの学習又は実行に使えるよう構成できるチップであり、定義した閾値を超える場合、この合意はその監視を要求します。

なお、一部の政府では、国家技術手段（NTM）を正式な用語として使わなくなっている可能性があります。本合意では、過去の軍備管理合意と比較しやすいよう、その用語法にならって用いています。

中距離核戦力全廃条約（INF条約）及び戦略兵器削減条約（START I、START II、新START）では、実施及び検証の責任を各締約国に置いています。各締約国は、相手国が自国の遵守について合理的な確信を得られるようにする手続を約束しています。

第3項で設置する執行理事会は、NPTの理事会を手本にしています。

台湾は、その微妙な地政学上の立場に加え、世界のAIチップの大半を生産していることから、この合意の構想を複雑にしています。幸い、先例が手がかりになります。台湾はNPTの締約国ではありませんが、NPTの原則に拘束されると考えていることを、繰り返し表明しています。また、米国及びIAEAとの三者間の取決めを通じ、IAEAが台湾の原子力施設で査察を行い、保障措置を適用することを認めています。この合意についても、同様の取決めを設けることができるでしょう。

第3項(b)の「要請査察」は、化学兵器禁止条約（CWC）の第X部にある仕組みを手本としています。この先例については、第X条で詳しく説明します。

この仕組みでは、AIの研究・開発・配備の制限を維持し、明確にするといった、集中させなければならない少数の機能だけを連合技術機関に集中させ、執行理事会には監督権限を与えます。この組織案の利点の一つは、技術機関が迅速に意思決定できることです。ただし、その決定は、どの理事国からも拒否されずに済むものでなければなりません。

この合意では、米国と中国、場合によってはその他の理事国も、それぞれ並行して遵守を検証し、執行します（第X条も参照）。これは、自律性を手放す度合いを最小限にとどめ、既存の情報収集活動をまったく妨げずに、各国が必要とする確信を得られるようにすることを目指したものです。

AI技術に関して、米国と中国が抜きんでた大国であることに注意が必要です。二国間の合意であれ、それ以外の形であれ、実現可能な合意には両国の参加が必要になります。現実には、現在のAI開発の状況からすると、規制、供給及び研究に関して、両国が非常に大きな発言力を持つことになるでしょう。それを踏まえ、国連安全保障理事会の常任理事国や、大きな経済力・軍事力を持つ国々などは、自国の安全保障上及び経済上の利益にかなう場合にしかこの合意に加わらない、という点も認める必要があります。私たちは、どの国が執行理事会に加わるかについて、先回りして立場を決めないようにこの合意を書いています。最終的には、合意に関心を持つ当事国が、協議に臨む際の相対的な交渉力や立場を踏まえ、理事国を交渉によって決めることになります。

TSMCが有数のAIチップメーカーである以上、AIに関するいかなる合意も、台湾をどう扱うかを考えなければなりません。先例の節で述べたとおり、台湾が署名せずともNPTを遵守しているのと同様に、私たちの合意にも従うことを推奨します。それは、正式な取決め、又は台湾がこの合意の原則に拘束されると考え、現地での通常査察若しくは要請査察、又はその両方を受け入れるとする宣言などによって実現できます。

本合意に定めた閾値の数値は、初期の起草段階を越える際に見直すことができますし、見直すべきでもあります。しかし、数量上の上限を設けること自体は、国際合意では一般的です。そうすることで、定性的な表現の解釈の違いをめぐって生じかねない紛争を、あらかじめ防げます。

1974年の地下核実験制限条約は、米国とソ連が行う地下核実験に、150キロトンという上限を設けました。⁴ この条約の目的と効果は、都市を壊滅させる、さらに大きく破壊力の強い核弾頭の開発を、少なくともある程度妨げることにありました。AI開発との重要な共通点は、2025年半ばの時点では、より汎用的で高性能な、したがってより危険なモデルを作るには、それに応じて大規模な学習実行が必要だということです。本合意が定める上限は、そのようなAIの意図的な開発を防ぐことを目指しています。同時に、予想していなかった能力の閾値を、偶然、しかも取り返しのつかない形で越えてしまうリスクを減らすという、核実験の例とそのまま対応するものではないにせよ、不可欠な利点を得ることも目指しています。

出発点として提案した学習の上限は、現在学習されているAIモデルの一部が超えるほど低いものです。私たちはこれを、学習量あたりのモデルの能力を高める進歩を見越した、慎重な措置だと考えています（第VIII条で論じます）。現在の最大水準を下回る閾値を設ける先例は、軍備削減合意にあります。1922年のワシントン海軍軍縮条約は、軍艦の排水量の上限を定め、米国などの海軍国に数十隻の主力艦を廃棄させました。⁵ 1991年のSTART条約の第II条では、⁶ 米国とソ連、後にはロシア連邦が、核兵器の保有量と運搬手段の規模に制限を設けることに同意しました。そのため、両国はそれぞれ4,000発を超える弾頭を、段階的に退役させる必要がありました。

規制を突破する余地を抑える数量上の閾値の先例については、第V条で論じます。

近年のAIの進歩は、何よりもまず、AIの学習に投入する計算資源の増加によってもたらされてきました。この資源と、アルゴリズムを進歩させる研究（第VIII条）を制限すれば、近い将来に超知能が作られるリスクは大幅に下がるでしょう。

本案の制限は、使用する計算の演算回数に基づいています。比較的定義しやすく、測りやすいからです。既存の最先端AIの性能から、少なくとも2025年半ばのアルゴリズムを用いる場合には、どの程度の計算用ハードウェアなら安全そうかを判断できます。

できれば、学習後のシステムの能力に基づいて学習を制限したいと考えています。しかし、新しいAIが何をでき、何をできないかを、学習前に確信を持って予測する技術的能力は、誰も持っていません。計算資源は、現に使える代替指標なのです。

学習に対する禁止閾値（10^24 FLOP）による厳格な禁止は、2025年8月時点で最先端に近いモデルの学習に用いられた計算量を、やや下回るものです。たとえばDeepSeek-V3は、3×10^24 FLOPで学習されました。この閾値を提案するのは、現在のアルゴリズムを前提にAIが危険になると私たちが予想する水準を下回り、アルゴリズムの進歩に対しても多少の余裕と緩衝域を確保できるからです。

10^23を超える事後学習の禁止は、合意発効前に作られたAIの事後学習に適用することを意図しています。その多くは、10^24 FLOPを超える計算量で学習されているでしょう。2025年半ばには、そのようなモデルが50〜100ありました。それらのAIの多くは重みが一般公開されているため、人々が使うのを防ぐことは現実的ではありません。しかし、事後学習による大幅な改変を防ぐことは可能です。

H100を16基用いて10^22 FLOP（監視閾値）の学習を実行するには、およそ1週間かかります。十分に多くの計算を要するため、趣味で小規模な許可されたモデルを学習させる人が、うっかり閾値を超えることはありません。現在のアルゴリズムで10^22の規模で学習されたAIは、これまでのところ無害に見えます。ただし、防げなかったAI研究の進歩によって状況が変わる可能性があるので、監視し続ける必要があります。

中規模の学習を監視すれば、禁止をすり抜けて生じるアルゴリズムの進歩を、CTBがある程度把握し続けられます。第XIII条では、この範囲で学習されたモデルの評価を定めています。これにより、CTBはAI開発の動向を知り、必要に応じてFLOP閾値を調整しやすくなるでしょう。

CTBの職員には、さまざまな制限のもとで、監視対象の学習実行に用いるデータへのアクセスを認めます。制限の目的は、記録やその他の監督手段によって、学習データに含まれる機微な内容の無許可の開示を防ぐことを保証する点にあります。その内容には、個人を特定できる情報、個人の健康情報、機密情報、営業秘密、秘密保持法の対象となる銀行データなどを含みますが、これらに限りません。

規制を課す条約では、対象となる資産の申告が最初の一歩となることがよくあります。1922年のワシントン海軍軍縮条約の締約国は、主力艦とその排水量の目録を提出し、これらの艦船を代替する際には互いに通知することを約束しました。1991年の第一次戦略兵器削減条約（START I）には、申告されたすべての戦略兵器の所在地データの共有について定めた、座標及び施設配置図の交換に関する秘密扱いの合意（第VIII条）が含まれていました。私たちの合意案の第V条第3項は、締約国に対し、120日以内に対象チップクラスターの所在を特定し、目録を作成し、集約するよう求めています。

遵守の検証を容易にするための資産の集約も、規制を課す条約によく見られる措置です。START Iの第III条は、監視を容易にするため、ICBMを宇宙打上げ施設と同じ場所に設置することを禁じました。第1項(a)が締約国に「これらの申告済み施設において、AIチップに付随するものではない非AI用コンピューターハードウェアをAIチップと同じ場所に設置することを避ける」よう求めるのも同じ理由です。

集約を進めるもう一つの理由は、ブレイクアウトの可能性を制限することです。ブレイクアウトとは、他の誰かが阻止できるようになる前に、ある締約国がASIを作り出そうとすることを指します。集約された資産は監視しやすく、必要な場合には無力化もしやすくなります。無力化措置が実行されるという信頼に足る見通しは、拒否的抑止の実効性を高めます。

相互の信頼が限られる状況で結ばれた過去の条約では、監視と査察がよく盛り込まれています。そのため私たちも、本条第1、4、6、7項の適切な箇所にこれらの規定を設けました。具体的な先例としては、次が挙げられます。

• START Iの検証では、最初の数年間に数百回の現地査察が行われました。
• 化学兵器禁止条約（CWC）はすべての化学兵器生産施設の申告と査察を義務づけており、これまでに97施設が申告され、その大半は検証を伴う形で破壊されました。（これらの合意は既存施設の申告を求めると同時に、特定の活動を申告済み施設の外で行うことを禁じています。これは本条による未監視のCCCの禁止に相当します。）
• 核不拡散条約（NPT）の枠組みの一環として、世界の700を超える申告済み核施設がIAEAによる監視を受けています。

本条第3項と同様に、多くの軍備管理合意は、検証に関して締約国が互いのNTMを妨害しないことを要求しています。例としてSALT I⁷、ABM条約⁸、INF条約⁹、START Iが挙げられます。

約束を履行するために国内の民間産業を規制する先例（AIでも必要になります）は、米国がCWC批准後に制定した法律に見られます。1998年化学兵器禁止条約実施法と商務省の規則は、米国の事業体による遵守を確保しました。同様に米国議会は、モントリオール議定書の批准後、オゾン層破壊物質を禁止するため、大気浄化法を改正しました。

米国でチップの集約を実施する方法としては、憲法修正第5条の収用条項を利用することも考えられます。この条項では、政府は適切な補償を支払う限り、土地収用権を行使して公共目的のために私有財産を収用できます。

第V条は、すべてのAIチップクラスター（すなわち、一定の小さな規模を超える、相互接続されたチップの集合）とAIチップの圧倒的大多数を、監視対象施設に集約することを目指しています。監視と拡散防止は第VI条で扱います。

私たちの案は、すべての締約国が他のすべての締約国もチップを集約したことを確認できるよう、この過程を国際的に検証することを定めています。大規模なAIデータセンターについては、情報機関がすでにその所在を把握している可能性が高いため、この種の検証は容易に行えると考えられます。小規模なデータセンターについては、国内の集約の取り組みを監督するための調整をCTBが担えます。

チップの集約は、人工超知能の開発を制限するための重要な第一歩です。チップを申告済み施設に集約すれば、使われ方をさらに監視したり、安全に使用できない場合には電源が切られていることを検証したりできます。また、締約国が合意違反を続ける場合に第XII条に基づき必要となりうる、チップの無力化も容易になります。

CCCには危険をもたらす能力があるものの、私たちは合意の条文で、人口密集地から離れた場所への設置を勧めることは避けています。その理由は、合意違反の場合でも、データセンターは大きな付随的被害を生じさせずに停止できると考えられることと、今日のデータセンターはすでに都市の近くに設置されることが多いことの両方にあります。とはいえ、AIデータセンターは重大な安全保障上の脅威となりうるため、別の合意では軍事施設として扱うほうが望ましいと判断されるかもしれません。

集約の検証

ほとんどの締約国は、他の締約国が規則を守ると無条件に信じることはないでしょうし、信じるべきでもありません。遵守を検証する何らかの方法が必要です。AIチップを申告済み施設に集約すれば、査察と監視によってチップの存在と稼働状況を確認できます。

AIチップを監視する別の方法があれば、集約は必ずしも必要ではないかもしれません。しかし残念ながら、現在のチップに備わるセキュリティ機構は限られているため、既存のAIチップ在庫をすべて物理的に破壊する以外に、現時点で実行可能なのはこの方法だけだと私たちは考えています。

将来は、AIチップを遠隔から管理できるハードウェアによるガバナンス機構が開発され、申告済みの場所への集約が不要になる可能性があります。Aarneほか（2024年）は、こうしたチップ上のガバナンス機構の一部について、実装までの時間を推計しています。その推計は、さまざまな敵対者に耐えられる機構を開発するまでの期間を扱っています。簡潔にするため、ここでは、有能な国家主体がひそかに敵対的な行動を取り、ガバナンス機構の突破を試みるかもしれないものの、発覚すれば重大な結果を被る状況での安全性についての推計を用います。同論文は、理想的な解決策の開発には2〜5年、安全性は劣るものの実用に耐えうる選択肢ならわずか数か月で利用可能になると推計しています。

この報告書が出てから1年以上経っていますが、これらの機構に向けた大きな進展を私たちは把握していません。Aarneほかの推計で最も適切なのは、さらに2〜5年という数字だと考えています。つまり、チップのセキュリティ対策を数年間研究開発した後、新たに安全な監視が可能なチップを生産するか、既存のチップを改修するか、又はその両方のための追加の期間を経れば、集約せずともチップを確実に監視できるようになるかもしれません。Aarneほかは前者には4年かかる可能性があると推計していますが、チップの追跡がすでに行われているなら、改修は1〜2年でできるのではないかと私たちは楽観しています。

第V条で論じる集約は、対象チップクラスターを物理的に集めることを伴いますが、政府がチップの所有権を取得することまでは求めません。大規模データセンターでは、関係する締約国の監視と監督を受ける限り、データセンターもチップも、民間所有のまま現在地に置くことを合意は認めています。この監視によって、データセンターが行うのはAI以外の活動か、古いモデルの実行といった許可されたAI活動だけであることを確保します。小規模なチップの集まりについては、所有者が引き続き遠隔で利用できるようにした上で、より大きなデータセンターへ物理的に移す必要があるかもしれません。クラウドコンピューティングではすでに一般的な形態なので、私たちはこれを過度に負担の大きい制限とは考えていません。

実行可能性

AIチップの大半を、検証を伴う形で集約することは実行可能に見えます。H100換算で10万基分を超えるような最大規模のAIデータセンターは、隠すのが困難です。物理的な規模と電力消費から検知でき、多くは公にも報道されています。実際には、情報機関はH100換算で約1万基分という比較的小規模なデータセンターまで、おそらく追跡し、所在を特定できるでしょう。それより小規模なデータセンターの所在を特定するには、国内当局がさまざまな権限を使い、CTBの査察官と協力することになります。

国家には、国内で所有されるチップを探し出すさまざまな手段があります。H100を16基超含むチップクラスターの全面的な報告を法的に義務づけたり、チップ販売業者の販売記録やその他の財務情報を利用したり、データセンター建設に詳しい技術者から聞き取りを行ったりできます。チップの密輸、実態の不透明化、隠匿が疑われる場合は、法執行機関による追加捜査も可能です。この国内での集約過程は、徹底した遵守を確保するためにCTBの査察官が監督します。

大規模データセンターの所在は、数日から数週間で速やかに特定できるかもしれません。実際のチップの集約は、CCCとなる施設でデータセンターの収容能力を増強する必要が生じうるため、より長くかかる可能性があります。

重要な課題の一つは、締約国が未申告のAIチップを使って秘密裏にAIプロジェクトを進めていないと、根拠をもって確信できるようにすることです。チップの集約は一定の保証を与えますが、自国内の集約を意図的に妨げる国がありうるなら、それだけでは不十分かもしれません。違法なAIプロジェクトが行われていないことについて、さらに確かな保証を得る方法は、第X条の情報収集と要請査察の議論を参照してください。

チップの集約に関するより詳しい議論は付録Dを参照してください。

CCCの定義について

私たちのCCCの定義では、H100換算で16基分を境界としています。この閾値は、いくつかの基準を満たすことを狙っています。

• H100を16基超含むチップクラスターを監視することは、第IV条の学習FLOP閾値とうまく整合します。H100を16基用いた学習では、FP8精度、稼働率50パーセントという現実的ながら楽観的な条件で、10^22 FLOP（監視閾値）に達するのに7.3日、10^24 FLOP（禁止閾値）に達するのに2年かかります。したがって、未申告のチップで下の閾値まで到達することは可能ですが、学習の禁止閾値に達するのはやや非現実的になります。
• この閾値は、第VIII条のAI研究の禁止と組み合わせれば、AI能力の進歩を防ぐ上で十分かもしれません。第IV条は、大規模な学習を禁止し、中規模の学習は監督下で許可するという学習制限を定めています。H100を16基使って現実的な期間内に実施できる程度の小規模な学習を認めても、おそらく許容できる、つまりリスクはごく小さいと考えられます。
• この閾値が趣味で利用する人や消費者に及ぼす影響は限定的です。H100を16基超所有する個人はごくわずかです。2025年半ば時点で、H100チップ16基の価格は約50万ドルでした。古いゲーム機を何台か置いていたら、うっかり超えてしまうような閾値ではありません。
• 許容する数量が小さくなるほど、AIチップの集約は難しくなります。10万基のチップを備えるデータセンターを見つけるのは容易です。1万基の場合もおそらく比較的容易ですが、1,000基では不明確で、100基未満ではかなり難しくなり始めるかもしれません。H100を16基とする閾値での監視にも困難が予想されますが、それより低い閾値ほど実行が困難になることも、これを選んだ理由の一つです。
• 執行上の困難が予想されるものの、この定義を見直し、閾値を引き下げる必要が生じる可能性もあります（例えばH100換算で8基分）。私たちの合意では、CTBがこの定義を評価し、必要に応じて変更する任務を負います。

その他の検討事項

本条は、AIチップに付随するものではない非AI用チップを、AIチップと同じ場所に設置することを避けるよう締約国に求めています。これは、同じ場所への設置がチップの使用の検証（第VII条）を難しくする可能性があるためです。ただし、絶対に必要というわけではなく、望ましくない場合もあります。現在、AIチップは非AI用チップと同じ場所に置かれることが多く、その変更に伴う不便さが、両者の混在するデータセンターでAIチップを監視・検証する不便さを上回るかもしれません。

一般市民が、クラスターに属していない「ばらの」H100換算チップを使って未監視のCCCを組み立てるリスクもあります。これに対処するため、合意は、締約国がチップの販売（H100換算で1基分を超えるもの）を監視し、新たなCCCの形成を検知するために「合理的な努力」を払うことを定めています。こうしたチップとその売買のすべてについて正式な登録・追跡を義務づけるなど、より厳しい措置も可能です。私たちの案がそこまでは求めていないのは、CCC内のすべてのチップを目録化した後に、所在不明の「ばらの」H100換算チップがそれほど大量に残るとは考えていないことと、第X条の内部告発者保護など、他の仕組みも新たなCCCの発見に役立つことの両方によります。

小規模なクラスター（例えばH100が100基）まで直ちに集約を義務づける代わりに、合意で段階的な方法を採用することもできます。例えば、最初の10日間でH100換算で10万基分を超えるチップを持つすべてのデータセンターを集約して申告し、次の30日間でH100換算で1万基分を超えるすべてのデータセンターを集約して申告する、といった方法です。段階を設ければ、情報機関が検知の取り組みを強化するにつれて拡大する国際的な検証能力に、より適合するかもしれません。

段階的な方法の欠点の一つは、国家にチップを隠し、秘密のデータセンターを設置する機会をより多く与えかねないことです。それでもこの方法は、検証と執行の手段に制約がある中で運用されてきた、いくつかの国際合意と似ています。例えば1963年の部分的核実験禁止条約は、検知が難しいことを理由に、核兵器の地下実験を禁止しませんでした。

生産施設の監視を定める条約規定は、新しいものではありません。1987年のINF条約第XI条は、中距離核運搬システムをかつて生産していた指定施設について、13年間にわたる査察を認めていました。付属の査察議定書第VII節は、施設の外周と出入口の継続的な監視を認めており、対象となるミサイルを運べるほど大きな車両が施設から出る際には、その重量測定、場合によってはX線検査も実施できました。

AIチップの生産の監視は、外見からチップの機能と能力を見分けるのが難しいため、より複雑です。そのため私たちの合意案の第VI条は、監視方法と併せて「関連ハードウェアを附属書でさらに詳述する必要がある」としています。それでもNPTの下でのIAEA保障措置の経験は、サプライチェーン全体にわたる多様な生産構成要素や前駆物質を検証できることを示しています。IAEAが用いる方法の一つは、査察を行いやすくし、遵守費用を抑えるため、施設設計の指針を提供することです。

完成品、前駆物質及び生産装置の移転禁止（ここで提案している、非締約国やその事業体へのAIチップ及び先端コンピューターチップ製造装置の販売・移転に対する禁止など）には、いずれも多くの先例があります。

• NPT第I条で、各核兵器国は「いかなる受領者に対しても、核兵器その他の核爆発装置を移譲しない」ことを約束しています。また第III条第2項では、「原料物質若しくは特殊核分裂性物質」、又は「特殊核分裂性物質の処理、使用若しくは生産のために特に設計され若しくは製作された」装置を提供しないことにも合意しています。
• 同様にCWC第I条は、「直接又は間接に、化学兵器をいかなる者に対しても移譲」しないことを締約国に約束させています。第VII条は、列挙された前駆物質に、所定の「生産、取得、保有、移譲及び使用の禁止」を適用するよう求めています。
• 冷戦期の対共産圏輸出統制委員会（CoCom）は、西側諸国から共産圏への輸出を協調して管理する仕組みを設けました。対象には核関連物質、軍需品、半導体などの軍民両用の工業製品が含まれていました。
• 原子力供給国グループは、核兵器計画に転用されうる原子力技術及び関連技術の供給を制限する多国間の輸出管理枠組みです。
• 特に関係が深いのは、ここ数年に数十か国を対象として米国が導入してきた、AIチップと先端チップ製造装置に重点を置く一連の輸出管理です。

AIチップのサプライチェーンは、担い手が限られ、高度に専門化しているため、生産の監視は実行可能です。AIチップの圧倒的大多数はNVIDIAが設計しています。AIチップに用いられる最先端のロジックチップ（主な処理装置）はほぼすべてTSMCが製造しており、その市場シェアは約90パーセントです。AIチップの多くはTSMCの5ナノメートルのプロセスノードの各種バージョンで製造されていますが、このノードに対応する製造工場は、おそらく2〜3か所しかありません。先端ロジックチップの製造に不可欠なEUV露光装置を製造しているのは、ASMLだけです。AIチップのもう一つの重要な構成要素である高帯域幅メモリー（HBM）も、2〜3社が市場を支配しています。このように担い手が少なく、高度な技術を要するサプライチェーンは、比較的監視しやすく、秘密裏に再現するのが困難です。あまり強く言いすぎることは避けたいと思います。例えば中国では国内のサプライチェーンが育ちつつあり、注目すべきAIチップもいくつか生産されています。しかし、こうしたさまざまな留保を踏まえても、既存のチップ生産を監視することは十分に実行可能だと思われます。

AIチップ生産の監視が他の分野に及ぼす影響は、比較的小さいでしょう。一部の工程ではスマートフォン用チップなど他のチップも生産されますが、チップそのものは容易に区別できます。設計は時間とともに変化するものの、現在のAIチップであれば、大容量の高帯域幅メモリー（HBM）や行列乗算専用の構成要素などから識別できます。

AIチップのサプライチェーンを監視する上では、既存のボトルネックを踏まえ、HBMの生産、ロジックダイの製造、及びその後の工程（パッケージング、試験、サーバー組立てなど）を、EUV露光装置などの主要な投入要素と併せて監視することが、よい出発点になるかもしれません。

本条は、締約国内でのAIチップの販売について承認を原則とするとしていますが、AIチップ製造装置には同じ原則を示していません。AIチップの寿命は通常わずか数年なので、チップ販売がAI開発能力に及ぼす影響は比較的短期にとどまると考えられます。対照的に、チップ製造能力は、その後何年にもわたる大量のチップ生産につながりえます。ある国が締約国となり、AIチップのサプライチェーンを構築した後で合意を脱退することは、特に懸念されます。そのため私たちは、チップそのものよりもチップ製造装置に慎重な制限を課すことを提案しています。

本条第4項と第5項は、AIチップとチップ製造装置を締約国に販売することを認める一方、非締約国やその他の事業体への販売は認めていません。つまり締約国は、チップの製造と集中に伴うリスクを受け入れますが、それはチップが監視される場合に限られます。このため、他国から防護のための対応を受けずにチップを製造・保有できることが、合意への参加を促す積極的なインセンティブとなります。

これだけでは、非締約国が締約国内のAIチップを遠隔から利用すること（クラウドコンピューティング、すなわちInfrastructure-as-a-Service）は防げません。ただし、そのチップはCTBの監視下に置かれ、第IV条に違反する使い方がされないようにします。

必要であれば、非締約国への制限をさらに強めることもできます。例えば、非締約国がAIチップを遠隔利用すること（クラウドを通じて締約国内のAIチップを借りること）や、APIを通じてAIモデルを利用することを禁止できます。

チップ生産の監視と密輸の防止が実行不可能であれば、別の方法として、新たなAIチップの生産を全面的に禁止することが考えられます。この方法はチップが不正に転用されるリスクを減らしますが、研究や開発以外のAI用途でチップが生み出せたはずの価値を失うという代償があります。また、非AI用チップだけを生産していることや、施設が廃止されていることなどを確保するため、チップ生産施設への一定の監視は依然として必要です。私たちの合意案は、チップの利用がもたらしうる大きな利益を理由に生産の継続を認め、その危険性を監視（第VII条）によって軽減する設計になっています。

第VI条の先例の説明では、INF条約の下で行われた、かつての中距離ミサイル生産拠点の継続的な監視を取り上げました。この監視は、施設から出る車両の重量測定と非破壊スキャンを認める一方、トラックの内部や施設そのものへの査察官の立入りは認めていませんでした。データセンターでも同様に外周を監視すれば、電力消費、排熱、ネットワーク帯域幅から、稼働内容について一定の手がかりを得られます。しかし、制限対象のAI処理が行われていないことについて合理的な保証を得るには、改ざん防止カメラ、チップ上のハードウェアによる機構、現地の査察官など、第1項に列挙した要素のいくつかを組み合わせる必要があると考えられます。

国際原子力機関では、こうした手法はすでに日常的に用いられており、査察を補完するため、24時間体制の監視技術の利用を拡大しています。

世界各地の1,400台を超える監視カメラと、400台の放射線その他のセンサーが、100万件を超える暗号化された保障措置データを収集しています。核施設に設置された2万3,000個を超える封印が、物質と設備の封じ込めを確保しています。

START Iでミサイルの性能特性の遵守を検証するために用いられた方法の一つは、試験飛行中のセンサーから送信される、ほぼすべてのテレメトリーデータを共有することでした。これを定めたテレメトリー議定書は、データを解釈するのに必要な再生機器とデータ形式の情報も締約国に提供させていました。採用する検証方法の組合せによっては、一部の締約国は同様の方法を用いるかもしれません。その基礎となるのは、クラウドコンピューティング事業者が顧客のワークロードについて行う、すでに一般的となっている簡易な監視です。

民間の商業施設（データセンターの多くもそうです）を政府が継続的に監視することにも、多くの先例があります。国内の原子炉の安全性を監督する米国原子力規制委員会は、米国内の各商用発電所に2人の常駐検査官を配置しています。また、米国の食肉生産者は、FSIS¹⁰の検査職員が現場で監督していなければ、と畜作業を行えません。

締約国は、既存のAIチップが危険なAI学習に使われていないことを確かめたいはずです。一方、これらのチップを使い、ChatGPTの現行版のような既存のAIサービスを動かすことには、正当な理由があります。そこで合意は、AIチップが許可された活動にだけ使われていることを検証できるよう求めています。

本条は、合意への参加を促す積極的なインセンティブを生みます。監督によって、その利用が世界を危険にさらさないと検証できる限り、国はAIチップを使い続けられます。大規模なAI学習を防ぐという目的に照らすと、主な方法は二つあります。必要なハードウェアを誰も持たないようにすること（AIチップが存在しないようにすること）と、ハードウェアが超知能の開発に使われないようにすること（監視による方法）です。AIチップを引き続き安全に利用できるのは、監視があるからです。これは考え方の上ではIAEA保障措置に似ています。非核兵器国が核物質と核施設を持つことを認められるためには、IAEAが査察し、その利用が平和目的に限られることを確保する必要があります。

実行可能性

さまざまな技術的方法によって、検証を容易にできます。例えば2025年のアルゴリズムを使う場合、AIの学習には推論よりはるかに高い帯域幅が必要です。したがって、チップを低帯域幅のネットワークケーブルで接続すれば、実質的に、推論はできても学習はできないように制限されます。これらを含む各種の機構には、さまざまな細かな論点があります。関心のある方は、この主題に関する先行研究を参照してください。

本条は、広い意味での、より優れた検証機構を開発・導入する任務をCTBに与えています。AIの変化の速さや、予想外の進展によって検証方法が機能しなくなる可能性を踏まえると、この柔軟性は必要だと私たちは考えています。また、AIの検証研究はまだ初期段階にあります。検証技術をさらに発展させることは、重要な機会です。

新たなAIが作られているかどうかを検証するほうが、既存のAIが危険な推論タスク（超知能の創出を進める研究など）を行っていないと検証するより、はるかに容易です。2025年8月時点では、既存のAIが推論活動によって超知能の創出を大きく前進させるほど有能だとは、明確には見えません。そのため、監視の課題はより扱いやすくなっています。

AIの推論活動を監視することがどれほど難しいかは、はっきりしていません。現在すでに多くのAI企業が、例えば利用者がAIを使って生物兵器を作ろうとしていないかを検知するために、推論の監視を行っています。しかし、その監視が包括的かどうかは不明ですし、AIの高性能化を認めた場合に信頼性が低下するかどうかも分かりません。私たちの案に似た合意が発効するまでAI能力の進歩を認める期間が長くなるほど、監視は難しくなります。チップが許可された目的にだけ使われていることの検証は、より困難で費用のかかるものになり、場合によっては不可能になるかもしれません。

その他の検討事項

理論上は、遠隔監視を可能にする技術的手段によって検証を容易にできます。しかし現在の技術には、チップの所有者が監視措置を回避できるようなセキュリティ上の脆弱性が含まれている可能性が高いと考えられます。そのため検証には、現地での継続的な監視か、技術的手段が成熟するまでチップを停止しておくことの、いずれかが必要になりそうです。監視技術が成熟すれば、強固なハードウェアによるガバナンス機構によって、チップを遠隔から確実に監視できるようになるかもしれません。¹¹

本条第5項は、CCCごとに異なる検証方法を認めています。この区別の理由の一つは実務上のものです。危険なAI開発に使われていないと根拠をもって確信するには、CCCごとに異なる検証方法が必要になります。例えば、以前に最先端AIの学習に使われていた大規模データセンターは、禁止された学習への寄与能力が最も高いため、より手厚い監視を必要とするかもしれません。

第二に、検証方法を分ければ、機微性の高いCCCに対して立ち入った監視をあまり求めずに済むため、合意が受け入れられやすくなります。例えば情報機関や軍は、自分たちのデータセンターに対するいかなる監視も望まないかもしれません。そうしたデータセンターは、AIとは無関係な目的に使われていても、H100換算で16基分を超える計算能力を持つ場合があります。本規定は、ここでの均衡を図る助けとなります。それでも、危険なAI活動に使われていないことの検証は必要です。執行理事会の構成国は、CTBを通じてこれらの組織と協力し、CCC所有者のプライバシーと安全保障上の要求にも応えながら、CTBが必要な情報を得られるようにします。その一方、異なる検証手順を認めることが不公平だとみなされれば、合意の実現可能性を損なうかもしれません。

私たちの合意案は、世界がチップの恩恵を受けられるよう、利用と生産の継続を認めています。代わりの方法として、新規のチップ生産を停止する、既存のチップを破壊する、又はその両方を行うことが考えられます。アルゴリズムの進歩がないと仮定すれば、チップの破壊は「ブレイクアウト時間」、すなわちある集団が超知能の創出を試み始めてから成功するまでの時間を延ばします。これは、アルゴリズムの進歩がない限り、合意に背く主体はチップの生産能力を開発しなければならず、それには長い時間がかかり、目立つからです。しかし私たちは、チップの追跡と使用状況の検証は実行可能だと考えているため、ブレイクアウト時間を延ばす利益が、すべてのAIチップを停止する代償に明らかに見合うとは考えていません。

危険な技術に関する情報の拡散を予防的に制限する先例として、現在も効力を有する1946年原子力法があります。この法律は、特定の主題に関する情報を原則として「制限情報」と定めました（生まれながらに秘密とする「born secret」の原則）。例外とするかどうかは、同法で新設された原子力委員会の裁量に委ねられていました。¹²

本節における「制限情報」とは、核兵器の製造若しくは利用、核分裂性物質の生産、又は発電における核分裂性物質の利用に関するすべての情報をいう。ただし、共同の防衛及び安全保障に悪影響を与えずに公表できると委員会が随時判断する情報は含まない。

他の種類の政府の秘密指定とは異なり、制限情報は民間部門でも、意図的にも偶発的にも生み出されえます。この点の合憲性は未解決であり¹³、制限情報の正確な境界について日々判断する権限と能力を備えた規制部門が必要であることを示しています。米国では、核の秘密についてこの役割を国家核安全保障局（NNSA）が担っています。私たちの第VIII条第5項では、制限対象のAI研究について研究管理部門がこの役割を担います。また第IX条に示すとおり、（1）秘密指定の境界に近づくプロジェクトに取り組む研究者や組織との関係を維持し、（2）偶発的な発見を報告し、その拡散を防ぐための安全な基盤を整備するという、NNSAに似た他の機能も果たします。

危険な分野の研究を封じ込め、管理することにも先例があります。第二次世界大戦の最後の数か月間、英米はアルソス作戦で協力しました。ドイツの核科学者を確保し、ドイツの原爆開発の進捗に関する情報を集め、ソ連が自国の核計画のためにこれらの資源を入手するのを防ぐためです。オーバーキャスト計画（ペーパークリップ作戦とも呼ばれます）は、戦後にドイツのロケット技術者を米国で雇用するための、米国の秘密計画でした。

制限対象のAI研究を締約国内にとどめるには、既存の規制枠組みを使うことも考えられます。米国には、次のようなものがあります。

• 輸出管理法の「みなし輸出」という概念。規制対象技術を外国人と共有することを輸出とみなし、共有に先立ち、米国の事業体に産業安全保障局¹⁴から輸出許可を取得するよう義務づけます。
• 国際武器取引規則（ITAR）。軍事技術と一部の軍民両用技術の輸出を管理する米国国務省の規則群です。暗号技術が米国軍需品リストで「防衛物品」に分類されていたため、ITARは1996年まで、民間部門による暗号技術の広範な開発と利用を防ぐために使われていました。
• 1951年発明秘密法。国家安全保障に関わる新規の特許出願に「秘密保持命令」を課す権限を、米国政府機関に与えています。発明者は特許を認められないだけでなく、発明の開示、公表、さらには使用まで法的に禁じられることがあります。¹⁵

オーバーキャスト計画は、国家の利益のために行動するよう十分な報酬を払うという、単純な方法で研究者を管理する先例でもあります。こうしたインセンティブの他の先例は、第IX条で論じます。

1975年の組換えDNAに関するアシロマ会議は、とりわけ制御できるか確信の持てない新たな脅威に直面したとき、科学者自身が研究の禁止に自発的に合意しうることを示しています。この会議では、組換えDNA研究に関する自主的な指針が策定されました。そこには、病原性の高い生物に由来する組換えDNAや、毒素遺伝子を含むDNAのクローニングなど、特に危険な特定の実験の禁止も含まれていました。

関連するノウハウがすでに民間部門に広がっている中で、研究のいくつもの広い分野を禁止することには困難が伴います。私たちの案では、AIの能力や性能を向上させる研究、又は前の各条で示した検証方法を危うくする研究を制限します。

学習に用いるFLOP数が一定でもAI能力が進歩しないようにするには、一部の研究を禁止しなければなりません。この禁止は、AIの学習をより効率的にしたり、AIの能力を高めたりする可能性があるすべての研究、すなわち一般に「アルゴリズムの進歩」と呼ばれるものを対象にする必要があります。現在のパラダイムでは、事前学習、事後学習、推論に使われるアルゴリズムの進歩がこれに含まれます。AI開発のパラダイムが変わったり、他のAI開発パラダイムが機械学習に追いついたりする可能性もあります。したがって、現在は機械学習が最も緊急性の高い優先事項だとしても、合意の対象をその研究だけに限定すべきではありません。合意は、他のAIパラダイム（コネクトミクス、脳に着想を得たAI、高速な遺伝的アルゴリズム、GOFAIなど）の研究も、それがASIにつながりそうな場合には、制限する余地を残しています。

Transformerアーキテクチャの開発など、これまでのアルゴリズムの革新は、AI能力が急速に進歩しうることを示しています。革新が続けば、一定水準のAI能力を得るのに必要な計算資源の量が劇的に減少する可能性があります。その実現可能性を示す根拠として、現代のAIは人間よりデータ効率がはるかに低いことに注目してください。このことは、データ効率が大幅に高いアルゴリズムを見つけられる可能性を示唆しています。

少数のAIチップ、又は小規模なクラスターとして地理的に分散した多数のチップで学習できる場合、危険なAIの学習を防ぐのは、はるかに難しくなります。

これとは別に、追跡されないAIチップを製造する新たな方法の研究も、禁止によって防がなければなりません。AIチップの監視と検証が実行可能なのは、その大きな理由として、現在の先端AI関連半導体の製造が複雑で、担い手が集中しているからです。

第VIII条は、より高性能又は高効率なAIチップの設計に関する研究も禁止します。そうしなければ、チップは毎年大幅に効率を高めていきます。より効率のよいAIチップを使うデータセンターは、同等以上の性能をより少ない電力で実現できるため、隠しやすくなります。

制限する研究の具体的な種類は、状況の変化に応じて更新する必要があります。例えば、AI学習を効率よく実行できる消費者向けハードウェアの研究が、検証にリスクをもたらすほど進歩する場合には、その研究も対象となりえます。

国内で研究を制限する取り組みは、研究の公表と資金提供に重点を置くことから始められます。ほとんどの研究者は、法を守り、仕事で収入を得る市民でありたいと考えています。危険なAI研究を、社会で受け入れられる規範の外へ押し出す措置は、効果を持つ可能性が高いでしょう。

第4項が多様な行為を制限しているのは、研究活動が複数の管轄区域に分かれても、個々の活動を禁止・防止する責任を各国が負うことを、合意で曖昧さなく確保するためです。例えば、ある管轄区域の企業が、第二の管轄区域にいる従業員を雇い、その従業員が第三の管轄区域でホストされているチップを遠隔操作する場合にも、第4項が適用されます。

第1項(a)が求める、制限情報を生み出す可能性のある「国内の研究者及び組織の動向を把握し、それらとの関係を維持する」権限を持つ既存機関としては、第VIII条の先例の節で論じたDOEとNNSAが挙げられます。

第2項(a)(ii)で提案する、リスクの高い分野の「研究者の雇用状況の監視」の先例は、国際科学技術センター（ISTC）¹⁶に見られます。1994年に設立されたISTCは、ソ連の核研究者が平和的な活動で収入を得られる仕事に就き続け、国際的な科学コミュニティとのつながりを保てるようにすることで、核拡散リスクを減らすことを特に目的として作られました。ISTCは、本合意の結果として失業する可能性のある技術専門家が制限対象研究に従事しないようにする上で、罰則を補うインセンティブが持つ可能性も示しています。

第IX条第1項(b)の抑止力を実現するには、厳しい罰則が必要になるかもしれません。ここに直接適用できるとは限りませんが、特定の状況で機微情報の共有を厳しく罰した先例はあります。1946年原子力法の執行に関する第18章には、無許可の開示に対する罰金と拘禁が含まれています。情報開示に関わる別の犯罪、具体的には反逆罪に、さらに重い刑が科されることもあります。¹⁷

「制限対象研究に当たる偶発的な発見を報告し、その拡散を防ぐための」安全な基盤を整備する際には、各種の機微情報を扱うDOEの広範な手順に、先例や利用可能なひな型が見つかるかもしれません。DOEの事象報告・処理システムや、国家安全保障システム委員会¹⁸の機密情報流出に関する指示も役立つ可能性があります。

研究管理部門は、査察手順を策定する際に、IAEAの既存の実務を参考にできるかもしれません。IAEA理事会が1997年に承認したモデル追加議定書の枠組みでは、包括的保障措置協定¹⁹を結んだ国は、未申告の核物質を探す補完的アクセス査察を認めています。そのような訪問の一環として、査察官は運営者から聞き取りを行うことができ、これは第2項(a)(i)の提案に相当します。

本条第2項(c)で求めるとおり、検証時に「個人及び締約国のプライバシーと秘密を保護する」ため、研究管理部門は、締約国の既存の情報機関や多国間の情報共有合意で用いられている、情報の区画化の慣行を応用できるかもしれません。例えば、こうした取り決めでは一般的だとされる「第三者ルール」又は「情報提供元による管理原則」の下では、提供元の機関の許可なしに、共有された情報を第三者（監督機関さえ含まれる可能性があります）に開示することが禁じられています。

禁止されたAI研究が行われていないことの検証を助けるため、第IX条は締約国に「制限対象研究の隣接分野」を画定し、そこで活動する研究者との関係を築く任務を与えています。世界の最上位のAI研究者は、そのかなりの割合の活動を追跡できるかもしれないほど、人数が限られています。主要なAI企業の技術職員は5,000人規模の研究者からなり²⁰、最先端AIの開発に不可欠なのは、おそらく数百人という、はるかに小さな集団だと広く考えられています。²¹ 主要なAI学会の参加者数は約7万人と推計されています。より広く数えれば、関連ハードウェア企業の従業員数はおそらく約100万人²²、少なくとも基礎的なAIの技術知識を持つ人は、おそらく数百万人から数千万人にのぼります²³。国家は、研究者に活動内容を聞き取ったり、内部告発者に亡命の受入れや金銭的なインセンティブを提供したりできます（第X条を参照）。

現在のAI開発の実態の多くは公に見える形で進んでいますが、私たちは、法的制限が、合意に背く主体による超知能機械の創出の試みを大きく妨げると考えています。

国家が追加費用を負担する意思を持つなら、半導体の設計・製造に携わる研究者や技術者にまで監視を広げることもできます。費用を抑えられる代替案としては、個人ではなく半導体製造企業を監視する方法があります。これは、業界内の複雑な依存関係によって、規則に背く少人数の集団が独自のチップ製造施設を作ることが難しくなる点を利用するものです。

締約国は、他の締約国が国内の研究禁止に違反し、外国の情報機関から研究活動を隠すことを懸念するかもしれません。多くの研究者とAI関連チップを投入する大規模な取り組みであれば、本腰を入れた情報機関はおそらく気づくでしょう。しかし、機械知能の代替パラダイムの開発のような小規模な取り組みでは、数人の研究者と一般に入手可能なハードウェアしか使わないかもしれません。研究管理の検証は、複雑で機微に触れる取り組みであり、継続的な努力と改善の繰返しを必要とします。そのため、次の第X条は、情報収集を容易にし、内部告発者を保護するさまざまな手段を設けています。

情報の集約の先例は、先に第VIII条で論じました。そこでは、「第三者ルール」のような情報の区画化の慣行を含むとされる、情報共有合意の存在を挙げています。同様の規則は、IAEAにも見られます。例えばINFCIRC/153第1部第5項には、次のようにあります。

……機関は、本協定の実施に伴い知り得た商業上及び産業上の秘密、その他の秘密情報を保護するため、あらゆる予防措置を講じる。

職員は守秘義務を負い、漏洩すれば刑事罰の対象となります。これは重要です。IAEAは、イランの未申告の濃縮活動の事例のように、衛星画像や文書を含む、参加国からの情報提供に助けられてきたからです。同様に、IAEAは提供された情報を受けて、北朝鮮の未申告のプルトニウム生産に対する特別査察を求めました。

多国間合意の検証において、国家技術手段（NTM、衛星画像、通信等の信号の収集、その他の遠隔探知）が不可欠な役割を果たすことを踏まえ、私たちの合意案は、弾道弾迎撃ミサイルシステムを制限するABM条約の文言を取り入れています。同条約は、「各締約国は国家技術手段による検証を行う」ことと、「他の締約国の検証用の国家技術手段を妨害しないことを約束する」と定めています。同様の文言は、1987年の中距離核戦力全廃条約第XII条、1996年の包括的核実験禁止条約第IV条、そして2010年の新START条約の各所に見られます。

ASIの場合、NTMだけでは危険な違反をすべて検知するには不十分なので、私たちはIAEA保障措置の枠組みから、内部からの通報を促し、その経路を提供する仕組みを取り入れています。ただし、この枠組みには明示的な内部告発者保護がないという弱点があります。当該国に適用可能な国内の保護制度がない限り、政府が報復を決めた場合に、NPTにもこれらの保障措置にも情報提供者を守る規定はありません。私たちの合意案の内部告発者保護と庇護の規定は、この欠点に対処するためのものです。

EUの最近のAI法制でも、同様の措置が取られています。EU AI法の前文第172項は、EUの既存の一般的な内部告発者保護を、AI法違反を報告する者にも明示的に拡張しています。

1951年の難民条約は、「迫害を受けるおそれがあるという十分な理由のある恐怖」を資格の基礎として、情報提供者に庇護を与える枠組みになりえます。ただし、AIに関する内部告発が、法的に該当する迫害理由となることを確保するには、改正又は補足的な合意が必要かもしれません。

冷戦期とその後には、機微に触れる知識や専門性を持つ人々に、庇護が日常的に与えられていました。1949年CIA法第7節は、「国家安全保障の利益にかない、又は国家の情報活動の任務を進めるために不可欠」とみなされる場合、会計年度ごとに最大100人の亡命者とその近親家族の入国及び永住を認めていました。1992年のソ連科学者移民法は、「核、化学、生物その他の先端技術分野の専門知識を持つ、又は核、化学、生物その他の先端技術に関わる防衛プロジェクトで働いている」旧ソ連及びバルト諸国の科学者に、最大750件の査証を与えました。

本条第3項で示す要請査察の仕組みは、CWC第IX部をモデルとしています。

各締約国は、不遵守の可能性に関する疑問を明らかにし、解決することのみを目的として、他の締約国の領域内、又はその管轄若しくは管理の下にある他のいかなる場所の、いかなる施設又は場所についても、現地の要請査察を求める権利を有する……

CWCは、米ソ間のINF条約やSTART I核条約などの他の軍備管理条約と同じく、NTMと要請査察に類する査察を組み合わせて遵守を検証します。

情報収集

私たちは、すべての締約国が自国の安全保障のため、危険なAI活動を行っている主体がないか、独自に見極める努力を続けると見込んでいます。各国のさまざまな情報収集活動は、CTBが直接行う監視（第IV〜VII条で説明）を補い、その妥当性を確かめます。そのため情報集約部門は不可欠であり、すべての締約国から情報を受け取れるだけの信頼性を備えなければなりません。同部門は機微情報の秘密と安全を守ります。また、各国の情報機関に、自らの情報収集手法へのリスクは最小限であり、CTBに必要な情報を提供するために正当化できる範囲だと確信させられるほど、堅牢でなければなりません。可能な限り機微情報を収集せず、収集した情報は厳重に秘密を守ることで、漏洩などのリスクを最小限に抑えます。

第X条は、情報を得る必要性が高い非署名国の監視も扱います。

第X条は、監視を義務づけるところまでは踏み込んでいません。国家に確信を与えるのに必要な能力水準で、自立した情報収集能力をCTB内に設けるよう義務づけることには、先例がありません。また、超知能の創出が重大な安全保障上の脅威となることから、すべての締約国はすでに、その能力を持つあらゆる主体を監視する強い動機を持っています。この事実に照らしても、そのような義務づけは不要と思われます。したがってCTBは、重要な情報の提供を主に締約国に依存します。

内部告発者の保護

本合意全体の実効性は、他の締約国が禁止されたAI活動を行っていないと、締約国が根拠をもって確信できるかどうかにかかっています。国家技術手段やその他の情報収集を用いても、秘密裏の超知能開発を国家が検知することは難しいかもしれません。軍事施設内での取り組みなど、国家が競争相手の情報を収集するのが実行不可能な領域は数多くあります。内部告発者は追加の情報源となり、内部告発が起こりうること自体も、不遵守への抑止力を高めます。

内部告発者が有効となりうるのは、秘密の違反（秘密裏の学習実行やAI研究など）に関わる個人自身が、ASIの危険性を懸念しているかもしれないからです。本条は、違反の報告をより安全にし、本人の負担を減らすことで、黙っているよりも開示する方向へ個人のインセンティブを変えることを目指しています。

内部告発者は、例えば次の違反について警告できます。

• 第IV条：監視されていない、閾値を超える、又は禁止された分散学習方法を用いる学習の実行。
• 第V条：未申告のチップクラスターの存在、すべての対象ハードウェアを集約しないこと、又は秘密の未監視施設へのチップの流用。
• 第VI条：新たに製造されたAIチップが監視から外れる形で流用されること、又は義務づけられたセキュリティ機能を備えずに製造されること。
• 第VIII条：禁止されたAI研究。

内部告発に関する条項を変更すれば、その実効性や政治的な実現可能性もさまざまな形で変わりえます。例えば、各国は正当な内部告発者に金銭的な補償を申し出て、追加のインセンティブを与えることができますが、これは自国を裏切るよう市民に金銭を支払うことだと受け取られるかもしれません。

要請査察

要請査察は、合意が提供する重要な機能です。違反すれば発見されるという現実的な脅威がなければ、超知能を目指す競争は双方が損をするものであるにもかかわらず、締約国は競争相手が不正を試みるのではないかと恐れるかもしれません。情報収集は、離反する動機があるように見えるこの錯覚に対処する方法の一つです。

米国及び中華人民共和国による独立した検証活動

独立した検証活動があれば、検証の仕組みに冗長性が生まれ、合意が効果的に実施されていることについての全体的な保証が強まります。私たちは、米国と中華人民共和国は自らの分析に基づく独立した検証を必要とすると考えています。合意とCTBの活動は、こうした独立した取り組みを可能な限り支援します。

本案の第XI条に定める紛争解決手続きは、化学兵器禁止条約の第IX条、第XII条、および第XIV条を参考にしています。化学兵器禁止条約の第IX条は、説明の要請に対し、「できる限り速やかに、ただし、いかなる場合にも要請から10日以内に」回答することを署名国に求めています。デジタル分野の変化が波及する速さを踏まえ、本案では回答期限を5日としましたが、これでもさらに短縮する必要があるかもしれません。

本条第2項は、化学兵器禁止条約の第XIV条を手本にしています。同条は、同条約の執行理事会が「周旋を行うこと、紛争当事国である締約国に自ら選択した解決手続きを開始するよう求めること、および合意された手続きについて期限を勧告することを含め、適切と認めるあらゆる手段により紛争の解決に寄与する」ことを認めています。また、適切な場合には国際司法裁判所に事案を付託することも締約国に奨励しています。

本案の第XI条第3項と同様に、化学兵器禁止条約の第XII条は、「この条約によって禁止される活動により、この条約の趣旨および目的に重大な損害が生じるおそれがある場合」に、制裁を含む是正措置を勧告する権限を執行理事会に与えています。勧告に実効性を持たせるため、同条約の執行理事会は、「関連情報および結論を含む問題を、国際連合総会および国際連合安全保障理事会の注意に付す」こととされています。本合意の執行理事会の勧告も、同様に上位の場へ付託することが考えられます。

第XI条の目的は、署名国間で生じる問題を解決するための協議と説明の手続きを設けることです。

AIの技術革新の速さを考えると、妥当な期間内に違反の有無を判断することは容易ではありません。執行理事会の役割は、本合意のいずれかの締約国が提起した懸念に裁定を下すことです。CTBは、最先端のAI技術に通じた専門家による査察を調整する役割を担います。本合意では、AI分野の技術変化が急速であっても、締約国が防護措置（後述の第XII条）をとる前に裁定を待てるほど迅速に対応できることを期待し、時間単位・日単位の厳しい期限を設けています。とはいえ、もちろん、いかなる合意も、締約国が自国の安全を確保するために必要と判断した防護措置をとることまで阻止できるわけではありません。

国家が自国の安全のために防護措置をとりうることは、先例の有無にかかわらず現実です。それを国際法に明文化した一例が、国際連合憲章第VII章です。同章は、安全保障理事会が必要に応じて、国際の平和と安全を維持するために軍事的または非軍事的措置をとることができると定めています。

上記の条文案における防護措置の考え方には、国際安全保障上の脅威とみなされる技術の開発を防ぐため、各国が単独または共同で行動した歴史的先例もあります。こうした行動は、制裁からサイバー攻撃、軍事攻撃にまで及びます。

イランによる核兵器開発を阻止する国際的な取り組みは、近年の明確な例です。国連安全保障理事会は、イランの核開発計画を理由に、同国に対して何度も制裁を科してきました。その大部分は、イランが2015年の包括的共同作業計画で核開発計画の制限に合意した後に解除されました。

米国とイスラエルは、極めて高度なサイバー兵器であるStuxnetで協力したと報じられています。Stuxnetは2010年に、イランのウラン濃縮用遠心分離機を多数破壊しました。

2025年6月には、イスラエルがイランの多くの核施設を空爆し、その9日後に米国も空爆を行いました。米国の攻撃は、フォルドウ・ウラン濃縮施設の無力化を目的の一つとしていました。

防護措置のもう一つの歴史的先例は、1990年代のイラクの核関連の不遵守に対する国際的な対応です。1991年の湾岸戦争後、イラクの大量破壊兵器の廃棄を監督するために、国際連合特別委員会（UNSCOM）が設置されました。UNSCOMの査察体制に従わなかったことは、最終的に1998年の砂漠の狐作戦につながりました。これは、イラクの大量破壊兵器製造能力を低下させるための爆撃作戦でした。

人工超知能の創出を防ぐ合意は、ASI開発を進める国に対する防護措置の必要性を明示せず、類似の合意でよくあるように、こうした力学を暗黙の了解にとどめてもよいかもしれません。本案があえて明示しているのは、この抑止体制が合意の実効性の中核をなしており、各主体に働く誘因を明確にすることで、その実効性が高まるからです。また、明示することで、防護措置が許容される場合をより詳しく記述するなど、その濫用の防止に役立つ措置も盛り込めます。

世界の指導者がASIの脅威を理解すれば、限定的な軍事介入を含め、規制を無視したAI開発を止めるための行動をとろうとする可能性が高いでしょう。標的を絞った空爆などの軍事行動は、他のあらゆる外交的努力が失敗した後に、ASIの開発を防ぐための最後の手段として、常に扱うべきです。しかし、無謀に創り出された人工超知能を、破壊的な技術ではなく有益な技術だと誤認している主体に対しても抑止と遵守の体制が機能するには、最後の手段としてそれを選択できることが重要です。

私たちは、いかなる武力行使もASIの防止に的を絞り、脅威が除去されたことが明らかになれば停止すべきだと強調します。第XII条は、他の締約国による合理的な防護措置を署名国が妨げないことを明確にする一方、この条項が濫用されていないか確認するため、その行動も審査の対象とすることを目指しています。

監督下での試験の先例は、第VII条で取り上げたチップ使用の検証に関する先例と共通しており、特にSTART Iのミサイルのテレメトリー情報を共有する手順が参考になります。本案の第XIII条で加えているのは、収集したデータを、閾値の調整を勧告する際の判断材料として用いることです。この調整には、第XIV条で取り上げる、先例のある仕組みを使うことができます。

一般への情報開示（第3項）と、本案の第X条にある情報を集約する規定との間には、本質的な緊張関係があります。この点では、IAEA憲章第VII条の秘密保持規定²⁴があっても、IAEAは関連分野の主要な動向と、それが世界の安全に及ぼす影響について、詳細な報告書を定期的に公表できていることを指摘しておきます。

第XIII条の目的は、AI分野が進歩している場合に、CTBがその最新状況を把握し続けられるようにすることです。たとえば、申告された学習を審査すれば、学習に使うFLOPの量に応じて、AIがどの程度の能力に達しうるかを把握できます。アルゴリズム研究を禁止しても、実効的に止められない進歩はありうるため、CTBはそれを追跡しなければなりません。

さらに、CTBには、能力を引き出す手法の進歩を監視する理由もあります。たとえば、既存のAIの性能を、何らかの重要な評価指標において大幅に向上させる、新たなプロンプティング手法が見つかる可能性があります。

私たちは、特定の分野でAIの能力が危険なほど高まっていないかを確認する能力評価も、CTBの審査に含めることを想定しています。また、学習データを調べて、AI研究の自動化など、特に危険な課題のためにAIが学習されていないかを確認したり、予期しないAIの挙動を試験したりすることも考えられます。

審査によってAI開発の状況の変化が明らかになった場合、第IV条および第V条に関係する閾値や、第VIII条の制限対象研究の定義を変更する必要が生じるかもしれません。こうした変更は、第III条の仕組みに従って実施します。

本合意は、閾値を緩めたり規定を弱めたりする変更に執行理事会構成国のコンセンサスを必要とするため、そのような変更を求める短期的な圧力に耐えられます。

改正が難しい、したがって弱体化も難しい条約は、必要に応じて強化するために別の仕組みを用います。NPTは一度も改正されていませんが、第VIII条が定める5年ごとの再検討会議を通じて状況に適応してきました。この会議では、「前文の目的および条約の規定が実現されていることを確保するため」、コンセンサスによる合意が形成されます。

同様に、1975年の生物兵器禁止条約は、正式な改正がまれなため、第XII条に基づく5年ごとの再検討会議で、拘束力のない信頼醸成措置を通じて条約を強化しています。本合意では、AIが急速な変化の起こりやすい分野であることから、会議を3年ごとに開催すると定めています。この間隔は、さらに短縮する必要があるかもしれません。

化学兵器禁止条約の第XV条は、改正と、事務的または技術的な変更とを区別し、後者にはより緩やかな承認要件を設けています。本合意案にも同様の文言を加えることで、AI分野の今後の展開に対応するための柔軟性をある程度確保できるかもしれません。

宇宙条約の第XV条には改正条項がありますが、条約は正式には一度も改正されていません。代わりに、宇宙に関して生じる新たな問題に対処するため、新しい条約が交渉されてきました。これも、AIに関する合意で後に明らかになる弱点を補う選択肢となりえます。

第XIV条は、合意に大きな改定を加える手続きを定めています。このような改定には締約国から相当の支持を得る必要があり、実施のハードルは高くなっています。一方、各種の分類や制限の細部は、第III条で説明したように、時間をかけた審査に服するものの、より容易かつ迅速に変更できます。AI分野の変化の速さは、そのような対応を必要とします。状況の重大さに加え、熱心すぎる主体を抑制しなければ、ほとんど、あるいはまったく利益をもたらさずに人々を不便にする的外れな制限を課すおそれがあるため、慎重な審査手続きが必要だと考えられます。

条約に失効日を設けないことは一般的です。化学兵器禁止条約の第XVI条第1項は、「この条約の有効期間は無期限とする」と定めています。

有効期間が無期限の合意も、必ずしも永遠に続くわけではありません。²⁵ ただし、通常は脱退の仕組みを備えています。多くの場合、事前通告の期間やその他の条件を定め、残る締約国にとって懸念の少ない形で脱退できるようにしています。化学兵器禁止条約の第XVI条は、「この条約の対象事項に関連する異常な事態が自国の至高の利益を危うくしていると判断した場合」に、締約国が脱退することを認めています。脱退する国は90日前に通告しなければなりません。宇宙条約の第XVI条では、脱退の1年前の通告を求めています。

本合意は、脱退する国に12か月前の通告を求め、第3項の、他国に安心を与える措置の実施を支援するために十分な時間を確保しています。これらの措置は、脱退規定の歴史的な先例として容易に見つかるものより踏み込んだ内容ですが、私たちの意図は、脱退する締約国に対する防護措置の必要性を減らすことにあります。締約国であれ非締約国であれ、ASIを創り出すことも、その創出を阻止する世界の能力を弱めることも認められないからです。

脱退した国がなお防護措置の対象となる歴史的先例としては、国連安全保障理事会決議1718があります。この決議は、北朝鮮がすでにNPTから脱退していたにもかかわらず、2006年の核実験を受けて同国に制裁を科しました。

ASIの研究開発の危険性に加え、ある国が合意から脱退して超知能の実現を急げば、他国が追随するおそれもあるため、本合意には脱退を難しくする措置が必要です。

実際には、これは困難です。たとえば北朝鮮は、国連安全保障理事会の決議やそれに伴う制裁という代償を払ってでも核拡散活動を続けるため、NPTから脱退しました。こうした不利益は、北朝鮮に核拡散活動をやめさせるには不十分でした。

本案の文言は、合意から脱退しようとする国について、すべての締約国は、その国がAIインフラに対する権利を放棄するものとみなすこと、また、危険なAI活動を行えば第XII条の防護措置の対象となることを明確にしています。たとえば防護措置を避けるためなど、ASI問題に関するそれ以外の交渉は、利害関係のある当事国が別途行わなければなりません。

脱退を懸念する締約国は、脱退をさらに難しくする仕組みを盛り込むこともできます。たとえば、米中双方の当局者が、対象チップクラスター内に相互のキルスイッチを設置し、どちらからでも相手国のクラスターを永久に停止できるようにすることに合意するかもしれません。別の案は、すべての新しいAIチップについて、継続稼働に複数の締約国の承認を必要とするハードウェアロックを組み込んで製造する、多国間のライセンス制度を採用することです。そうすれば、ある国が合意から脱退した場合、他国がその国のライセンス承認を停止して、チップを使用不能にできます。また、重要なAIインフラを第三国に移し、締約国が脱退した場合にはそこで没収または破壊できるようにする選択肢もあります。本案は最小限の抑止方法にとどめていますが、ほかにも多くの方法が利用できますし、多少の技術投資をすれば利用可能になる方法もあります。