基本方針

目的

この文書は、人工知能についてのPauseAIの公的な立場を定める根本的な主張、すなわち基本方針をまとめたものです。すべての支部が共通の最低基準（Sandbox Floor）の一部として採用し、PauseAIを代表して発言する人なら誰でも、明確に、自信を持って説明できるようにすべき内容です。

意図的に技術的な詳細を省いています。根拠となる論拠を含む詳しい分析文書については、アクセス不可のリンク先資料をご覧ください。

基本方針

1. AIシステムは実在し、強力です。 現在の人工知能システムは実在し、具体的な能力を備えており、社会全体にすでに大きな変革をもたらしています。
2. AIは現代で最も大きな変革をもたらす技術です。 その重要性は、まもなくインターネットを上回るでしょう。単なる投機バブルではありません。
3. AIの能力は急速に進歩しています。 AI開発の進歩は加速し続けており、上限が見えた兆候はありません。新しい考え方や手法は、引き続き期待どおりの成果を上げています。
4. 介入しなければ、AIの進歩は続く可能性が高いと考えられます。 現行のアーキテクチャの大規模化、アルゴリズムの飛躍的進歩、新たな発想のいずれによるにせよ、規制がなければ、今後数年間でAIの進歩が停滞する可能性は低いでしょう。
5. 制御できないAGIは、壊滅的なリスクをもたらします。 アラインメント問題を解決しないまま汎用人工知能や超知能をつくることは、人類の存亡、あるいは文明全体を脅かします。
6. アラインメントは極めて困難です。 AIシステムが人間の価値観と整合し続けることを保証する方法は未解決であり、今後10年以内にも解決しない可能性が非常に高いと考えられます。
7. 10年以内にAGIや超知能が実現する可能性は高いと考えられます。 進歩の速度とかつてない規模の投資を踏まえれば、この可能性は最大限真剣に受け止めなければなりません。多くの第一線の専門家も、この見方を共有しています。
8. 現在のAIリスクは現実のものであり、進歩の速さによって悪化しています。 偽情報、バイアス、雇用の喪失といったリスクは実在しますが、AIの進歩の速さがそれをさらに深刻にしています。進歩の道筋を考慮せず、今日の害にだけ対処するのは、根本的な誤りです。
9. 合理的で、リスクに見合った管理が必要です。 私たちは、制御の喪失や悪用を含むそれぞれの危険について、深刻さと発生確率の両方を評価し、適切な対応を準備することを提唱します。
10. 社会は、十分な情報に基づいて選択しなければなりません。 必要な時期までにアラインメントを保証することはできないため、責任ある道は社会として行動することです。市民、政策立案者、国際機関が、AIの未来について、十分な情報に基づいた明確な決定を下せるようにします。これがPauseAIの中心的な取り組みです。

版についての注記 — Pause AI Position on Artificial Intelligence（v2025-09-01）から作成。元の文書とともに四半期ごとに見直します。