AGI―人間を超える知能は文明をいかに変容させるか

Amazonで予約・購入

AGIをめぐる言説は、しばしば楽観論と悲観論の二項対立に陥る。楽観論は、AGIがすべての問題を解決し、人類を苦痛と労働から解放すると約束する。悲観論は、AGIが人類を支配するか絶滅させると警告する。どちらの物語も、AGIを「限界の消滅」として描いている。

本書はこの二項対立を退ける。AGIは限界の消滅ではなく、限界の組み替えをもたらす。人間の認知的制約が後退した先に、より基礎的な物理・計算・制度の制約が前景化する。熱力学の法則は覆らず、光速は超えられず、社会の合意形成にはなお時間がかかる。限界は消えるのではなく、入れ替わるのである。

この視座から、本書は三つの問いを立てる。

知の問い：AGIは知をどう変えるか。科学の自動化が進むとき、「理解する」と「予測する」は同じか別か。AIが人間の理解を経由せずに自然法則を「発見」するとき、それは科学と呼べるのか。人間の科学とAIの科学は分岐しうるのか。

人間の問い：AGIは人間の自己理解をどう揺さぶるか。AIが人間よりも優れた文章を書き、人間よりも巧みに絵を描くとき、「創造性とは何か」という問いは根底から揺さぶられる。意識、創造性、そして「何を望むか」が問い直される。

社会の問い：AGIは社会をどう変えるか。近代の民主主義は、大衆が経済的・軍事的に不可欠であったからこそ成立した。その「不可欠性」が失われるとき、自由と権利は何に支えられるのか。

AGIは知能問題の終わりではない。知能問題が文明設計問題（知能をどう使い、どう制御し、その上にどのような制度を築くか）を統合的に問う問題へ昇格する転換点である。本書はその転換の地図を描く試みである。

（第一章より）

付録

紙幅の都合により本体から外した付録を掲載しています。今後、本書に関連する参考情報も随時追加していきます。

• 付録1：主要命題と確実性の階層
  本書の主要命題を、証明・物理制約・実験観測・論証・予測の五層に分類して整理。

• 付録2：想定される批判への応答
  本書に対して想定される強い批判を「批判／本書への影響／本書の応答／残る不確実性」の四項目で整理。

• 付録3：可知性マップの算出根拠
  第8章で導入した可知性マップについて、ランダウアー限界近傍の計算量上限、Levin 探索の上界、対象系の内在時スケールの三制約をひとつの平面に重ねる根拠と数値設定を整理。

補足論考

本文の議論を補強・展開する論考を掲載しています。

• 補足論考1：構成的多元主義の導出
  命題六（構成的多元主義）の内部構造の導出。決めてはならないもの（価値内容の一元的決定）を先に定め、基礎層（関係的価値・傷つきやすさ）がなぜ二つで、三本柱（非支配・非統合性・余白）がなぜ三つなのかを示す。付録2の項目二件への応答の本体。

• 補足論考2：AISOPの導出
  第9章が提示したAI時代の知の規範AISOPの五原則が、命題六（構成的多元主義）から導かれることを示す。付録2の項目「AISOPの五原則は恣意的な列挙ではないか」への応答の本体。

• 関連論考：「AGI Ruin」への反論：危険は認める、破滅の確実性は認めない
  Yudkowsky「AGI Ruin: A List of Lethalities」(2022) の中心論理への逐条応答。破滅の確実性が依拠する「一度きりの臨界試行」仮定を、本書の枠組みから検討する。

書誌情報

目次

• まえがき
• 第1章　はじめに
• 第2章　AGIとは何か
• 第3章　AGIはなぜ可能か
• 第4章　知能に限界はあるのか
• 第5章　AGIはなぜ危険か
• 第6章　知能爆発はどこへ向かうのか
• 第7章　知るとは何か――AGIと科学
• 第8章　AI駆動科学
• 第9章　AGIは知をどう変えるか
• 第10章　AGIで社会はどう変わるか
• 第11章　AGI時代に人間であるということ――構成的多元主義へ
• 第12章　AGI時代にどう備えるか
• あとがき――科学者がアートに回帰するとき
• 注
• 用語集
• 参考文献

詳細目次

まえがき

第1章　はじめに

• 「知るとは何か」――古い問いが知能の科学になった
• AGIは「遠い仮説」ではなくなった
• 本書の問い――AGIは知・人間、そして社会をどう変えるか
• 本書の主張――六つの命題
• 本書の構成と読み方

第2章　AGIとは何か

• AIは何をしているのか
• AIとAGIを分かつもの
• なぜ「人類最後の発明」と呼ばれるのか
• AGIに定義はない
• AGI研究の主要な立場
• 万能AI――定義なき対象を研究するために
• 汎用性と性能のトレードオフ――特化型AI・AGI・ASI・万能AI

第3章　AGIはなぜ可能か

• なぜいまAIが飛躍したのか――スケーリングの条件
  • なぜ規模が問題になるのか／汎用的な訓練目的――次トークン予測／大きくすれば賢くなる――スケーリング則／基盤モデルという転換
• 暗記から理解へ――分散表現とグロッキング
• 予測はなぜ理解に近づくのか――ソロモノフ帰納への接続
• スケーリング則とAGIへの距離

第4章　知能に限界はあるのか

• 知能爆発は起きるのか
• エネルギーが知能を縛る――ランダウアー限界
• ランダウアー限界を回避できるか――可逆計算と量子計算
• 限界はどこにあるのか――理論と現在の距離
• 知能爆発の仮説を再検討する

第5章　AGIはなぜ危険か

• パワーシーキング――なぜAGIは制御を要するか
• なぜ制御は構造的に困難か
• シャットダウン回避はなぜ生じるか
• 技術的アライメントのアプローチ
• アライメント研究の思想的背景――効果的利他主義と長期主義
• AI生態系――ネットワークで制御する
• 本章の結論

第6章　知能爆発はどこへ向かうのか

• 前提と枠組み
• シナリオの分類
  • シングルトンシナリオ／多極シナリオ／生態系シナリオ／上限シナリオ
• 自律性と自己改良の壁
• 個体の改良の壁
• 増殖的爆発
• 移行局面と生態系シナリオ
• 制度設計は間に合うのか
• 本章の結論

第7章　知るとは何か――AGIと科学

• 複雑性の壁――創発的複雑性と存在論的複雑性
• 可知性の五つの次元
• 科学は翻訳である――知能との同型性
• ソロモノフ帰納の限界と拡張
• 認知は身体と切り離せない――エナクティビズムと現象学
• 「強いAI」ふたたび――意識の問題は迂回できるのか
• 知能・身体・社会をつなぐ視点――システム論の萃点
• 知る主体が変わるとき
• 本章の結論

第8章　AI駆動科学

• 科学の可知性マップ――演繹の壁と時間の壁
• 第五の科学の誕生
• 仮説生成の自動化――アブダクションの二つのアプローチ
  • 構成論的アプローチ／実在論的アプローチ
• 科学AIの自律性レベル
• マイルストーン――各レベルの実現状況と展望
  • レベル0・1／レベル2／レベル3／レベル4
• レベル4以降――「AIの科学」の誕生
  • レベル5／レベル6
• 科学AIの自律化――社会と学術へのインパクト
• AGI基礎論へ
• 集合知としての科学――集合的予測符号化（CPC）と二つの科学の分岐
• 本章の結論

第9章　AGIは知をどう変えるか

• 人類知の地図
• 近代とは何であったか――科学と技術の結婚
• 科学と技術の離婚
• 知の再統合――人類知はどこへ向かうか
• AISOP：AI時代の知の規範
• 本章の結論

第10章　AGIで社会はどう変わるか

• 純粋機械化経済と第二の大分岐
• 近代の価値はなぜ揺らぐのか
• 潤沢さ――AGIがもたらす希望
• 価格・分配・力――AGIが生む三つの断層
• ユニバーサル・ベーシック・インカム
• 政治哲学はAGIに応えられるか
• 本章の結論

第11章　AGI時代に人間であるということ――構成的多元主義へ

• 属性的価値から関係的価値へ
• 人格なき統治／人格なき探究
• 分散型AIの可能性と限界
• AIに福利は必要か
• AIに法人格を与えてはならない。では何を与えるか
• 制度設計の骨格
  • 責任の偽装／ヒューマン・オーバー・ザ・ループ二層モデル／制度設計の三原理――価値設定権・拒否権・余白
• 民主主義と人権はAGI時代にも必要か
• 傷つきやすさという根拠
• 構成的多元主義
• AGI時代に人間であるということ

第12章　AGI時代にどう備えるか

• AI生態系にどう移行するか
• 改めて、なぜAI生態系を目指すのか
  • 核兵器と三層区分／移行戦略
• なぜ第三極が必要か
• なぜ日本なのか
• 第三極に何が必要か
  • 産業政策と経済安全保障政策を分ける／必要なスケール
• 能力基盤――日本AGI基盤
• 生態系を誰が担うか――小組織のアジリティ
  • 合成の誤謬／組織の相転移と規模上限／小組織への資本と権限の移行
• 安全とアライメントの網
• 社会移行――労働・教育・世代
  • 労働／教育／世代
• 行動の優先順位
  • 短期／中期／長期／三層区分との対応
• 次世代に何を残すか

あとがき――科学者がアートに回帰するとき

注／用語集／参考文献

本書の制作方法について

本書の制作では、著者が普段研究現場で用いているソフトウェア開発のワークフローを書籍制作にそのまま応用する新しい手法を試みた。具体的には、著者の過去の講演録・論文・その他の執筆物に本書のために新たに行った調査結果を加えた約68万字を、AnthropicのAIコーディングエージェントClaude Codeに入力し、対話と推敲を丹念に重ねた結果、約19万字の本文が出力された。プログラムエディタEmacsのorgモードを執筆環境とし、バージョン管理システムGitで版管理した。また、難所の論理構成にはOpenAIのChatGPT Proも併用した。以上の制作過程自体が、本書で提唱するヒューマン・オーバー・ザ・ループ（HOL）型の知的生産の実践例となっている。著者は問題設定、主張の選択、論理・事実・引用の検証、最終稿の決定までを一貫して担い、刊行される内容を自らの責任で確定した。詳細は第11章で論じている。