補足論考1:AISOPの導出
『AGI―人間を超える知能は文明をいかに変容させるか』(髙橋恒一, 講談社選書メチエ) 補足論考。第9章が提示したAI時代の知の規範AISOPの五原則が、命題六(構成的多元主義)から導かれることを示す。
最終更新日時:2026年7月4日 15:33(JST)
本論考は、付録2の項目「AISOPの五原則は恣意的な列挙ではないか」への応答の本体である。
AISOPは、本書が唯一の規範的提言として立てた命題六(構成的多元主義)から導かれる。すなわち、構成的多元主義を知の生産の領域で個人の行動規範に翻訳したものが、AISOPである。
一 導出の形式
規範は事実から直接には導けない。本書は第6章でe/accの議論を、エントロピー増大という物理的事実から加速の善を導く自然主義的誤謬として退けた。AISOPもまた、howの自動化という事実の記述から直接に導かれてはならない。
したがって導出は仮言命法の形をとる。まず目的を置き、次に知の生産という行為を構成要素に分解し、各要素をAI時代の条件と突き合わせて、従うべき規範を導く。目的は次のとおりである。
G:AI時代においても、集合的な知の生産過程が機能し続けること。
Gの内実は二つに分かれる。G1:誤り訂正能力の維持(認識的条件)。G2:whatとwhyを問う人間の営みとしての存続(価値的条件)。
二 目的の導出
Gは命題一〜五(記述的命題)からは導けないし、導いてはならない。Gの規範的な力は命題六から借りる。導出の鎖は「命題六→G→AISOP」であり、Gは命題六と同じ規範的身分に立つ。そのうえで、G1とG2は導出の経路と強度が異なる。
G1は、命題六の制度的骨格(価値設定権・拒否権・余白)の作動可能性条件として導かれる。 この骨格は、機能する集合的な知の過程を前提している。拒否権は、目的関数の誤りを検出できて初めて行使の根拠を持つが、誤りの検出は集合的な検証過程なしには成立しない。価値設定権は、何を最適化すべきかを判断する熟議を前提し、熟議は信頼できる知識の供給を要する。余白の正当化そのもの(予測できないからこそ、予測に依存しない適応能力を制度に組み込む)が、探索と学習の機能を前提している。第11章は結論部で「この適応能力こそが、構成的多元主義が保護しようとするものそのもの」と明言している。そして、文明の適応能力の制度化された形態こそ、集合的な知の生産過程にほかならない(第8章。科学は集合的な情報圧縮であり、相互批判が個体のバイアスを超える)。ゆえに、この骨格を意志する者は、その作動可能性条件としてG1を意志せざるをえない。
G1にはもう一段広い支えもある。限定合理性(第5章)のもとでは、どんな長期的目的を持つ主体であれ誤り訂正能力を必要とする。フロンの事例が示すように、合理的最適化の産物ですら予見不能な仕方で裏目に出るからこそ、誤りから学ぶ構造(反脆弱性)が要る。いわば規範における道具的収束であり、G1は命題六を留保する者に対してすら、ほぼ普遍的な仮言的拘束力を持つ。
G2は、本書が明示した保護対象の特殊化として導かれる。 第11章「傷つきやすさという根拠」の節は、守るべきものを「有限で相互依存的な存在が自分の問いを持ち、他者と出会い、失敗し、選び直せる条件」と特定している。whatとwhyを問う営みとは、この「自分の問いを持つ」能力を知の生産の領域で行使することにほかならない。第10章もUBIを「人間が問い続けるための構造的インフラ」と規定している。もう一つ、独立の経路がある。HOL二層モデルは正統性層に、価値の設定と目的関数の更新を担う人間を要求するが、この能力はwhatとwhyを問う実践を通じてしか維持されない。人間の側が問う能力を失えば、正統性層は形骸化し、本書自身の用語でいう責任の偽装に転落する(第12章が警告する、AIへの全面的依存と無関心という固相はその極限である)。G2は、HOLが偽装でなく実質であるための条件である。
制度レベルの命題六と個人レベルのAISOPは、こうして同じ規範的根から出る二層をなす。
三 行為の分解
規範は行為を規律する。したがって、知の規範体系がいくつの原則を要するかは、知の生産という行為がいくつの構成要素からなるかで決まる。この行為を本文の記述に沿って分解する。
本文は知の生産の構造を三つの水準で描いている。第一に、個体の水準。科学の方法論は、観測からモデルを構築し、予測を導き、検証する閉ループをなす(第7章)。このループは問いに始まり、方法と道具を通り、帰結に至る。第二に、共同体の水準。知は個体の内部では完結せず、共有された外部表現を介した相互批判と検証をへてはじめて知識となる(第8章、集合知としての科学)。第三に、社会の水準。知の生産はスポンサーの構造を通じて社会に埋め込まれ、その帰結は社会に作用する(第9章、第10章以降)。
この三つの水準から、個体のループが方法・問い・帰結を、共同体の水準が共有と検証を、社会の水準が位置と作用を与える。すなわち、知の生産という行為は次の五つの構成要素に分解できる。
- 方法・道具。何を使ってどう探究するか。
- 問い。なぜ、何を問うのか。
- 知の共同体。生産物をどう共有し、検証を受けるか。
- 社会。自らの知の生産が社会のどこに位置するか。
- 帰結。生産物がもたらす結果に誰がどう応えるか。
五つの要素は、使う・問う・共有し検証を受ける・位置づく・引き受けるという異なる様式の営みであり、互いに還元されない。規範体系はこの各要素に答えを与えなければならず(完全性の要請)、各要素に一つの原則を置く(最小性の要請)。
四 時代の条件と五原則
行為の分解は時代を超えるが、各要素に与えるべき答えは時代の条件に依存する。第9章までの記述的分析から、AI時代の知の生産をそれ以前から分かつ条件を四つ取り出す。
- C1 howの自動化。方法と実行の希少性が消滅し、道具は週単位で更新される(第9章)。
- C2 動機の希少化。答えの生産が潤沢になるとき、希少になるのは問い(whatとwhy)と、それを立てる動機である(第9章、第10章の稀少性の転倒)。
- C3 検証構造の変化。AI生成物が氾濫し、知識の信頼性はもはや生産者個人の徳では担保できず、共有された外部表現を介した集合的検証に依存する(第8章のCPC)。
- C4 社会的直接介入性。知の生産が社会システムの運用に直接作用する(第10章から第12章)。
五つの要素とこの条件を突き合わせれば、五原則が一つずつ導かれる。
- 問い×C2 → 内発的動機(Intrinsic motivation)。動機が希少資源となる条件下で、この要素を規律する規範は、外部からの委託や評価指標ではなく内発に問いの根拠を置け、となる。これが中核である。
- 方法・道具×C1 → 機敏さ(Agility)。方法が高速に陳腐化する条件下で、規範は、特定の方法に固執せず更新に即応せよ、となる。
- 共同体×C3 → 開放性(Openness)。検証が集合的にしか成立しない条件下で、規範は、データ・コード・プロトコルを検証可能な形で共有せよ、となる。
- 帰結×C3 → 専門性・責任(Professionalism)。AI生成物の妥当性判断が人間側に残る条件下で、規範は、深い専門性を基盤に自ら検証し説明する責任を引き受けよ、となる。
- 社会×C4 → 社会意識(Social awareness)。知の生産が社会に直接介入する条件下で、規範は、自らの位置の地図を持て、となる。
A-I-S-O-Pという配列は記憶のための順序であり、論理的順序ではない。論理的には内発的動機が中核にあり、他の四原則がそれを取り囲む。これは、本文が内発的動機を「他の原則を支える前提条件」と述べたことの形式的な言い換えである。
原則ごとに、拘束力の強度も異なる。開放性と専門性・責任は主にG1から力を受け、G1の準普遍性ゆえに広い読者を拘束する。内発的動機と社会意識は主にG2から力を受け、命題六の基礎にある関係的価値と傷つきやすさの人間論を受け入れる読者を拘束する。機敏さは両方に跨る。
この導出は第9章の記述と突き合わせて検算できる。本文が五原則に与えた説明は、機敏さ=「新しい道具を素早く取り込み」(方法)、内発的動機=「自らの知的好奇心に根ざした問いを立てる力」(問い)、開放性=「データ・コード・プロトコルの共有」(共同体)、社会意識=「社会のどこに位置し、誰にどのような影響を及ぼしうるか」(社会)、専門性・責任=「自ら検証し説明する責任」(帰結)と、五つの構成要素を一つずつ指している。この分解は、本文が暗黙のうちに行っていた配置の明示化である。
五 CUDOS・PLACEとの対応
行為の分解が時代を超えるなら、旧い規範体系も同じ五要素の上に読めるはずである。実際、CUDOS1は共同体(共有・普遍・懐疑)と問い(無私)に集中し、方法と社会には原則を置いていない。PLACE2は五要素の全域に及ぶ(所有=共同体、局所=社会、権威=方法、委託=問い、専門=帰結)。規範体系の交代で変わったのは行為の構造ではなく、時代の条件のほうである。第9章がスポンサーの交代として歴史的に描いたのは、この条件の交代にほかならない。この観点から、旧原則の行き先を整理する。
| 旧原則 | 行き先 | 関係 |
|---|---|---|
| 共有(C) | 開放性 | 継承・拡張(論文からデータ・コード・プロトコルへ) |
| 普遍(U) | 開放性 | 吸収(人でなく証拠による評価は、共有物による検証に実装される) |
| 無私(D) | 内発的動機 | 反転(後述) |
| 懐疑(OS) | 開放性+専門性・責任 | 機能の分配(後述) |
| 所有(P) | 開放性 | 対抗(ただし全否定ではない。安全上の段階公開は第12章のオープンウェイトガバナンスが扱う) |
| 局所(L) | 社会意識 | 昇華(課題への従属ではなく、位置の地図へ) |
| 権威(A) | 機敏さ | 解体(方法と組織の権威は高速更新に耐えない) |
| 委託(C) | 内発的動機 | アンチテーゼ(本文で明示済み) |
| 専門(E) | 専門性・責任 | 継承+責任の追加 |
このうち二つの移行は論証を要する。
無私から内発的動機への反転。マートンの無私は二つの機能を担っていた。(a)バイアスの統制と、(b)動機の規律である。(a)は、AI時代には開放性による集合的検証と多様な主体の相互監視へ制度的に移管される。これは第5章で単一AIの制御からAI生態系の相互監視へと制御の座を移したのと同型の移行であり、個人の徳から構造の性質への移管である(マートン自身、無私を個人心理ではなく制度的パターンとして論じていた)。(b)については、答えの生産が潤沢になった時代には課題そのものが変わる。統制を要するのは動機の過剰ではなく、その枯渇である。ゆえに規範の焦点は、「私を消せ」から「内発を立てよ」へと反転する。
懐疑の行き先。組織的懐疑の機能は、開放性(検証可能な形での共有が集合的懐疑を可能にする)と専門性・責任(AI生成仮説への妥当性判断)に分配される。懐疑を独立原則として温存しないのは、検証の実効性が個人の徳目ではなく検証構造に担われるという、本書の一貫した立場(第5章、第11章の非支配)による。
六 第六原則の候補
候補となる第六原則は、いずれも五つの構成要素の枠内に写像されるか、本書の別の層が担う。
- 誠実性(研究公正)。開放性(検証可能な形での共有)と専門性・責任(説明責任)の交差に含意される。独立化しないのは、公正の実効性が個人徳目ではなく検証構造に担われるためである。
- 謙虚(認識的謙遜)。限定合理性(第5章)の受容は、社会意識(自らの位置の地図を持つこと)と専門性・責任(検証責任)の内実であり、独立の原則を要さない。
- 持続可能性・未来世代への配慮。社会意識の時間軸上の拡張として吸収される。独立原則化は、価値確定不能性(第8章)のもとで長期主義的な期待値最大化へ滑る危険を伴う。本書はこの問題に第11章の余白の設計で応答しており、同じ機能の規範を重ねて置くことは避ける。
- ケア・関係性。規範の宛先が知の生産という行為の外側(人と人の関係一般)にあり、第11章の関係的価値が担う。AISOPには社会意識と内発的動機を通じて流れ込む。
- 無私の温存。前節で論じたとおり反転済みである。
第六原則を立てるには、この五つに還元されない第六の構成要素を示す必要がある。それが示されれば、AISOPは改訂されるべきである。
七 限界と反証条件
この導出には三つの限界がある。
第一に、導出は仮言的であり、その拘束力は二層に分かれる。G1(誤り訂正)は限定合理性ゆえに、長期的目的を持つほぼあらゆる主体に仮言的拘束力を持つ。これに対しG2(問う営みの存続)と、主にそこから力を受ける内発的動機・社会意識は、命題六の基礎にある関係的価値と傷つきやすさの人間論を受け入れる者を拘束する。命題六を拒否する者はAISOPの全体には拘束されないが、それは本書が命題六自体に与えた身分と同じである。
第二に、五つへの分解自体が一つの切り分けの選択である。何を行為の構成要素と見なすかという問いに唯一の答えがないことは、第7章の存在論的複雑性の議論(何を要素と見なすかという切り分け自体が問題の一部を構成する)がそのまま本書自身に返る点であり、別の切り分けからは別の原則群が導かれうる。導出が示すのは必然性ではなく、恣意的でないこと、すなわち前提からの追跡可能性である。
第三に、規範の最終的な検証は導出ではなく採用による。CUDOSは導出されたのではなく、機能していた実践から事後に記述された。PLACEも同様である。AISOPは記述に先立つ提案であり、知の生産の現場で運用に耐えるかどうかが、数年をかけた検証の対象となる。本書の記述命題が検証されてゆくのと同じ意味で、この規範もまた検証されてゆく。
注
ロバート・K・マートン『The Sociology of Science: Theoretical and Empirical Investigations』(University of Chicago Press、1973年)を参照。
ジョン・ザイマン『Real Science: What It Is, and What It Means』(Cambridge University Press、2000年)を参照。