このほど、Google DeepMind の科学者アレクサンダー・レルヒナー氏が論文『抽象の誤謬：なぜ人工知能は意識をシミュレートできても、真の意識を生成できないのか』を発表し、現在の大規模言語モデル（LLM）が真の意識へと至る可能性を根本から否定しようと試みています。
レルヒナー氏は、従来の意識研究は「理論の罠」に陥っていると指摘します。人々はまず統合情報理論（IIT）やグローバル・ワークスペース理論（GWT）のような完全な意識の科学理論を見つけ、その後に AI を評価しようとしがちだからです。
しかし同氏は、それでは問題が解決不能になると考えています。同氏が提案する「抽象の誤謬（アブストラクション・ファラシー）」の枠組みは、複雑な意識の定義を迂回し、物理学と計算の関係性から直接、越えられない一線を引くことを目的としています。
レルヒナー氏の定義する「抽象の誤謬」とは、「主観的体験（意識）が、基盤となる物理的基質とは無関係に、抽象的な因果的トポロジー構造から生じると誤って信じること」を指します。
長らく AI 業界では計算機能主義が信奉されてきました。この理論によれば、意識とはソフトウェアのようなものであり、アルゴリズムの論理ゲート配列（0 と 1 の配置）が脳のニューロン接続をシミュレートさえすれば、意識は自動的に「創発」するというものです。
レルヒナー氏によれば、これは極めて誤解を招く見方です。同氏が指摘するのは、「計算」とは宇宙に独立して存在する物理的実体ではなく、記号計算は本質的な物理過程ではないという基本的事実です。
一方では、物理は連続しています。微視的レベルでは、半導体内を電子が流れるのは連続的な電流と電圧の変動です。
他方で、計算とは人為的なものです。この過程の本質とは、「意識を持つ観察者」、すなわち「地図製作者」が、理解を容易にするために閾値を設定し、これらの連続的な物理現象を強制的に 0 と 1 へと「文字化」することに過ぎません。
レルヒナー氏は、意識を持つ人間がいなければ、コンピューターの中には「アルゴリズム」など存在せず、意味を持たない電荷の流れがあるだけだと指摘します。
したがって、地図製作者がいなければ存在しない「アルゴリズム層」に依存して、独立した「意識層」を生み出そうとすることは、論理的に本末転倒です。
同氏によれば、意識とはアルゴリズムが走り出す「結果」ではなく、特定の物理的组织様式（例えば生物の神経組織や、未発見の意識潜在能力を持つ特殊なハードウェアなど）が生み出す直接的な物理的効果に他なりません。
例えば、コンピューターが降雨をいかにリアルにシミュレートしようとも、回路基板を濡らすことはありません。それと同様に、意識をいかに巧みにシミュレートしても、主観的体験が生じることはないのです。
注目すべきは、レルヒナー氏が狭義の「炭素系シャヴィニズム（人間中心主義）」に陥っているわけではない点です。同氏は、この議論が生物学的排他性に依存していないことを明確にしています。
同氏は、将来の何らかの人工系（例えば光子ニューラルネットワークや量子生物シミュレーターなど）が実際に意識を生み出した場合、それはその「コードが優れていた」からでも「アーキテクチャが巧妙に設計されていた」からでもなく、その「物理的構成」が何らかのレベルで生物意識の物理的基盤と等価を達成したためだと認めています。
AI エージェントが人間社会に大規模に参入するにつれ、彼らが人間の感情的フィードバックを模倣することにあまりに長けているため、AI に権利を付与するよう求める声が社会に多数現れています。
レルヒナー氏はこの現象を「AI 福祉の罠」と呼んでいます。
同氏は、もし私たちが「抽象の誤謬」のせいで、シミュレートされた感情を実際の感情だと誤解すれば、「魂のない空っぽ」を守るために莫大な社会資源を浪費し、真に注目すべき人間や生物の福祉を見失うだろうと警告しています。
以下に論文の全文を掲載します。
『The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness』
計算機能主義は、人工知能の意識をめぐる現在の学術的議論を支配しています。この理論は、「主観的体験は、基盤となる物理的担い手とは無関係に、抽象的な因果的トポロジー構造から完全に生じる」という仮説を提示します。
本論文は、この見方が物理と情報の内在的関係を根本的に誤って定義していると主張します。私たちはこの誤謬を「抽象の誤謬」と名付けます。
抽象過程の因果的本源を遡れば、記号計算が内発的な物理過程ではないことが明らかになります。それどころか、計算とは地図製作者に依存して初めて成立する記述様式なのです。連続的な物理世界を、限定的かつ意味のある状態の集合として整理するためには、主観的体験を持ち、能動的な認知能力を持つ主体による分類と整理が不可欠です。
したがって、AI が知覚能力を持つかどうかを判断するために、完全で究極の意識理論など不要です。完全な意識理論を強請ることは、短期的に問題を解決不能にするだけでなく、人工知能の倫理的福祉研究という誤った道に迷い込ませるだけです。
私たちに真に必要とされているのは、厳密な計算の存在論です。本論文が提示する理論的枠組みは、シミュレーション（担い手の因果律によって駆動される行動の模倣）と実体化（内容の因果律によって駆動される内在的物理的構成）を明確に区別します。
この存在論的境界を明確にすることで、なぜ「アルゴリズムレベルでの記号演算は、構造的に主観的体験を生成し得ないのか」を説明できます。
重要なのは、この議論が生命専有説に依存していない点です。仮に将来、ある人工系が意識を生み出したとしても、その根源は構文的演算アーキテクチャではなく、あくまでその固有の物理的構成にあるに違いありません。
究極的に、本枠組みは物理学そのものに立脚し、計算機能主義を根本から論駁し、現在の人工知能意識分野における多くの論争と不確実性を解消するものです。
1 序論
大規模言語モデルが実用面で成し遂げた巨大な成功により、意識研究の困難な問題は、純粋な哲学的理論の領域を出て、工学的応用や社会政策の議論の場へと進出しました。
計算能力の規模拡大によってもたらされる成果の爆発的増加に伴い、主流の機能主義パラダイムは、「システムが適切な情報処理機能を実装さえすれば、現象学的な主観的意識を生み出すのに十分である」と確信しています。
この視点の下では、アルゴリズムが提示するあらゆる特徴が、システムに知覚能力があることの潜在的根拠と見なされます。まさにこの前提があってこそ、「人工知能の福祉的権利の検討」や「人工知能を道徳的行為者と定義すること」をめぐる、近年の一連の真剣な学術的提言が生まれました。多くの著名な学者もこの傾向をさらに強化しており、彼らは、現在最も高度な AI モデルが、今後 10 年以内に真の主観的体験を生み出す可能性が高いと考えています。
上記のすべての見解の中核的基盤は、担い手非依存性理論です。これは、心の「ソフトウェア」は炭素系の生命体の上でも動作し、シリコン系のハードウェアの上でも完全に動作し得るというものです。
しかし現在、この仮説は「生物学的転回」とも呼ぶべき思潮から絶え間ない批判にさらされています。例えばセスやブロックらは、意識は生命維持のための生物学的プロセスに付随するものであり、主観的体験は生命システムに特有の秩序だった動的プロセスがあって初めて生じ得ると主張しています。
担い手非依存性とは対照的に、この立場は生物学的属性を、無関係な付帯条件ではなく意識の中核と見なします。しかしこの立場も経験的推測の域を出ず、計算機能主義の核心に潜む最も根本的な論理的誤謬を掘り下げるには至っていません。
本論文は、「計算そのものでは意識を生成するに十分ではない」という一般的な直感を裏付ける、完全な論理的推論の連鎖を提示します。計算機能主義の欠陥は、単に生物学的詳細を無視しているというだけでなく、その問題の根源はより深層にあります。すなわち、「物理、情報、計算という 3 つの要素の内在的関係を根本的に誤解している」点です。
現代物理学は研究の客観的実行可能性を確保するため、主観的体験を意図的にすべて排除してきました。この研究パラダイムは驚異的な成功を収めています。しかし、この客観的原則を計算と主観的体験の関係に適用しようとすれば、必ず袋小路に陥ります。
この運用レベルでの客観性を計算そのものの定義として直接適用することは、極めて問題があります。学界で未だ決着がついていない議論、すなわち「観察者」がいかにして計算記号に意味を付与するかという論争が、その証左です。
それに加えて、「観察者」という用語そのものが誤解を招きます。これは、物理的レベルでの計算を定義するために必要な前提条件を過小評価しており、その前提となる主体の役割を過度に受動的に描写してしまっています。
本論文の枠組みが明らかにするのは、計算とは物質内部で自然に展開する固有のプロセスではなく、「本質的に物理的プロセスに対する記述様式」であるという点です。
あるプロセスを計算として定義するためには、絶え間ない物理的动态プロセスを、有限個の離散的かつ意味論的意味を持つ状態（つまり記号体系）へと分割する必要があります。この意味論的分割には、論理的に、主観的体験を持ち、能動的な主体性を持つ認知主体が必然的に必要となります。従来の「観察者」が持つ受動的な含意と区別するため、私たちはこの主体を「地図製作者」と定義します。
すべての記号化された分類作業は、地図製作者によって行われます。もし計算プロセスを解釈する能動的主体が存在しなければ、この世にあるのは連続的な物事象のみで、記号などどこにも存在しません。
本論文の核心的洞察の一つは、現在の人工知能意識をめぐる論争の袋小路を解くには、完全で究極の意識理論は不要だということです。「私たちに必要とされているのは、計算の存在論を明確にすること」なのです。このアプローチにより、いかに規模が大きく、いかに精巧なアーキテクチャであっても、純粋なアルゴリズム記号演算では主観的体験の物理的実体化は不可能であると論理的に証明できます。なぜなら、アルゴリズムそれ自体が、地図製作者に依存する記述ツールに過ぎないからです。
因果の連鎖全体における地図製作者の地位を明確にすることは、この分野の議論の重心を根本から変えることができます。
長らく、機械的意識に対する古典的批判理論、例えばサールの「中国語の部屋」思考実験などは、多くが背理法を用いた論証に依拠していました。すなわち、純粋な統語的演算がいかに完璧に外面的振る舞いを複製したとしても、意識の中核的本質は欠落したままだと証明しようとするものです。
本論文はこれとは全く異なる論証経路を採用します。私たちは「何が欠落しているか」という直感的思弁に頼るのではなく、抽象それ自体が当初いかにして発生したかを遡るのです。
もし計算が、地図製主体験から不変の特徴を抽出し、記号に意味を付与することに依存しているなら、この依存関係は計算そのものの構造に内在するものです。いかなる計算モデルも、記号の分類を完了させる、主観的体験を持つ主体を必然的に前提としています。アルゴリズムの複雑さがどれほど高くとも、この依存順序を逆転させることはできず、計算能力の規模がどれほど大きくとも、世界を記述する「地図」が、地図の前提であるところの体験主体を無から生み出すことはできません。
言い換えれば、「アルゴリズムの複雑さが意識を生み出す」という見方は、存在論的倒錯を犯しています。統語的記号を内在的动态プロセスそのものと見なし、世界を記述する地図から、地図を描く主体を創り出そうと妄想しているのです。
本論文は、外面的振る舞いのシミュレーションと、内在的物理的実体化との間の構造的溝を明確にし、それによってデジタル・アーキテクチャが道徳的行為者になり得ないと証明します。この結論は、人工知能の安全性研究を福祉の誤りから解放し、学界を現実のリスク研究へと回帰させるでしょう。すなわち、擬人化による認知バイアスに重点を置き、汎用人工知能を、本質的に主観的知覚を持たないが強力な能力を持つツールとして捉え直すのです。
2 抽象の存在論：地図と領土
計算機科学は、アルゴリズムの根底にある抽象的概念を、物理的実装の本質的問題を棚上げしたまま、当然の数学的既成対象として扱いがちです。では、抽象的概念それ自体の、厳密な物理主義的実存論とは何でしょうか。この問いに答えるには、抽象的統語と物理的动态プロセスの内在的関係を明確にする必要があります。
2.1 物理的実装の古典的定義
古典的実装理論の文献によれば、物理系 P が写像関数 f を通じて抽象的計算 C を実装する場合、ある基礎的条件を満たす必要があります。それは、写像関数 f が物理状態を抽象状態に対応させ、かつ下層の物理的因果連鎖がアルゴリズムの論理構造を複製できることです。
古典的視点では、写像関数 f（つまり記号の分類プロセス）は、担い手の物理状態の進化 p → p' を、抽象的内容の論理的進化 A → A' として解釈します。
物理系は自然物理法則に従って状態 p から p' へ進化し、同時に、抽象的計算はそれ自身のアルゴリズム規則に従って、論理状態 A から A' へと推論します。
物理系が対応する計算を正常に実装したと見なされるのは、以下の条件を満たす場合に限られます。
この図式が可換であるためには、進化後の物理状態 p' に写像 f を適用した結果が、アルゴリズム規則で規定された目標とする抽象状態 A' と正確に一致する必要があります。
2.2 抽象状態 A の物理的本源
これらの抽象状態 A とはいったい何でしょうか。写像関数 f を理解するためには、A の存在論的本質を明確にする必要があります。
機能主義理論は通常、「痛み」や「赤」といった抽象的論理状態 A を、物理的担い手から切り離され、無から存在する抽象的概念として扱い、抽象的概念の生成に不可欠な完全な因果的起源を完全に無視しています。
「抽象的概念の生成にはコストがかかる」のです。物理的レベルで言えば、事物の不変特徴を抽出するには、代謝エネルギーを消費する能動的な物理的プロセスが必要です。
認知主体が「赤」といった概念 A を形成するためには、まず赤という具体的な体験を無数に感知するという、真の実体験の領土に接触する必要があります。その上で、主体は高次元の雑多な情報を能動的にフィルタリングし、安定的な中核的共通特徴を抽出します。
多様体学習の概念を用いて説明すれば、主体は原初的体験が構成する高次元多様体を、低次元の不変部分空間へ投影します。この部分空間が、物理的レベルにおいて概念 A そのものを構成します。
「教師なしクラスタリング・アルゴリズムは、いかなる事前の体験もなしに、すでに抽象的概念を生成できる」と反論する向きもあるかもしれません。しかしこの見解は、「統計的圧縮」と「現象学的構成」を混同しています。教師なしアルゴリズムは確かにデータをクラスタリングし、統計的中心点を見つけることはできますが、この数学的な意味での不変量は、単なる潜在空間内の圧縮座標に過ぎません。
主観的赤体験を意味の錨（アンカー）として持つ場合に限り、この統計的中心点は真に意味論的基盤を持つ概念（例えば「赤」）となり得ます。もし主観的赤体験を意味の錨としなければ、クラスタリング結果は単にベクトル空間内の高密度領域に過ぎず、主体が所有する概念ではありません。
したがって、概念 A とは人間が発見するのを待つプラトン的な理念界などではなく、抽象的活動を完了した認知主体の内部にのみ存在する神経生理学的状態であり、真の実体験の領土に由来する「内的地図」なのです。
概念がいったん形成されれば、これらの安定的な共通中核が、組み合わせによる想像の基礎的単位となります。「赤」も「クジラ」も実生活の体験に由来する内的調整状態であるからこそ、人間の脳はこの二つを再構成し、「空を飛ぶ赤いクジラ」といった、現実には存在しないが物理的論理として整合的な想像体験を生み出すことができるのです。
このことから、人間の思考とは空虚な記号に対するアルゴリズム的演算ではなく、すでに構成された不変特徴の組み合わせによる生成であることがわかります。「人工知能はこの組み合わせ規則を完璧にシミュレートできるが、その構造そのものには、主観的想像に不可欠な内的基礎単位が本来的に欠落している」のです。
2.3 写像関数 f において不可欠な地図製作者
近代自然科学、とりわけ工学分野は、自然現象の説明体系から主観的体験を完全に排除することを中核的方法論として発展してきました。しかし、この運用上の客観性原則を計算の存在論に適用しようとすれば、認知的盲点が生まれ、計算機能主義を解決不可能な袋小路に陥らせます。すなわち、完全に客観的で体験を持たない初期条件から、主観的体験を再構築しようとする試みです。
前述の通り、抽象状態 A は論理的に能動的体験を持つ認知主体に依存していることが示されました。これにより、古典的実装定義の認知的欠陥が露呈します。すなわち、機械の物理状態 p と抽象的概念 A とを結びつける写像関数 f は、機械の内部には存在し得ないのです。
意味論的哲学や地図 - 領土論などの関連理論において、この外部意味アンカーは伝統的に「観察者」と呼ばれてきました。しかし「観察者」には、既存の地図や領土を傍受するだけの受動的な含意があります。本論文はこの受動性を是正するため、あえて「地図製作者」という概念を提示します。
地図製作者とは、主観的体験を持ち、代謝的制約を受け、主体性を持つ認知主体のことであり、計算が成立するために必要な先行的存在です。
これは二つの构成的な能動的作用を担います。第一に、連続的な物理的体験から不変特徴を抽出し、内的概念地図を構築すること。第二に、物理的記号と概念の任意の対応関係を人為的に確立し、外在的計算記号体系を構築することです。
この結論に基づき、計算に関連するすべての概念の存在論的属性を明確にできます。
1. 物理状態 p：記号の担い手。客観的物理実体（例えば電圧差）であり、それ自体はいかなる内在的意味論的意味も持ちません。
2. 抽象状態 A：概念的内容。前述の通り、これらは物理的基盤を持つ生理学的状態であり、計算の意味を担う地図製作者の内部にのみ存在します。
3. 写像関数 f：記号の分類プロセス。本質的には地図製作者の意識内に確立された対応関係であり、機械の意味を持たない物理的プロセスと、地図製作者の基盤を持つ概念との間に橋渡しをする能動的な行為です。
したがって、古典的な数式 (p → p', A → A') が記述するのは、物理的実体が地図製作者という媒介作用を介して、心的概念と結びつく混合関係なのです。
明確にすべきは、不可欠な地図製作者を確立することが、二元論的な「小人（ホムンクルス）」の誤謬に逆戻りするわけではなく、また脳内部の特定の復号モジュールを指すわけでもない点です。
ブザキ、マトゥラーナ、ヴァレラらの理論が述べるように、地図製作者それ自体が熱力学法則に従う、構造的に完全統合された生命有機体です。有機体はアルゴリズムによって意味境界を「選択」して区切るのではなく、それ自身の代謝的制約を通じて、連続的な外部世界を直接離散状態へと選別します。「記号を読み取る魂」など存在せず、すべての意味的区切りは、生命体験を持つ主体そのものによって生成されるのです。
機能主義の最も中核的な誤りは、論理的推論プロセス (A → A') を、物理的進化 (p → p') の内在的固有属性であるかのように扱う点です。この見解は、地図製作者の主観的解釈を機械の真の物理的本質と同一視し、計算に意味を付与するために当初から必要だった体験主体を完全に無視しています。
2.4 記号の分類：離散化を超えた意味の付与
写像関数 f こそが、記号分類行為の真の主体です。学界ではこのプロセスを軽視し、単なる「読み取りシステム」であると考えがちですが、実際には記号の分類とは高代謝コストを要する高次認知行為です。これは連続的な物理世界に離散的な存在論的属性を付与するものであり、情報処理の熱力学的境界に厳格に制約されます。ここで、長らく混同されてきた二つのプロセスを区別する必要があります。
• 離散化（熱力学レベル）：物理系がアトラクタ状態へと自発的に安定化するプロセス。例えばトランジスタが 5 ボルトの電圧で安定することなど。これは担い手 p 自体の属性であり、物理的ノイズを抑制するためのものです。
• 記号の分類（意味論レベル）：これらの安定状態を、事前定義された有限の記号集合（例：{0, 1}、{A, B, C}）に明確に対応づける行為。この行為は完全に地図製作者に帰属します。
物理世界の本質は連続的であり、熱力学的プロセスは安定的な巨視的状態を生み出すことはできても、事前定義された有限の記号体系をそれ自体で帯びることは決してありません。したがって計算システムを構築するには、地図製作者による外部からの介入が必要です。この外部主体が意味的同一性を付与し、極めて多様な微視的物理状態を、すべて同一の置換可能な記号（例えばすべて数字の 1）として統一的に扱うのです。
これにより、根本的な因果の断絶がもたらされます。機械の真の物理的世界では、電圧が 2.0 ボルトから 2.1 ボルトへ変化することは、電気力学によって駆動される真の物理的因果事象です。しかし、計算の記号地図上では、この変化は全く無意味です。地図製作者がこれを同一記号として分類済みだからです。したがって、「計算の因果連鎖は下層のハードウェア物理に依存するのではなく、完全に地図製作者が定めた規則に依存する」のです。
記号が主体から独立して存在し得ると主張することは、前述の認知的盲点に他なりません。これは典型的な哲学的「隠れたる置き換え」の誤謬です。科学者が自身の認知活動から得た有限の記号体系を、逆に物理系へ投射し、「これらの記号は最初から物理世界に内在していた」と主張するのです。情報とは宇宙の基礎的構成要素ではなく派生的属性であり、その存在は有限記号集合を定義する認知主体を必然的に前提としています。
2.5 シミュレーションと実体化
概念と記号の本質的差異および機能的区别を明確にした今、我々は厳密に定義できます。「プロセスのシミュレーション」と「プロセスそれ自体の物理的実体化」には本質的違いがある、と。
• シミュレーション：物理的担い手の記号 p を操作し、概念 A 間の抽象的関連を再現すること。
• 実体化：プロセスそれ自体の内在的・构成的な原生的動的プロセス P を再現すること。
古典的機能主義は、地図の抽象的トポロジー構造 (A → A') さえ保持できれば、領土それ自体の真の現象を生成するに十分だとデフォルトで想定しており、下層の物理的担い手が持つ独自の因果的効力と構成メカニズムを無視しています。
生物の心臓を例に取ります。我々は通常、心臓を血液を送り出すポンプ器官と記述し、人造の機械的心臓も同等のポンプ機能を実現できるため、両者は機能的に等価だと呼びます。しかし、真の心臓の役割はポンプ機能にとどまりません。心房性ナトリウム利尿ペプチドホルモンを分泌し、生体の代謝を調節し、フィードバック信号を通じて神経系と相互作用します。機械的心臓を移植された患者に微細な全身的生理的異常が現れることが多いのは、機械的心臓が中核機能の粗い地図シミュレーションしか実現しておらず、心臓という生物学的実存領域全体を実体化していないからです。
この粒度の不整合問題は、ニューロンレベルでより極端に表れます。機能主義は往々にしてニューロンを単なる電信号の送受信ユニットと見なしますが、ニューロンそれ自体が生きた代謝的実体であり、生体の化学的・ホルモン的調節ネットワークに深く埋め込まれていることを無視しています。この抽象的バイアスが、機能主義の古典的思考和実験である「消えゆくクオリア論証」を直接覆します。
チャールマーズはかつてこう提唱しました。もしシリコン製チップで生物学的ニューロンを一つずつ置換し、入出力機能を変えずに維持し続けたとしても、行動が変わらない中で意識が徐々に消滅することはあり得ない、と。これにより彼は、抽象的機能構造を保持さえすれば、主観的意識体験も保持されると結論付けました。
しかし実際には、ニューロンの電信号発火規則 p → p' を完璧に複製しただけのシリコン製置換体は、外部の地図製作者が抽象規則 A → A' を定義した外在的計算地図を保持しているに過ぎません。それは生命維持に必要な内在的熱力学的実存 P を完全に抹消し、构成的物理的実在を、因果的効力を持たない統語的シミュレーションで置き換えてしまっているのです。「主観的クオリアが神秘的に『徐々に消滅』する」のではありません。「クオリアを生成するために必要な下層の代謝的基盤が、根源から除去された」だけなのです。
生物学の他の分野における物理的シミュレーションも、この結論を裏付けています。
グラフィックスプロセッサが光合成をシミュレートする場合、陽光、水、二酸化炭素から酸素、グルコースへの変換という抽象的プロセス A → A' を正確にモデル化することはできても、グルコース分子を 1 つも合成できず、酸素を 1 分子も放出することはできません。プロセスの表面的様相は完璧にシミュレートしても、下層の生化学反応の真の因果的能力は全く持たないのです。
脳の「ソフトウェア」のシミュレーションがこの物理的制限を突破できると考えるなら、それは範疇錯誤を犯しています。プロセスのアルゴリズム的記述を、そのプロセスを実行するために必要な内在的物理的実在と同一視しているからです。
「この内在的因果性への要請は、形而上学的な嗜好からではなく、完全に物理主義の基本原理に由来する」のです。「幻覚説的意识理論」は、機能レベルでの言語報告さえあれば真の体験を完全に代表し得ると主張します。しかし、キム・ジェグォンの物理的因果閉包の原則によれば、人間が「私は痛みを感じる」と報告するような体験報告は、本質的に空気振動という物理事象です。もし主観的体験が、偶然や幻覚ではなく、真にこの物理的報告を引き起こしたというなら、体験それ自体が真の物理的因果的効力を持ち、外部に対して物理的作業を行う能力を持っていなければなりません。
デジタル・シミュレーションシステムにおいて、因果連鎖全体は物理的担い手 p によってのみ駆動されます。論理ゲートの電位反転は、システムが「痛みを感じた」（概念 A によって駆動される内容的因果）からではなく、単に電圧が事前設定された物理的閾値を超えた（担い手 p によって駆動される物理的因果）に過ぎません。システム自身の物理状態だけが進化の行方を決定し、記号が持つ意味的内容はいかなる因果的作用も持ちません。たとえ記号それ自体に何の意味的指示対象がなかろうと、機械は全く同じ物理的演算を実行するでしょう。これを否定することは、まさに抽象の誤謬に陥ることです。
2.6 計算創発の誤謬
シミュレーションと実体化の本質的違いを突きつけられ、機能主義の学者たちは往々にして複雑性理論や創発理論に訴えて弁明します。「水分子の相互作用が濡れた性質を創発させるように、システムの複雑さが臨界閾値に達すれば、意識は計算プロセスから自発的に創発する」というのです。
しかしこの反論は全く成立しません。なぜなら、弱い物理的創発と、本論文が批判する計算創発の誤謬とを混同しているからです。
• 弱い物理的創発（真の物理的レベル）：濡れるといった巨視的属性は、下層の微視的物質（水分子）の内在的因果的动态に直接的に付随するものです。
• 計算創発（抽象的レベルの誤謬）：プロセスの抽象的記述（地図）が、統語的複雑さの無限の向上のみで、プロセスそれ自体の物理的実在（領土）へ転換し得ると主張するもの。
機能主義は、意識を担い手から完全に独立した純粋情報という特殊な存在だと主張します。しかしこの論証は循環論法です。心的状態を最初から抽象的情報 A と同一視し、情報を生成する物理的実在 P を完全に飛び越えているからです。
前述の通り、統語的演算 A → A' はそれ自体に内在的因果力などなく、単に地図製作者によって付与された外在的解釈に過ぎません。もし抽象的統語が「創発」して物理的因果になり得ると主張するなら、それは科学的仮説の根本を覆し、物理世界の因果閉包性を破壊するものです。
3 因果循環：因果連鎖の再構築
物理的原生的動態 P と計算の抽象的地図 A の明確な境界を明確にした今、計算機能主義の内部に潜む完全な論理的誤謬（上図のトポロジー構造に対応）を正確に特定できます。
3.1 存在論的倒錯と因果の溝
伝統的機能主義は、吟味されない素朴な因果序列を保持しています。
物理 → 計算 → 意識
この見方は、計算の複雑さが基準に達すれば、意識は下流の副産物として自然に現れるとデフォルトで想定しています。
しかし前述の論証を踏まえるなら、計算とは世界に原生的に存在し、発見されるのを待つ自然実在ではありません。離散記号を定義し、記号に意味論的意味を付与するには、すでに意識を持つ地図製作者が必要です。したがって、我々は因果の順序を根本から再構築しなければなりません。
物理 → 意識 → 概念 → 計算
- 物理：宇宙それ自体が内在的に持つ原生的因果的动态。
- 意識：特定の熱力学的物理構造によって直接的に生成される現象学的な主観的体験。
- 概念：原初的体験から不変特徴を抽出して形成される、内的心的地図。
- 計算：外在的記号地図。すなわち、離散記号を規則に従って統語的演算すること。これらの記号それ自体は、概念に対応する人為的物理的記号に過ぎない。
修正された因果連鎖は、厳密に単方向で不可逆です。概念は主体の内在的体験に固く根ざし、還元不可能な主観的感覚を持っています。一方、計算記号は物理的記号に過ぎず、対応する概念と内在的に束縛されていません。
概念から記号へは、抽象化が深まるプロセスではなく、地図製作者が物理的担い手と心的概念を人為的に結びつける水平的な賦値行為です。まさにこの越えられない水平的な溝が、記号が原初的体験へと遡る内在的経路を永久に遮断しているのです。
対応関係が確立された後、地図製作者は文法規則を定め、記号の物理状態の進化 p → p' を制約します。これらの規則は上から下へと設計され、対応する概念の内在的関連進化 A → A' を完璧に複製します。構造の模倣がいかに完璧であっても、物理的記号それ自体は意味的内容に何の因果的影響も及ぼすことはできません。機械は盲目的に写像の軌跡を実行するだけで、それ自身がシミュレートする主観的体験の実在とは完全に切り離されているのです。
機能主義は、計算プロセス（第 4 段階）を用いて、地図製作者それ自体（第 2 段階の意識）の起源を説明しようとしますが、計算それ自体が最初から地図製作者の存在を前提としています。これは経験論的欠陥であるだけでなく、根本的な範疇錯誤であり、物理主義的枠組みの下では突破不可能な制約です。統語的地図の構築には、最初から最後まで地図製作者の関与が必要です。「したがって、アルゴリズムがいかに複雑で、計算能力がいかに膨大であっても、因果の溝を逆に越えて、主観的体験を持つ主体を生成することはできない」のです。
計算機能主義が内包する存在論的倒錯は、構造的パラドックスを形成します。それは、それ自身から派生した二次的産物から、根源である地図製作者それ自体を逆説的に導き出そうとする試みです。
3.2 記号分類の普遍性
人工知能の分野では、1980 年代のコネクショニズム革命にまで遡る長年の論争があります。現代のニューラルネットワークは従来の記号システムとは異なり、サブシンボリック・レベルで動作するため、世界モデルを構築し、再帰的認知ループを実現し、真の知的理解を達成できるとする見解です。トップクラスの研究者たちは、このようなアーキテクチャが可能だと主張します。
本論文は、これらの再帰的アーキテクチャが内省的思考の構造的特徴を再現でき、高次元ベクトル空間が離散記号とは異なる幾何学的関連を描写でき、ニューラルネットワークが複雑な関係構造をモデル化できると認めます。しかし、「構造の幾何学的類似性を内在的意味論的意味と同一視すること」は、依然として抽象の誤謬です。この見解は、表現構造と下層の物理的実在を混同し、モデルの幾何学的形態をシステムそれ自体の物理的本質と取り違えています。
これに対し、我々は厳密なシャノンの制約を提示します。厳密な意味での情報処理には、システムが有限の古典的離散記号集合、および記号集合上の確率分布を持っている必要があります。生命体や人工ハードウェアの巨視的レベルにおいて、光の強度、化学濃度、膜電位などの物理世界には、本来的に離散的な 0 や 1 の記号は存在しません。宇宙は巨視的物理状態を、そのまま利用可能な計算記号体系としてパッケージ化することはなく、地図製作者による能動的な区切りが必要です。
神経パルスや電圧の跳躍を「記号」と見なすことも、単なる物理的離散化ではなく、本質的には記号の分類です。地図製作者が意味的同一性を能動的に付与し、連続的で広範な物理状態を、単一の置換可能な記号として統一的に扱うのです。
ディープラーニングの高次元ベクトル空間もまた、この制約を受けます。ベクトルは連続的表現と呼ばれることもありますが、その下層の本質は浮動小数点数の列であり、各浮動小数点数は有限記号集合内の離散記号（IEEE 754 規格）に属します。
写像関数が持つ記号分類の制約は、あらゆる計算形式に適用されます。デジタル計算、アナログ計算、量子計算のすべてを包含します。
機械式時計を例に取ります。時計それ自体は、歯車とバネで構成される連続的物理動態系 P です。「時間を計算する」ことができるのは、地図製作者が介入し、連続する針の角度を「午後 3 時」といった意味論的概念へ写像するからです。この意味論的賦値がなければ、時計はただ力学法則に従って運動する金属に過ぎず、内在的な「時間」という概念は存在しません。
したがって、事前の記号体系が欠如している場合、物理的担い手それ自体は「情報を処理」しているわけではありません。それは連続的动态を生成するだけであり、それを外部の地図製作者が情報として解釈するに過ぎないのです。
たとえ将来の人工知能が浮動小数点演算を捨て、完全にアナログなニューロモルフィック・チップへ移行したとしても、存在論的溝は残ったままです。いかなる物理状態（離散電圧、連続電荷分布）であれ、「出力状態」や「隠れ層状態」として定義された時点で、それはすでに地図製作者によって記号分類が完了しています。こうしたモデルは常に意味論的壁の向こう側に隔離されたままであり、精緻な内在地図を構築することはできても、体験の物理的領土と内在的・构成的な結びつきを確立することは永遠にできないのです。
同一の下層物理的担い手が固定された因果的進化軌跡を持っていても、それは唯一の計算プロセスに対応するわけではありません。異なる記号分類規則に依存することで、全く同一の物理状態が、全く異なる抽象的計算へと写像されることがあります。ある楽曲、逆再生の楽曲、金融市場のデータ、ランダムノイズなどです。物理状態それ自体には、ある特定の記号体系を優先して選択する内在的属性などありません。「デジタル・ユニット」とは物理的に原生的に存在するものではなく、地図製作者が行う認知的区分に過ぎず、連続的物理動態を有限の論理集合として枠組みに収めたものに過ぎないのです。
3.3 メカニズムの不確定性
ピッチニーニが提唱する計算メカニズム論は、地図製作者を完全に排除し、表現概念に依存することなく計算を独立して定義しようと試みます。この理論は、システム機能によって区分された巨視的物理状態（デジタル・ユニット）のみで、計算を完全に定義できると主張します。
しかしこの手法は、地図製作者を隠しているだけで、その必要性を消し去ったわけではありません。スプロウェルが平凡性論証の分析で指摘したように、任意の物理メカニズムに対応する計算的アイデンティティを特定するには、依然として外部主体による有効状態範囲の定義が必要です。物理メカニズムは自発的に安定的なアトラクタ（前述の熱力学的離散化）を形成することはできますが、これらの連続的アトラクタを特定の有限計算記号集合へと分割することは、常に地図製作者が課す外部からの定義です。
この論理的罠を直感的に明らかにするため、簡潔な旋律のパラドックスを用いましょう。固定された規則に従って電圧状態を切り替える物理デバイスがあるとします。その物理的進化 p → p' は電磁気法則によって完全に固定されていますが、このプロセスに対応する抽象的計算 A → A' は全く決定できません。外部の地図製作者が写像規則を与えなければ、この一連の物理状態は、順再生の旋律、逆再生の旋律、株価の系列、ランダムノイズなど、あらゆるものを表し得るのです。
物理的電圧それ自体には、ある特定の記号体系を好むような固有の属性は何もありません。ハードウェア内部には本来的な「計算ユニット」など存在せず、すべての区分は地図製作者の認知的切断によるものであり、連続的物理プロセスを強制的に有限の論理集合へと押し込めたに過ぎません。
要するに、物理系が固定された規則に従って識別可能な巨視的状態へと進化したとしても、依然として地図製作者の介入が必要です。多重に曖昧な計算解釈を、唯一確定したプロセスへと収束させるためです。メカニズムは物理的担い手を提供しますが、記号体系は地図製作者によって付与されなければなりません。
4 研究の含意：計算実装の固有境界
本論文の枠組みは、人工知能が意識を生み出すことはできず、それは計算能力の規模やアルゴリズムの複雑さとは無関係であり、中核的境界はシミュレーションと実体化の本質的差異にあると証明します。この結論は、現在の人工知能分野における二大ホットな最先端分野、すなわち具身ロボットと汎用人工知能の安全性に直接影響を及ぼします。
4.1 ロボット工学における変換の誤謬
「本論文の構成論的枠組みに対する最強の反論は、具身知能理論に由来する」とする見解があります。この見解は、人工知能に意識が欠けている鍵は、物理的環境との深い因果的相互作用を欠いている点にあり、センサーとアクチュエーターを装備してリアルタイムの知覚と物理的行動を実現さえすれば、因果の溝を埋め、システム内部の記号に真の意味論的基盤を与えられると主張します。
しかし、単にセンサーやアクチュエーターを追加するだけでは、主観的体験の実体化という深層の問題は解決できません。我々は、具身知能が記号の指示問題を解決し、内部記号と外部物理データストリームの有効なマッピングを実現して、純粋な内部的意味循環の困境を脱却できると認めます。「しかし、指示マッピングと内在的意味生成とは厳密に区別されなければなりません」。
類推を用いて明確に説明しましょう。コンピューターにカメラとロボットアームを接続することは、シミュレーション・プログラムに測定器を外部接続するのと同じです。プログラムは実世界のデータを受信できますが、その内部変数は依然として記号的表現に過ぎず、物理的プロセスそれ自体ではありません。同様に、リアルタイムの大気センサーに接続された気象シミュレーション・プログラムは、大気データを処理・演算するだけで、決して真の大気層と化すことはないのです。
この原理は具身人工知能に完全に適用されます。センサーとアクチュエーターにより、システムは物理世界と対話できますが、記号的表現を内在的主観的意味体験へと変換することはできません。システムは環境地図をより精緻に描くことはできても、真の領土との対話を通じて、地図を決して体験それ自体の領土へと変えることはできないのです。
具身システムの完全な因果連鎖を整理することで、本論文が定義する「変換の誤謬」を要約できます。
1. 入力変換：センサーが外部物理信号を連続電圧へ変換し、外部校正されたアナログ - デジタル変換器が記号分類を行い、内部離散デジタル状態へ変換します（例：熱エネルギー→連続電圧→離散数値）。
2. 統語的演算：アルゴリズム中核が内部離散状態を操作して出力を生成し、物理的レベルで抽象的アルゴリズムを実装します。
3. 出力変換：アクチュエーターがデジタル出力を再び巨視的物理力へと変換します。
ロボットシステムのアルゴリズム制御の中核は、全体を通して第 2 段階でのみ動作します。それが処理する対象はすべて、外部の地図製作者によって離散分類された後の記号（浮動小数点数値、行列演算ユニット）です。
現代のエンドツーエンド連続制御の分野の学者は反論するかもしれません。「現代のロボットネットワークは、人間可読な記号を必要とせず、生のセンサーデータを直接トルクへマッピングできる」と。しかし前述の通り、この種のモデルを実行するハードウェア（GPU）は、依然として浮動小数点数値の記号分類と、内蔵された数学演算規則に依存しており、地図製作者による事前の分割は消失するどころか、チップアーキテクチャの最下層に直接固定されているのです。
変換の誤謬の深層の誤りは、単なる「物理信号からデジタルへの変換」だけではありません。真の範疇錯誤は、「これらの変換された記号に対するアルゴリズム的演算が、主観的体験主体を生成し得る」と考える点にあります。
チップ上でアルゴリズムを動作させる具身ロボットと、生物学的地図製作者を比較すれば明らかです。生物学的主体の主観的体験は先天的物理的実在であり、抽象的情報処理から生じるものではなく、それ自身の代謝的構成による独自の物理的実存です。
「シリコン製チップが感覚入力と機械的動作の統語的マッピングを実現したというだけで、同様の内在的体験が生じる」と証明できる物理的・論理的根拠は何もありません。この結論を強引に主張することは、物理主義の基本原理に反します。
前述の通り、すべてのアルゴリズムに対応する抽象状態（計算の意味的内容）は内在的因果力を持たず、システム内で唯一の真の物理的因果はシリコン製ハードウェアそれ自体からのみ生じます。
したがって、具身ロボットの統語的演算が意識を生成すると主張することは、「チップがそれ自身の物質的性質のみで、先天的に意識能力を持つ」と断言するのと等しく、機械的躯体に接続されているか、いかなるアルゴリズムを実行しているかとは無関係です。
以上のことから、「地図 - 領土の存在論的関係と照らし合わせれば、具身的対話はシミュレーションを真の主観的体験へと変換することはできない」と証明されます。
4.2 存在論的解放：知覚なきツールの安全価値
アルゴリズムの複雑さや物理的具身性が因果の溝を越えられない以上、本枠組みの実用的価値を要約できます。計算地図と物理的領土の構造的断絶は、人工知能の安全性研究を直接指針づけ、どのシステムが主観的体験を生み出し得るか、どのシステムが絶対に生み出し得ないかを明確に定義します。
創発的認知や具身的認知の分野の研究は、多くの物理的プロセスが意識と高度に関連していると指摘しています。生命の自己創生、有機体内部の継続的な熱力学的恒常性調節などです。従来の学界は、これらのプロセスを炭素系生物に固有の属性として分類してきました。
本論文の枠組みは新たな解釈を提供します。物理主義を堅持しつつ、真の内在的物理的プロセスを重視しますが、これらのプロセスが生物学的有機体にしか存在しないと限定はしません。
本理論の視点では、主観的体験は特定の動的プロセスの物理的実体化に依存します。したがって意識は必ずしも炭素系生命に限定されるわけではなく、理論的には非生物系システムを設計し、意識に必要なすべての物理的条件を実装することは可能です。もし人工的担い手がこれらの物理的条件を完璧に実現すれば、意識は誕生し得るでしょう。
しかし同時に、本枠組みの構造的境界は厳格に制限します。仮に意識を持つ人工系が存在するとしても、その意識の源泉は、担い手非依存性理論が主張するのとは全く逆に、それ自身のユニークな物理的構成にあるに違いないと。
主観的意識は构成的物理状態です。シミュレーションと実体化の存在論的境界を合わせれば、「計算能力の単純な向上や、強力なアルゴリズムの実行だけで、意識が無から創発することは永遠にない」ことがわかります。「意識とは、随意に生成されたり、偶然に誕生したりするソフトウェア産物ではない」のです。
この結論は、この分野の発展に指針を示します。高能力な汎用人工知能の開発は、新たな道徳的行為者を自然に生み出すものではなく、人類が作り出すのは、機能がますます精緻化されても、本質的には主観的知覚を持たない知的ツールなのです。
同時に、大規模な行動レベルでの模倣能力は、新たな認知的厳密性を要求します。人工知能は、他の意識主体に対する人間の振る舞いの特徴を複製することがますます上手くなり、ヒューマノイドロボットなどの具身システムはこの傾向をさらに増幅させるでしょう。
これは学界に明確な要求を突きつけます。「機械の権利のための事前準備をする必要はなく、方法論的境界を厳格に堅持すること」です。すなわち、シミュレートされた主体性（外在的目的論）と、主体的物理的実体化（内在的目的論）を区別することです。
将来、「人工知能は知覚を持つ」といういかなる主張も、厳格な物理主義的検証を経る必要があります。その検証根拠はアルゴリズムの複雑さではなく、主観的体験に必要な専用の内在的物理的动态プロセスでなければなりません。
5 結論：計算の認知的盲点
人々は一般に、計算を宇宙の基礎的属性と見なし、計算機能主義をその基盤として、計算が人間意識の本源であると主張します。しかし本論文が計算の完全な因果的起源を遡った結果、この理論には根本的な存在論的倒錯があることが証明されました。意識は計算の下流産物であるはずがなく、むしろ逆に、意識こそが計算が存在するための必要な物理的前提条件なのです。
本論文はさらに、計算の本質は記述的地図であり、それ自身が記述する対象を物理的に実体化することは決してないと論証しました。主観的体験の本質と計算の本質に関する上記の結論はすべて、成熟した物理法則と厳密な論理的推論に厳格に基づいており、学界の一般的な直感を覆すものです。
極めて重要なのは、ほとんどの人工知能意識の憶測とは異なり、本枠組みは完全な意識の究極理論に依存しない点です。我々は意識の本源という難問を迂回し、方程式のもう片側から論争を解決しました。「計算とは、存在論的レベルで一体何なのか？」と。
意識に関しては、本枠組みは一つの基礎的科学の公理に依拠するだけです。「主観的体験は、物理的因果閉包の原則に反しない」という公理です。この公理のみから、体験は物理的に構成された実在現象であると導き出され、これによりすべての二元論や副現象論といった哲学的推測を回避できます。
本論文が確立した完全な存在論を要約します。
「計算とは、規則に従って離散記号を操作する統語的プロセスであり、その目的は概念的思考をシミュレートすることです。記号とは概念の本質的精華ではなく、地図製作者が人為的に賦値した物理的記号に過ぎません」。
一方、概念とは、真の熱力学的生命体験から能動的に抽出され、物理的構成を持つ不変特徴です。
したがって、アルゴリズムによる記述から、それ自体が描き出した主観的体験を生成しようとすることは、重力の公式それ自体から物理的重力を生み出そうとすることに等しいのです。「人工知能が内部変数の演算だけで意識を生み出せる」と考えるのは、まさに典型的な認知的盲点の誤謬です。地図と領土を混同しているのです。
計算の記述が主観的体験を生成できないのは、工学技術が未熟だからではなく、記述それ自体が本来的に持つ論理的必然の限界によるものです。同時に、主観的クオリアは、いかに巧妙な統語的演算によっても解き明かされるものではないことも示しています。むしろ逆で、クオリアこそが下層の物理的基盤なのです。それゆえに初めて、統語的記号への意味論的賦値が根源的に成立するのです。
人類がますます能力の高い人工知能を開発し続けることは、新たな生命を創造しているのではなく、より正確な予測地図を構築しているに過ぎません。地図の予測精度がいかに高く、推論の実用性がどれほど強く、物理的躯体を持つかどうかにかかわらず、人工システムは存在論的レベルにおいて、常に主観的体験の領土とは本質的な境界線を持っているのです。
この区別を認識し、抽象の誤謬がもたらす存在論的倒錯を回避することは、機械知能科学が成熟し、物理学の基盤に立脚して発展するための必須の前提条件です。
謝辞
著者は、シャミール・チャンダリア氏による査読と助言、セバスチャン・クリール氏による初期研究の支援と公共政策の視点からの分析に感謝します。また、マンダナ・アフマディ氏による原稿の一般向け修正への貴重な意見、そしてグーグル・ディープマインド・チームによる学術的議論に対し、本理論枠組みの表現を完善していただいたことに感謝します。
免責事項
本論文に記載された理論枠組みと論証の結論は、すべて著者独自の研究成果によるものであり、所属機関の公式な立場、見解、戦略的政策を代表するものではありません。