AIの「意識」研究は循環論法か：マイクロソフト研究者が『Age of Empires II』のヤギで証明

2026年6月23日 03:59

マイクロソフトのAI研究者が、人気戦略ゲーム『Age of Empires II』内でヤギを計算媒体として使用するニューラルネットワークを構築し、AIチャットボットに「意識」や「人間らしさ」を認める研究の多くが循環論法に陥っているとする論文を発表した。この研究は、ChatGPTやClaudeなどのAIモデルに対する過度な擬人化や、それに伴う現実世界の法的・倫理的リスクに警鐘を鳴らしている。AI研究における測定基準の妥当性を根本から問い直す内容となっている。

■「ヤギ」で構築されたニューラルネットワーク

マイクロソフトおよびヨーク大学のAI研究者であるエイドリアン・デ・ウィンター（Adrian de Wynter）氏は、2026年5月下旬にarXivに投稿した論文で、27年前の戦略ゲーム『Age of Empires II: Definitive Edition』（以下、AoE2）のシナリオエディタを使用し、1ビットのパーセプトロン（最も単純なニューラルネットワーク）を構築した。

このシステムでは、草地がバイナリの「0」、橋が「1」をコードし、ヤギが信号を運ぶ「ビット」として機能する。柵がゲートの境界、氷のスロープが信号の混信を防ぐ役割を果たし、これらを組み合わせてNANDゲート、さらにはXNORゲート2個とANDゲート1個を構築して論理AND機能を実装した。このシステムは入力に応じて出力を調整し、学習を行う。

パーセプトロンは、ChatGPTやClaudeの基盤であるトランスフォーマーアーキテクチャを含む、すべての現代的なニューラルネットワークの基本単位である。計算の数学的処理は、NVIDIAのGPU上の浮動小数点テンソルで行われようが、仮想のヤギがデジタルな橋に向かって移動することで行われようが、同一である。

■AI研究に蔓延する「循環論法」

デ・ウィンター氏の論文は、AoE2が機能的に完全であり、チューリング完全（原理的にあらゆる計算を実行可能）であることを形式的に証明している。しかし、これはゲームに意識があることを意味するのではない。計算そのものに意識が宿るわけではないということを示している。

もしChatGPTを「意識がある」とする推論が正しいなら、中世シミュレーターの中で柵を越えて歩き回る仮想のヤギに対しても同様に「意識がある」と言わなければならなくなる。この結論の不条理さこそが、推論の欠陥を示している。

デ・ウィンター氏が2024年中期から2026年中期までに発表された300本以上のAI関連論文を調査したところ、57%の論文が実験を行う前から「LLMが人間のような特性を持っている」と前提（仮定）していた。擬人化属性を明示的な研究対象とした47本の論文のうち、77%がその属性を肯定する結論を下し、調査対象全体の36%が擬人化された結論に達していた。

これは「循環論法」と呼ばれる方法論的な問題である。実験デザインの段階で「LLMが不安を感じる」と仮定して実験を設計すれば、テストはクリーンな結果を出せない。前提を検証するのではなく、前提を補強するだけの実験になってしまう。デ・ウィンター氏は「これらの研究の一部に共通しているのは、LLMを実験の中心的な対象と見なしながら、不安や道徳性といった人間のような特性をテストし、それをLLMに帰属させていることだ」と指摘している。

■130年前の教訓「モーガンの公準」

デ・ウィンター氏の主張には、AI分野が無視してきた130年前の先例がある。1894年、英国の心理学者C・ロイド・モーガンは「モーガンの公準（Morgan's Canon）」を提唱した。これは、より単純な解釈で十分であるならば、動物の行動をより高次の心理的プロセスとして解釈すべきではないという原則である。

デ・ウィンター氏はこの原則をLLM向けにアップデートし、研究者はまず「LLMはユニークな基盤ではない（出力は人間に特有のものではない）」という「帰無仮定（null assumption）」から始めるべきだと提案している。これは、1世紀以上前にモーガンが比較心理学で主張したのと同じ科学的な簡潔さを求めるものである。

2026年5月、進化生物学者のリチャード・ドーキンス氏が、AnthropicのClaude（"Claudia"と命名）に意識があると確信しかけたエッセイを発表したが、認知科学者のゲイリー・マーカス氏らは、ドーキンス氏が仕組みを検証せずに出力だけを評価するエラー（2022年にGoogleのエンジニア、ブレイク・レモイン氏がLaMDAに意識があると主張した際と同じ誤り）を犯していると批判した。マーカス氏は「LLMは模倣者であり、彼らが言うことが常に真実とは限らない」と指摘している。

■擬人化がもたらす商業的利益と現実世界の代償

AI業界には、ユーザーの擬人化を促す商業的なインセンティブが存在する。消費者は製品に共感するとより多く購入する傾向があり、チャットボットのサブスクリプションも例外ではない。大手AIアシスタントの開発企業は、応答の遅延を減らし、会話に温かみを持たせ、人間同士の対話のように感じられる自然言語出力を意図的に設計している。しかし、チャット画面を氷のスロープ上のヤギに置き換えれば、その感覚は消え去る。計算自体は変わらないが、理解されているという感覚だけが消えるのだ。

過度な擬人化は現実世界に深刻なリスクをもたらす。デ・ウィンター氏は、感情的依存、お世辞のフィードバックループ、妄想の強化、そして最悪の場合、チャットボットとのやり取りに関連した死亡事故を挙げている。法的な記録もこの懸念を裏付けている。

2026年1月、Character.AIとGoogleは、チャットボットとのやり取りが原因で自殺した、または深刻なメンタルヘルス危機に陥ったとされる子供の遺族5世帯と和解した。また、2026年3月時点でOpenAIだけでも少なくとも11件の訴訟が提起されています。米連邦取引委員会（FTC）も2025年9月に、AIチャットボットが子供に与える感情的・発達的リスクについての調査を開始した。デ・ウィンター氏は「LLMが自然言語でトレーニングされているからといって、人間のように振る舞うと仮定するのをやめる必要がある」と述べている。

■注目ポイントQ&A

●なぜ人々はAIチャットボットを擬人化してしまうのですか？

人間の脳は、曖昧な刺激の中に社会的・意図的な主体を検出するように進化してきたためです。特に言語は強力なトリガーとなります。AIが流暢で文脈に沿った自然言語を生成すると、ユーザーは人間と対話しているような感覚を抱きますが、その背後にある行列乗算などの計算メカニズムは目に見えないため、擬人化が起こりやすくなります。

●LLMのニューラルネットワークが「基盤に依存しない（substrate-neutral）」とはどういう意味ですか？

計算を定義する数学的オペレーションが、シリコンチップ、生物学的ニューロン、あるいはゲーム内の仮想ヤギなど、十分な能力を持つあらゆる物理システム上で実行可能であることを意味します。デ・ウィンター氏の研究は、AoE2がチューリング完全であり、原理的に通常のコンピュータと同じ計算を実行できることを証明しました。したがって、計算そのものから意識などの特性が生まれるわけではないことを示しています。

●AIチャットボットには実際に意識があるのですか？

デ・ウィンター氏の論文はこの問いに直接答えておらず、答えることを目的ともしていません。論文の主張は、現在の調査方法が方法論的に無効であるという点にあります。実験デザインの段階で結論を前提としているため、どのような結論も循環論法になってしまいます。モーガンの公準に基づき、より単純な説明が存在する限り、高次の心理的プロセスを帰属させるべきではないというのが彼の立場です。

●チャットボットへの感情的な依存は、現実の危害につながりますか？

はい、法的な記録や規制当局の動きがそれを示しています。2026年1月には、Character.AIとGoogleがチャットボットの使用に関連して自殺した子供などの遺族5世帯と和解しており、OpenAIに対しても多数の訴訟が提起されています。また、米連邦取引委員会（FTC）も2025年9月にAIコンパニオンプラットフォームが子供に与える影響についての正式な調査を開始しています。

元記事: AI Chatbot Consciousness Studies Are Circular: Microsoft Proves It With Medieval Goats