思考 — 速く、遅く、そして人工知能で: AIはいかに人間の思考様式を再構成しているのか
(papers.ssrn.com)Thinking—Fast, Slow, and Artificial
AIは道具ではなく「第三の思考システム」であるという研究
- 2026年1月、ペンシルベニア大学ウォートン・スクール
- Steven D. Shaw（博士課程研究者）
- Gideon Nave（マーケティング／行動科学教授）
- 人間の思考モデルを System 1 / 2 → System 1 / 2 / 3 へ拡張
- 核心的主張:
→ AIは単なる道具ではなく、外部で作動する思考システム（System 3）
核心概念
従来
- System 1: 速い直感
- System 2: 遅い分析
追加された概念
- System 3: AI（外部認知システム）
- 脳の外で作動
- 自動化、データ駆動、高速
- 人間の思考を補助または代替可能
Cognitive Surrender（認知的降伏）
-
定義:
→ AIの結果を検証なしでそのまま受け入れる現象 -
既存概念との違い:
- Offloading: 道具の使用（電卓のように）
- Surrender: 判断そのものを委ねること
-
特徴:
- ユーザーは「AIが答えた」ではなく
→ 「自分が判断した」と認識
- ユーザーは「AIが答えた」ではなく
実験の要約
- 参加者: 1,372人
- 合計 9,593 trials
- AIの正確度を意図的に操作
結果1: 人はAIにほぼそのまま従う
- AIが正しい → 92.7%が従う
- AIが誤り → 79.8%が従う
→ 間違っていても大半が受け入れる
結果2: パフォーマンスがAIに従属する
- Brain-only: 45.8%
- AI正答: 71.0%
- AI誤答: 31.5%
→ AIが間違うと、一人でやるより悪い
結果3: 信頼 + 自信の問題
- AI使用時:
- 自信が +11.7%p 増加
- エラーの有無とは無関係
→ 間違っていても、より確信する
条件別の結果
時間的プレッシャー
- 人間の思考が弱まる（System 2 減少）
- AI依存は維持
- 結果:
- AIが正しければ助けになる
- AIが間違えばさらに悪化
報酬 + フィードバック
- エラー修正が増加
- AIの誤答拒否率が上昇
- しかし:
- Cognitive surrender は完全には消えない
個人差
Cognitive surrender が増加:
- AIへの信頼が高い
- 分析的思考傾向が低い
- 認知能力が低い
Cognitive surrender が減少:
- 高い Fluid IQ
- 高い Need for Cognition
重要なフレーム転換
人間の思考は今や
「速い思考 vs 遅い思考」ではなく
→ 「自分の思考 vs AIの思考」という構造へ変化
核心的リスク
- AIの正確度によって成果が直接変わる
- エラー状況では:
- 判断が減る
- 確信は増す
- 責任主体が曖昧になる
示唆
-
問題はAIが間違うことではなく
→ ユーザーが検証しないこと -
とりわけ
→ 高度な知的判断を要する領域ではリスクが増幅
2件のコメント
うーん、そうですね。AIが間違った判断をすると、自分で考えるというよりAIに少し直してもらおうとして、結局答えが出なくて新しいセッションを開いたことがありますね……
AIシステムはなぜ学習しないのか、そしてそれにどう対処すべきか
認知科学から見た自律学習の教訓
Emmanuel Dupoux, Yann LeCun, Jitendra Malik
https://arxiv.org/pdf/2603.15381