- 人間と人工知能における 「知能（intelligence）」の概念を哲学的・技術的に探究し、その定義と本質を再検討する
- 知能を単なる計算能力ではなく、環境への適応と問題解決の一般化能力として規定する
- 生物学的知能と人工知能の違いを比較し、文脈理解と目標指向性が中核的要素として提示される
- 人工知能の発展が、人間の知能の本質をより深く理解させる鏡の役割を果たすと説明する
- こうした議論は、AI研究の方向性と人間中心設計の哲学を再定立するうえで重要な示唆を与える
知能の定義と本質
- この記事は知能を、単なる 情報処理や計算能力 ではなく、環境に適応し目標を達成する一般化された能力として定義する
- 知能とは特定の問題を解く技術ではなく、新しい問題を学習し解決する能力の柔軟性を意味する
- したがって知能は静的な属性ではなく、状況や文脈に応じて変化する動的な過程として説明される
- 人間の知能は 意識、感情、社会的相互作用 と深く結びついており、これは単純なアルゴリズム的計算に還元できないと主張する
- 人間の思考には 目標設定、価値判断、経験に基づく推論 が含まれる
- こうした要素は、現在の人工知能システムが模倣しにくい領域として指摘される
人工知能と生物学的知能の比較
- 人工知能は データに基づくパターン学習 を通じて特定の課題を遂行する一方、人間は 文脈的理解と意味解釈 を通じて問題を解決する
- AIは統計的相関関係を学習するが、人間は 因果関係と目的性 を認識する
- この違いは、「知能」の本質が単なる情報処理速度ではなく、意味を構成する能力にあることを示している
- 生物学的知能は 進化的圧力と生存目的 の中で形成された一方、人工知能は 人間が設計した目的関数 によって動作する
- したがってAIの「知能」は、外部目的に従属した人工的形態として規定される
- 人間の知能には、自己保存や社会的協力といった 内在的な動機構造 が含まれる
知能の構成要素と測定の問題
- この記事は、知能を構成する主要要素として 学習、推論、記憶、計画、創造性 を挙げる
- これらの要素は相互に作用し、特定の環境において 適応的行動 を生み出す
- たとえば創造性は、既存の知識を再構成して新たな解決策を提示する 知能の高次な表現 として説明される
- 知能測定の難しさについても指摘される
- IQやベンチマークテストは、特定の種類の問題解決能力だけを測定しており、実際の知能の複合的特性を反映できていない
- したがって知能を評価するには、文脈的適応性と一般化能力をあわせて考慮する必要がある
人工知能の発展が提起する哲学的問い
- 人工知能の急速な発展は、「知能の本質とは何か」 という根本的な問いを改めて提起する
- AIが人間の言語、創作、判断を模倣するほど、人間固有の知能がどこにあるのかを探究する必要性が高まる
- これは単なる技術的問題ではなく、存在論的・倫理的問題へと拡張される
- この記事は、AIが人間の知能の鏡として機能すると説明する
- AIの限界や誤りを通じて、人間の思考の構造と強みをより明確に理解できる
- したがってAI研究は、人間理解を拡張する過程として解釈される
知能研究の今後の方向性
- 今後の知能研究は、人間中心の設計と倫理的配慮を含むべきだと強調する
- 技術的達成だけでなく、知能が社会と人間の生活に及ぼす影響もあわせて評価しなければならない
- これは、AIシステムが人間の価値と目的を反映するように設計する**「価値整合（value alignment）」**の問題とつながる
- 知能の定義を再定立することは、AI開発の哲学的基盤を強化する過程として提示される
- 技術の進歩は人間の知能への理解を深め、知能の意味を再構成する契機になりうる
- 最終的に知能研究は、**人間と機械の共進化（co-evolution）**を探究する方向へ進むべきだ
2件のコメント
Hacker Newsの意見
この本は編集者が絶対に必要だと感じた。
約100個の章タイトルが、まるで幻覚状態で連想的に作られたかのようで、各セクションは読者を混乱させる芸術的試みに見える。
内容とゆるく結び付いた複雑な図表や専門用語が多く、スクロールジャッキングまであって読みにくくしている。
全体で600ページにもなるそうで、たいていの人は最初から最後まで読まない気がする。
つまり、検証可能な事実 → 明白な真実 → 広く受け入れられた意見 → 根拠のない主張 → ありきたりな結論という順序で、読者の同意を誘導するやり方だ。
この構造はしばしばカルトの指導者や政治演説家が使う説得技法で、論理的根拠の弱い主張を巧妙に差し込むために用いられる。
本書のサイバネティクスと計算理論の部分はよく調べられているが、独創的ではなく、統合された議論もない。
生物学と映画の話を混ぜることで、かえって焦点がぼやけている。
著者はAIについて強い意見を持っているが、それを直接論証せず、説得のサンドイッチの中に隠そうとしているように見える。
関連参考: Compliment Sandwich, History of Computing 記事
本全体は読んでいないが、Karl FristonやAndy Clarkの予測処理理論を読んだほうが価値がありそうだ。
自分のサイトのデザインのほうが読みやすくはあるが、この本の奇妙な構成にはむしろ魅力を感じた。
最近こういうスタイルの文章を見ると、意図的な曖昧さや疑似宗教的なアプローチに感じて、そのまま読み飛ばしてしまう。
この議論ではMarcus Hutterの『Universal Artificial Intelligence』は外せない。
この本は知能の数学的定義とアルゴリズム的確率に基づく意思決定の基礎を提示している。
現在のAI技術の限界もこの枠組みの中で説明できる。
実際にこの本を読んだ人がいるのか聞きたい。
私は半分ほど読んだが、自己複製が計算的宇宙の中で自然に現れるというアイデアが興味深かった。
Wolframの世界観に近い感じだが、複数分野をつなげようとする試みは刺激的だ。
ポピュラーサイエンスとして読むならよい。
特に「複製は悪いコピーから始まる」という概念が印象的だった。
システムが最初は不完全なコピーを行い、徐々に改善されて複製に至る過程が面白かった。
このアイデアはスタートアップ、アイデア、金融システムにも当てはまると思う。
おまけに、オンライン版のbrainfuckコードにはバグがあるので探してみるといい。
意味は状態変化から生じると考えている。
人間は複雑な意味生成器であり、宇宙はエントロピーに縛られているので時間制限がある。
その間、私たちは星が光を放つように意味を放出する存在だと見ている。
本を直接読んではいないが、著者は人間の知能の大部分がAIで再現可能だと主張しているようだ。
つまり、非生命システムも知的行動を示しうるという見方だ。
しかしAIには身体的文脈(embodiment) がないため、人間と同じ知能だと見るのは難しい。
人間知能の起源を理解するには、Ester Thelenの『A Dynamic Systems Approach to the Development of Cognition and Action』がよい出発点だ。
人間の発達は遺伝的プログラムではなく、試行錯誤の相互作用によって成り立つと説明している。
結局のところ、ケアと教育の技術こそが文明を発展させる鍵だと思う。
「人工的」という修飾語がすでに区別を与えているからだ。
ただし、彼らは意志(will) を持てない。彼らの目標は結局プログラマの意志にすぎない。
「これは哲学ではなく、Turingの足跡を継ぐ科学だ」という著者の態度は、謙虚なふりをしながら哲学を軽視しているように感じる。
核心となる主張の「模倣は知能である」は、社会的事例で簡単に反論できる。
たとえば、俳優が天才を完璧に演じても、実際に天才というわけではない。
つまり、もっともらしい文の生成が知能の本質ではない。
人間の知能は根本的な推論と感覚的パターン認識から生じるもので、これはなおAIが到達していない領域だ。
単純なニューラルネットワークでも万能近似器(universal approximator) なので、生物学的な脳でも人工の脳でも、結局は世界の複雑な関数を近似する存在なのかもしれない。
知能とは単なる入出力の近似ではなく、因果構造を学習し、シミュレーションし、計画する能力だ。
LLMが賢く見えるのは、すでに人間の知能が拡張した知識を内包しているからにすぎない。
自ら因果モデルを構築できるかどうかが本当の問いだ。
現在のLLMは補間(interpolation) には強いが、外挿(extrapolation) には弱い。
感覚入力はさまざまな周期や位置から入ってくるので、これを単純化すると重要な情報が失われるかもしれない。
以前聞いたインタビューで、人間の推論(reasoning) は論理的思考よりも社会的説得のために進化した、という仮説があった。
つまり、私たちは他人を説得したり、自分の行動を正当化したりするために理由を作るということだ。
そういう意味で、LLMの次トークン予測と人間の会話の構造は似ているように感じる。
たしかHugo Mercierの研究だったと思う。
Why do humans reason? 参照。
道具を作り、知識を伝えるには教育と協働が必要だった。
関連引用: Cambridge excerpt
一方LLMは概念ではなく単語しか扱わない。
言語は人間が作った道具にすぎず、アイデアと言語は別物だ。
スマートフォンの自動補完の予測語数を増やしながら、人間の会話にどれだけ近づくかを測る方式だ。
この本は予測の中心性、知能の社会的構造、言語の圧縮機能、孤立したシステムの限界を扱っている。
だが、本当の知能が純粋な計算原理だけで可能なのか、それとも環境への内在性が必要なのかが核心的な争点だ。
私はコストと効率があらゆる学習を導くと考えている。
生物学的システムは次世代を支えなければならないので、知能は経済的圧力によって最適化された探索過程になる。
関連記事: What the Dumpster Teaches
単に温度を測って停止するだけでは目標推論ではない。
本当の知能には、自分の目標を省察できるメタレイヤーが必要だ。
つまり、経済的な選択圧が存在するので、完全に別の構造というわけではない。
人間はこうした矛盾を嫌うため、物語(story) によって一貫性を保とうとする。
宗教、政治、法律、AI神話などはすべて集団的な予測誤差を緩和するための叙事装置だ。
だが微生物はそうしたものがなくても生き延びる。
結局、知能は不安定な情報の渦にすぎず、生命維持に必須というわけではない。
もし意識がemergentなら、シリコンベースの知能も可能かもしれない。
Amazonレビューによれば、
本書の核心は「脳は未来を予測するために進化した」という予測脳仮説だ。
また、一部の現代AIシステムが知能・意識・自由意志を持ちうると主張している。
したがって、「予測」という定義は時間とともに変化しうる暫定的な特性にすぎない。
知能とは、私たちが自分でできると思っていることのことだ。
ところがコンピュータはだんだんそれをすべてできるようになっている。
結局、人間の知能とは高度なパターンマッチングなのかもしれない。
LLMはまだ自律的な研究や高次の設計ができない。
また、忘れる能力や自己文脈の管理も不足している。
人間知能の多くの部分は他の動物にもあるが、文字と道具製作によって加速された。
パターンマッチングは「相関関係は因果である可能性が高い」という優れたヒューリスティックを与える。
知能とはシステムをハックして理解する能力であり、それによってより複雑な知識を積み上げていく。
火、石、小麦から始まり、今では火星探査を論じるレベルにまで至っている。