AIが人間に勝つ日ではなく、人間が自分で考えることをやめる日こそが本当のデッドライン

 (theargumentmag.com)
8 ポイント 投稿者 GN⁺ 2025-10-06 | 3件のコメント | WhatsAppで共有

> 「あなたには18カ月残されています」

  • AIが18カ月以内にすべての仕事を代替するという予測よりも、さらに深刻な問題は、新しい機械の前で人間が自らの能力を退化させてしまう現象である
  • 書くことと読むことは深い思考の双子の柱だが、ChatGPTなどの生成AIの登場によって、学生たちは文章作成を外注し、本を読むことをやめ、思考力そのものが急速に衰えている
  • アメリカの平均読解スコアが32年で最低を記録し、エリート大学の学生でさえ、本を1冊も読み切ったことがないまま入学する状況になっている
  • 書くことと読むことは単なる技能ではなく、人間の思考と知識を再構築する手段であり、その衰退は複雑な記号論理やシステム思考の能力喪失を意味する
  • AI時代に私たちの子どもたちが持つべき中核的な能力は、長く複雑なテキストを読む忍耐力、相反するアイデアを同時に保つ能力、文レベルで徹底的にもがくことであり、これは今や選択の問題になっている

思考の緊張時間(Time Under Tension)

フィットネス概念の思考への応用

  • フィットネスにおける「緊張時間」とは、同じ重さでスクワットを2秒で行うか10秒かけて行うかの違いを指す
    • 後者のほうが難しいが、より多くの筋肉をつくる
    • より長い時間はより大きな緊張を生み、より大きな痛みはより大きな成果をもたらす
  • 思考も似た原理の恩恵を受ける
    • ほとんどつながっていない、あるいは断絶したアイデアと辛抱強く向き合って座っていられる能力
    • それを通じて、それらを組み合わせて新しいものへと編み上げる

エッセイ執筆プロセスの例

核心的な問題の再定義

  • 次の18カ月の問題は、AIがすべての労働者を解雇することでも、学生が非人間エージェントに競争で敗れることでもない
  • 新しい機械の前で、私たち自身の能力を低下させてしまうかどうかである
  • 技術が私たちをどう上回るかにあまりにも執着するあまり、自分たち自身を無能にしてしまう多くの道を見落としている

18カ月の警告

  • AIリーダーたちの予測

    • 複数の主要なAI経営者や思想家が発しているメッセージ: 2027年夏までしか人間はAIに対する優位を保てない
    • AIの能力爆発により、炭素ベースの生命体が取り残されるという見通し
    • 最大で**「すべての初級ホワイトカラー職の半分」**が消滅するとの予測
    • ノーベル賞級の頭脳でさえ、AI設計者たちが**「データセンターの中に天才たちの国」**を作り出すのではないかと恐れるだろう

  • 親たちの不安

    • この数カ月で親たちから最も多く受けた質問: 「AIがあらゆる面で私たちより優れるようになるなら、私たちの子どもは何をすべきなのか？」
    • 生成AIがプログラマーや放射線科医、数学者よりもコーディング、診断、問題解決をうまくこなすなら
    • コンピュータサイエンス、医学、数学のような従来「安全」と見なされてきた専攻ですら安全ではないかもしれない

  • 現実への再注目

    • 未来を予測するよりも、すでに存在している現実を説明することが重要だ
    • AIがどこか想像上の日付に労働者を無用にするかは分からない
    • しかし、技術が今まさに私たちの深い思考能力に影響を与えているあり方はすでに見えている
    • 著者は考える機械の台頭よりも、考える人間の衰退をはるかに懸念している

書くことの終わり、読むことの終わり

  • AIを使った不正の蔓延

    • 2025年3月のNew York Magazine表紙記事: 誰もが学校でAIを使って不正をしている
    • 大規模言語モデルによって、高校生や大学生はどんなテーマでも即座にエッセイを生成できるようになった
    • 学生の実際の文章力を評価することに、教師たちは実存的危機を感じている
    • ある学生: 「大学はこの時点では、私がChatGPTをどれだけうまく使えるかに関するものだ」
    • ある教授: 「大勢の学生が本質的には読み書きができないまま学位を取り、職場に出ていくことになるだろう」

  • 書くことは思考そのもの

    • 書くことの衰退が重要なのは、書くことは思考の後に起こる二次的な行為ではないからだ
    • 書くという行為そのものが思考の行為である
    • これは学生だけでなく専門家にも当てはまる
    • Natureの社説「Writing is thinking」: **「執筆プロセス全体をLLMにアウトソースすること」**は、科学者から、自分が何を発見したのか、そしてそれがなぜ重要なのかを理解するという重要な作業を奪う
    • AIに文章作成を任せる人は、画面は言葉で埋まっていても、頭の中は思考が空になっている状態を見いだすことになる

  • 読解力のさらに深刻な衰退

    • 機能的非識字の状態

      • 匿名の大学教授Hilarius Bookbinder: 「ほとんどの学生は機能的非識字だ」
      • 「これは冗談ではない」し、誇張でもない

    • 西側全体での低下傾向

      • リテラシーと数的能力の達成度スコアが、数十年ぶりに西側全体で低下している
      • Financial Timesの記者John Burn-Murdochは、人間の代わりに考える機械を作り出したまさにその瞬間に、私たちは**「脳力のピークを過ぎた」**のではないかと疑っている
      • アメリカの「Nation's Report Card」（NAEP発行）では、2024年の平均読解スコアが32年で最低を記録した
        • データ系列が32年前までしか遡れないだけに、なおさら懸念される

    • 断片的な読書の日常化

      • アメリカ人は常に言葉を読んでいる: メール、テキストメッセージ、ソーシャルメディアのニュースフィード、Netflixの字幕
      • しかし、そうした言葉はより大きなテキストを理解するのに必要な持続的集中をほとんど要求しない文章の断片の中にある
      • デジタル時代のアメリカ人はツイートより長いものに関心を持てない、あるいはじっと向き合っていられない
      • 余暇のために本を読むと答えるアメリカ人の割合は、2000年代以降ほぼ40%減少した

    • エリート学生たちの読書放棄

      • The AtlanticのRose Horowitchの報道: アメリカの最上位エリート大学に入学する学生たちは、学校のために本を1冊も読んだことがない
      • Georgetown大学英文学科長のDaniel Shore: 学生たちはソネットにすら集中するのが難しい
      • American Enterprise Instituteの教育研究者Nat Malkus: 高校は標準化試験の読解セクション対策のために本をバラバラに切り刻んだのではないかと示唆する
      • 読解力評価の最適化によって、アメリカの教育システムは偶然にも本を読むことを殺してしまったように見える

深い思考の双子の柱

  • Cal Newportの視点

    • Cal Newport: コンピュータサイエンス教授であり、「Deep Work」などのベストセラー作家
    • 書くことと読むことは深い思考の双子の柱である
    • 現代経済は記号論理とシステム思考を重視しており、深い読書と執筆はそのための最良の訓練である

  • AIは思考力との戦いに参戦した最新の強敵

    • テレビの台頭は、1人当たり新聞購読の減少と余暇のための読書のゆるやかな消滅と一致していた
    • その後、インターネット、ソーシャルメディア、スマートフォン、ストリーミングTVが現れた
    • 「読書と執筆というワンツーパンチは、深い記号的思考という超能力を得るために打つべき血清だ」 - Newport
    • 「だから私は、私たちが血清を打ち続けるべきだと警鐘を鳴らしてきた」

  • Walter Ongの洞察

    • 学者Walter Ongの著書「Orality and Literacy」における観察
    • リテラシーは一時的な技能ではない
    • 複雑なアイデアのための空間を作るために、人間の思考と知識を再構築する手段である

    • 口承と言語の違い

      • 読んだり書いたりできない人でも物語を記憶することはできる
      • しかし、Newtonの「Principia」のようなものは、微積分の公式を書き留める能力なしには世代を超えて伝えることはできない
      • 口承方言は一般に数千語しか持たない
      • 一方で「標準英語として知られるグラフォレクトは少なくとも150万語を持つ」 - Ong
      • 読書と執筆が人間の脳の論理エンジンを再配線したのだとすれば、読書と執筆の衰退は、より偉大な機械が地平線に現れるまさにその瞬間に、私たちの認知的超能力の配線を外している

考える機械の時代の学び

  • 価値ある中核機能

    • どの学生がどの分野を専攻すべきかは分からないが、彼らが価値を置くべき機能については強い確信がある
    • それはまさに今衰退している機能である:
      • 長く複雑なテキストを読む忍耐力
      • 頭の中で相反するアイデアを保ち、その不協和を楽しむ能力
      • 書くことの中で文レベルの激しい格闘に参加する能力
      • 動画エンターテインメントが読書を、ChatGPTによるエッセイが執筆を置き換える時代に、こうしたものを価値あるものとして選び取ること（今やこれは選択の問題だ）

  • 明白かつ現在進行形の脅威

    • AIが豊富になるにつれ、深い人間の思考が希少になるという明白かつ現在進行形の脅威がある
    • 技術が私たちを上回るかどうかよりも、私たち自身が能力を退化させてしまうかどうかこそが本当の問題である

結論

  • 人間の未来を脅かすのはAIの技術的進歩そのものではなく、自ら考え、深く読み、自分で書く能力を失っていく現象である
  • AI時代を生きる私たちに最も必要なのは、深い思考力、集中、そして忍耐である

関連記事

3件のコメント

 
argo9 2025-10-07

SFのように、脳にチップを通じて知識をインプラントする時代がもうすぐ来そうですね。
 
shakespeares 2025-10-08

本当に思考を止めてしまう時代が来たら、移植することになって……そうなったら終末のような気がします。
 
GN⁺ 2025-10-06
Hacker Newsの意見
  • 自分は、AIは人それぞれの既存の傾向をさらに強く増幅する存在だと思っている。研究や学習、頭を使うことよりも反復作業に時間を取られる仕事では、AIがものすごく役に立った。おかげで、本当に人間固有の思考が必要な分野や、自分がもっと楽しめる仕事により多くの時間を使えるようになり、個人的にはものすごい成長のロケットに乗った気分だ。だが一方で、AIの実質的な業務コピーのように変わっていく人たちも実際に見てきた。同じようにAIが自分の仕事を奪うと不満を言いながら、実際には自分が無意味なプロセスを繰り返すことでAIに「自分の仕事を明け渡している」ことにはまったく気づいていない。なぜ人は自分でそれを招いていると気づけないのか、いまだによく分からない
    • この文章は主に、今まさにこうしたツールとともに育ち、習慣や性向を形成している若い世代を対象にしている。自分もLLMが登場する前に、stackoverflowで自分で検索し、試行錯誤しながらプログラミングを学んだ経験がある。だからこそ、「無から有を作っていく過程」そのものの内在的価値を知るようになった。だが西洋圏の文化は主に外的報酬重視なので、次の世代がこうした重要な能力を学ぶ機会を逃してしまうのではないかと心配している
    • 実のところ問題の核心は、多くの人がもともとプロセスに大きな価値を付け加える能力を持っていないことだ。これは「AI」が出るずっと前から続いている現象だ。社会のあちこちには、雑務だけを増やしたり、間違った仕事文化を頑固さで壊したり、実質的にマイナスになっている人が多い。AIはそういう人たちをより可視化するかもしれないが、問題そのものは根本的に変わらない。では、こういう人たちはどこに置けばいいのか。人間性を壊さずに、皆に前向きな役割を与える方法はあるのか。それとも運に任せて、いつか本当に得意なことを見つけるのを期待するべきなのか。結局、UBI（ベーシックインカム）と自律的な探索も悪くないのではと思う
    • Steve Jobsが言っていた「コンピュータは ذهنの自転車」という約束を、本当に実現してくれた感じだ。人はAIのせいで考える力を失うのではと心配しすぎているが、実際にはSNSの無限スクロールで思考力を失わなかったのなら、AIでも一瞬で失うことはない。ただ、ものすごく多くの人がむしろSNSによって考える力を失ってきたので、そちらのほうが大きな問題だ。人々が明確に認識すべきなのは、自分の頭の中にどんな情報を入れるかを自分で選ぶ権利があるという点だ。無数のアルゴリズム推薦コンテンツを何も考えずに流し見する前に、それが自分の信念・購買習慣・ライフスタイルに影響しうることを先に判断すべきだ
    • 実際、多くの人は根本的に自分の職業に無関心だ。その主な理由は、報酬が不公平だと感じているからだ。だから自分の労働をAIに任せても、アイデンティティへの打撃とは感じない
  • AIの利用について、私はまだ確かな結論を出せていない。最初は「これは悪いものだ、自分たちの考える力を外注することだ」という立場だったが、今ではむしろ本当にさまざまな作業を驚くほど速く学べるようになった。もしこういう「新しい補助具」がなかったら、全部を記憶していただろうか。そうではなかったかもしれないが、そもそもそれがあったおかげで始められたことのほうがずっと多かった
    • 私はAIを酒のようなものだと考えている。過ぎたるは及ばざるがごとしだ。少量なら気持ちを楽にしてくれることもあるし、人類が古代の衛生リスクを乗り越える際にも、消毒や保存の効果で使われてきた。だが人によっては不安を和らげるために過度に依存する不健全な支えになり、極端な場合には中毒が深刻になって、それなしでは生きることすら難しくなるかもしれない。AI中毒がすぐ命に関わる可能性は低いが、有益に使える道具であっても、ときに深刻な精神的支柱になりうるという意味だ
    • 結局はどう使うかにかかっている。ただ答えだけを受け取って終わるのか、それとも答えを得たあとに、なぜそれが正解なのかをもっと理解しようとするのかの違いだ。私は実際にRaylibでローグライク系ゲームを作りながら、事前資料やAIなしで、最初からできるだけ一人で勉強していた。視界計算で壁にぶつかるたびに直感に反する結果が出て何度も迷った末、ついにcopilotに関数生成を任せたところ、Bresenham's Line Algorithmがぴたりと出てきて、その理由まで理解できた。多くの人は、こうしたAIの答えがなぜ機能したのかにすら興味を持たないだろうが、AIを使うか使わないかではなく、活用の深さ次第で十分に頭を使うことはできる
    • みんなが君みたいに平均的なわけじゃない
    • 同感だ。物事を進める推進力が良くなってからは、新しい技術をいろいろ体験してきた
    • ここが問題だ。AIによって全体的にもっと愚かになる人もいれば、もっと賢くなる人もいるし、分野ごとに明暗が分かれる人もいるはずだ。元記事では一般化が強すぎたのが残念だった。参考までに、自分の Claude分析結果 を共有する。Claudeでこの文章を分析しながら、自分が実際に賢くなったのか、愚かになったのかを自分で判断してみるといいと思う。（追記: Claudeのプロンプトで著者の性別を誤って記していたのも、自分のAI活用の実質的な効果を示す例かもしれない）
  • すでに起きている例として、道案内ソフトがないと経路計画もナビゲーションもできない人が大勢いる。リアルタイム情報で迂回路を案内してもらえるのは良いが、繰り返し指示に従うだけでいると依存度が高くなりすぎる
    • 自分はずっと方向音痴ではないと信じていたが、ある時から地図なしで道を見つける能力が急激に退化していたことに気づいた。そのとき Human Being: Reclaim 12 Vital Skills We’re Losing to Technology という本のナビゲーションに関する章を読んでショックを受け、いったん本を閉じて、まず自分のナビゲーション能力を回復させた。今では地図を見るだけで都市のどこでも思い浮かべられるようになった。スマホで道を探す時代は卒業した。今はコミュニケーションが危機に陥るのではないかと恐れて、その章を読んでいる。技術への依存が進むことで各種の基礎能力が失われる現象は実際に起きており、もっと思考力を使おうと意志していても、必ずそうできるとは言い切れない現実がある
    • その社会的な実例として、こんな NPR記事 がある。また、こうした態度が価値と能力を蝕むという教訓として、以下の Marine Corps記事 も参考になる
    • 自分にとってGPSは、以前ならとても行こうと思えなかった場所へ行けるきっかけになった
    • 自分はナビアプリへの依存を過剰だとは思わない。ほとんどの人にとって、経路計画そのものはほぼ役に立たない能力だ。必要ならいつでも簡単に身につけられる
    • それの何が悪いんだ？ 依存していいじゃないか。子どもの頃、車にはいつも地図帳があったし、ある仕事では毎日30分かけて4時間分の運転ルートを紙に描いて計画していた。ページごとに道路のつながりを探すのに時間がかかるし、地図を長く使っていると見慣れた表示と実際の交差点が違っていて混乱するし、後ろの車にクラクションを鳴らされた記憶もある。そんな苦労は時間の無駄だった。それで自分が強くなったわけでも、賢くなったわけでも、より良い人間になったわけでもない。今のように紙の地図や筆算の長い割り算がなくても構わない
  • 最近シニアエンジニアの採用プロセスを経験していて、目に見えて実力低下が起きているのを感じる。応募者の80%はGenAIなしではジュニアレベルのコーディングすらできない。実務に近いコーディング課題を出しても、基本的なデータ構造の処理で詰まる。単にコーディングだけの問題かと思って、協業やアイデア出しの面も見たが、LLM依存の現象は同じくらい深刻だった。本当に肌で感じる現実だ。そして「ならLLMを使わせればいいのでは」という反論について言えば、こちらは新しい技術やAPIそのものを作る環境なので、LLMがまともに対応できない実務が多い。結局、この状態でシニアに高額の年俸を払う理由がどこにあるのか、という疑問が出てくる
    • 実際、自分もサイドプロジェクトでバイブコーディングをするときはAIをかなり活用する。もし今、LLMなしでいきなりコーディング面接を受けたら、自分も適応の時間は少し必要だと思う。それでも数日練習すればすぐ取り戻せるし、ほどなく大半の人より上手くできる自信はある。隠れた潜在能力のために、実技テストだけで人材を取り逃がすと惜しい結果になるかもしれない
    • なぜシニアにお金を払うのかといえば、今ではAIときちんと対話できる能力がシニアの差別化スキルだからだ。これは問題領域を正しく把握し、数多くの試行錯誤を経てこそ身につく
    • 肩書きインフレは会社にも広がっている。数十年前なら「senior」の資格すらなかった人が、今では「principal」のタイトルを持っている
    • 何を知っておくべきか、そしてLLM検索だけで十分な知識は何かについては、人それぞれ見解が違う
    • 「GenAIなしではジュニアレベルの作業ができない」という言葉は、完全な無知という意味ではなく、細部の記憶が薄れて少しぼんやり残っているということかもしれない。ジュニアは最近学んだおかげで$アルゴリズムまで完璧に覚えているが、シニアはどんなアルゴリズムがあって、いつなぜ使うのか、どう調べるかだけをおぼろげに覚えていることが多い。ある分野で直接やる必要がなくなれば記憶は薄れ、その代わり別の能力に集中してきた結果だ。つまり職務自体が分化しており、「ジュニア」と「シニア」は同じスキルセットの上下段階ではない。実際に会社でジュニアとシニアが同じ仕事をしているのか、それぞれ別の領域を担当しているのかを確認すれば明らかだ。そしてタイトルインフレも現実にある
  • <i>the Argument</i> という名前の雑誌なのに、この文章では「問題はXではなくYだ」と述べながら、Xへの反論はせずにYだけを長々と主張している
    • こういう種類の文章は、普通は「私はXよりYのほうが心配だ」というスタンスとして受け取ると有益だ。だから読者はわざわざXを検討する必要はなく、Yが本当に問題なのかだけに注目すればいい。この文章でも「AIが仕事を奪うかどうかは分からないが、すでに今、思考力の低下は明らかな問題だ。私は考える機械の登場ではなく、だんだん考えなくなる人々の増加のほうが心配だ」と明言している。したがって筆者の重点はYにある
    • Xを反駁しなくてよいのは、そもそも主観的な立場だからだ
  • 筆者は答えに近いことを言っていながら、その意味を自覚していないように見える。例えば、自分でジムで懸垂をしている状況を考えてみてほしい。背中の筋力が本当に生存に不可欠なのか。20世紀以前のように、皆が肉体労働をしていた時代なら、わざわざ運動法の研究に時間を使っただろうか。頭を使う仕事が減るなら、私たちはむしろもっと積極的に思考の筋肉を鍛えようとするかもしれない。結局、教育がなくても、学習と創造、関係性のための本能は一定の割合で常に存在するはずだ
  • 教育システムそのものがすでに時代遅れの遺物だ。文章で挙げられている点のすべては、現実の教育が「公立学校の教室で子どもたちが急いでエッセイを書き、低賃金で疲弊した教師が慌てて採点する方式こそが2025年の最適な批判的思考法だ」という前提に立っている。これからはAIが各人のペースに合った個別化教育課程を提示し、リアルタイムで誤答への誘導防止やフィードバックまで行い、より効果的な学習が可能になるはずだ。むしろ私は、この変化によって協働や社会性のような部分にもっと欠陥が生じるのではないかと心配している。だから人間の教師の役割は、「知識伝達者・採点者」よりも、動機づけや関係構築といった面でさらに重要になる気がする
    • 親としての経験はあるのかと聞きたい。実際に子育てを見たことがあるなら、十人中九人以上の子どもは、親や教師、同級生などの社会的圧力がなければ、課題や学習そのものに注意を向けない。学校の本質は、この強制的な社会的雰囲気を通じて、少なくとも人生で一度くらいは頭の中に知識を入れる機会を与えることだ。せめて、こうした白紙のような成長期に、社会が最低限の努力を促そうというのが学校だ
    • 皮肉なのは、幻覚や偽情報を平気で話すAIに教育を任せることが、低賃金で疲弊した教師より必ず優れているのか疑わしいことだ。むしろ答えは、教師の待遇改善と支援強化にある
  • どうしてみんな片面だけを語るのか分からない。退屈な作業をAIに渡せないなら、複雑な課題を誰が解くのか。反復計算ばかり自分でやっていて、こんな発展が可能だっただろうか。AIのおかげで、人類は無限の対数表と手計算から解放されうる
  • AIはソフトウェア工学でよくある「巨大な抽象化レイヤー」だ。だがいつだって真理は、最高のエンジニアは抽象化の上で止まらず、その下で何がどう動いているかを探ろうとする好奇心と知性を持っているということだ。TCP/IPスタックを自分で作らなくても、プロトコルの概念は理解し、DBについても内部実装や可用性/一貫性のトレードオフくらいは知っていてこそ優れたエンジニアだ。結局、AIも盲目的に指示に従うだけなら、大きな失敗を招く危険がある
  • 私も最近、似たテーマで文章を書いた。AIがより長いタスクを次々に片づけられるようになるほど、人間の注意持続時間はどんどん短くなっている。関連ポスト。これから人々がAIの助けを借りながらも、自分で考える力をどう維持していくのかに希望を持ちたい。実際、学校の課題自体が本当に実用的だったわけでもないし…