古代ギリシャにも、文字の使用をめぐって旧世代が同じように心配していたという記録がある。口承の伝統では学者はすべてを暗記しなければならず、読み書きは若者の記憶力を損なう松葉杖のようなものと見なされていた。
今は読みが AI による検索・想起に置き換わる新しい時代の境目にあり、AI が松葉杖となって若い世代を弱くするかもしれないという懸念は妥当だ。ただし結果がどうなるかは分からないし、まだ AI の利用が事業成果を損なっているという兆候はない。また、「AGI が巨大な社会変化を引き起こす」という、より大きな命題はおそらく正しいと思う。
長期的な損失を考慮しないという点は、2010年代のジュニアエンジニア採用をめぐる議論に似ている。企業はジュニアを採用して育成したがらないが、その投資が育成した会社に戻ってこないリスクが大きい。
シニアエンジニアをプロジェクトから外してジュニアを教えた結果、ジュニアがスキルとキャリアを得て別の会社へ移ってしまえば、会社はマイナスの ROI を抱えることになる。結局はコモンズの悲劇であり、今日ではメカニズムが違うだけで似ている。熟練したソフトウェアエンジニア不足が起こるかもしれないが、業界がエンジニアを配置し働かせるやり方は非常に無駄が多いので、しばらくは不足に耐える余地がありそうだ。
だから ChatGPT は主にソクラテス式の問いかけに近い用途で使っている。「文脈 C で A、B、C を試したが、見落としている選択肢はあるか？」「この計画で効率面から抜けている部分は見えるか？」といった具合だ。
答えを求めるというより、高くつく行き止まりを避けるための用途に近い。
Socrates は Plato の『Phaedrus』で、書くことは「学ぶ者の魂に忘却を生む」と批判し、Leonard Euler は対数表に頼るのではなく第一原理から対数を導くべきだと述べ、Lord Kelvin は機械式計算機によって学生の推論能力を育てることがおろそかになると見ていた
Henry Ford の自伝には、1907年にある農夫が、ガソリン・トラクターは「子どもたちを怠惰で役立たずにし」、農業を学べなくするだろうと言ったという一節があり、1877年の New York Times には、消しゴム付き鉛筆によって書く前に考えなくてもよくなり、学生が不注意になるだろうという教師たちの懸念が掲載されていた
Augustus De Morgan は、印刷された九九表に頼る学生は数を理解せず「単なる計算機械」になると述べ、John Philip Sousa は蓄音機が楽器の習得をやめさせると批判し、Richard Feynman も携帯計算機のせいで学生が見積もりや数学的関係を理解する能力を失うかもしれないと懸念していた
まだ続けることもできる。Claude が15個も挙げてくれた。20年後には、AI が私たちを全員殺していなければ、LLM と一緒に働くことは、今人々が考えているような松葉杖ではなかったと振り返ることになりそうだ
1件のコメント
Hacker News の意見
当然の話に見える。質問の答えをすぐ得るより、自分で調べることに時間を使ったほうが、はるかに多くを学べる。
答えがすぐ与えられても追加で調べるだけの自制心がある人もいるだろうが、たいていはそうではないし、企業も長期的な損失より、速くて「効率的」で「競争力のある」解決策を求める。
今は読みが AI による検索・想起に置き換わる新しい時代の境目にあり、AI が松葉杖となって若い世代を弱くするかもしれないという懸念は妥当だ。ただし結果がどうなるかは分からないし、まだ AI の利用が事業成果を損なっているという兆候はない。また、「AGI が巨大な社会変化を引き起こす」という、より大きな命題はおそらく正しいと思う。
学習は好奇心と結びついており、好奇心は調査の難易度と結びついているわけではない。好奇心のある人は直接答えを受け取ってもさらに多くの質問をするし、好奇心のない人はそこで止まる。私たちは皆、巨人の肩の上に立っているのであり、それは悪いことではなく良いことだ。巨人を捨てて自力でその高さまでよじ登らせることにも利点はあるだろうが、知識伝達の方法としてははるかに効率が悪いと思う。
30年前には、人類の知識に即座にアクセスできれば誰もが賢くなると期待されていたが、Wikipedia があっても大半の人は、知識を与えるわけでも気分を良くするわけでもない怒りを誘う動画をスクロールしている。もちろん、パキスタンで携帯電話を使ってコーディングし、vim プラグインを保守している人のような事例は驚くべきものだが、それは平均的な人類全体への効果というより、ツールを活用する機会を得た少数に現れる効果だ。
ある物理学者が YouTube のインタビューで、今ではどの物理学者でも ChatGPT に最新論文について大学院レベルの質問をし、物理学のサブフィールド間をまたいで知識を行き来できるので、物理学研究に役立つと話していたことがある。
シニアエンジニアをプロジェクトから外してジュニアを教えた結果、ジュニアがスキルとキャリアを得て別の会社へ移ってしまえば、会社はマイナスの ROI を抱えることになる。結局はコモンズの悲劇であり、今日ではメカニズムが違うだけで似ている。熟練したソフトウェアエンジニア不足が起こるかもしれないが、業界がエンジニアを配置し働かせるやり方は非常に無駄が多いので、しばらくは不足に耐える余地がありそうだ。
答えを求めるというより、高くつく行き止まりを避けるための用途に近い。
この問題には二つの側面があり、少し議論を呼ぶかもしれない。どんなテーマでも ChatGPT に質問すると、たいていは答えをもとにさらに多くの質問をすることになり、その大半はばかげた質問だが、その過程で情報を受け取り分析したうえで、好奇心からさらに深く入っていく感覚がある。
インターネットでの調査と比べると良い点もあるが、深く入れば入るほど、誰かの見解が混ざった文章を読むことが多くなる。その文章は、どの問いが重要で、どの角度から見るべきで、結論が何なのかをすでに決めているように感じられる。教育的ではあるが、残る疑問は次々に出てくる。
違いは好奇心だ。あるテーマに好奇心があれば学ぶし、なければ答えを受け取って満足する。それは怠惰ではなく、すべてに好奇心を持つことはできない。
違いは、単一の主体がモデルの政治的傾向を決め、そのモデルが単一の寄稿文よりもはるかに多くの人と相互作用する点にある。
Stack Overflow では一度も質問したことがなかった気がする。ばかに見えるかもしれない質問が、あのコミュニティでどう扱われるかは容易に想像できたからだ。しかしこうしたモデルには、どんなばかな質問でも何の心配もなくできるし、その点が良い。
ChatGPT と「好奇心旺盛な」議論をするというのは、結局、自分のバイアスと ChatGPT のバイアスが混ざったフィルターを通してインターネットを検索することだ。脱出したように感じるかもしれないが、依然としてインターネットの中にいる。インターネットが今は質問に言葉で答えてくれるだけで、やはりインターネットなのだ。
OpenAI が最初に ChatGPT を出したときから、この点を言い続けてきた。どこでも使えて、どんな質問にも答えがあるように見える LLM の危険は、存在そのものというより、その誘惑的な性質にある
問題を一人で静かに考え込むより、いちばん近くにある LLM にすぐ答えを求めたくなる誘惑こそが本当の危険だ。頭の中で問題をいじってみる行為、つまり 批判的思考 は結局ひとつのスキルであり、意図的で節度ある練習を通じてしか上達しない
取りかかるのが難しいプロジェクトがあるとき、ChatGPT に尋ねるのはほとんど摩擦がなく、気づけばプロジェクトに取り組んでいて、8時間が過ぎて終わっている。厄介なライブラリのインストールで詰まると、ChatGPT が解決してくれるので挫折せずに済む。どんなツールよりも フロー状態 に入り、それを維持させてくれ、先延ばしを避ける良い方法だ
この用途における LLM は Google と同じ種類のツール、つまり情報を問い合わせ、取り出して受け取るための手段だ。Google と同じく、クエリの結果は終点ではなく手段だ。「実験室で1か月過ごせば、図書館で過ごす1週間を節約できる」という言葉のように、Claude/ChatGPT/Copilot に10分尋ねることでも節約できる。個人家庭教師を雇うのも怠惰なのか？
答えを素早く取り出せることが危険なのではない。90年代の Google や70年代の携帯電卓についても似たような話があった。自分にとって LLM は、どうせ手動でインターネット検索していた過程を速めてくれるだけで、批判的思考をうまく行うには、より多くの質問をしなければならない
たいていは自分で解決するか、より良い一次資料を思い出すことになる
arXiv にプレプリントがあり、18ページ上部に メタ認知的怠惰 とは何かが出ている。「人間-AI 相互作用の文脈において、メタ認知的怠惰を、学習者が AI の助けに依存し、メタ認知負荷を外部化し、責任あるメタ認知プロセスを学習課題とあまり効果的に結びつけないことと定義する」
ここでいう「メタ認知負荷」とは、学習者が能動的な自己点検、計画、評価を必要とする課題を遂行する際に、学習プロセスを効果的に調整するために必要な認知的・メタ認知的努力を指すようだ
論文はこれを、ツールに難しい認知作業を代行させる 認知的アウトソーシング に近いものと見ており、その結果、能力を発達させる機会が奪われ、ツールに依存するようになると見ている
https://arxiv.org/pdf/2412.09315
これを「怠惰」と呼ぶのは還元的だ。「何かの助けに依存する」ことこそ、あらゆる技術の目的なのだから
この問題には確かにアンビバレンスがある。一方では、「誰もポケットに計算機を入れて持ち歩いたりしない」と言って、子どもたちが現実世界で完全に無力になるだろうと言われていた話を思い出す。その後、計算機はほぼ全員のポケットに入るようになり、子どもたちも大丈夫だった。
もう一方では、学び方を学ぶこと、メディアリテラシー、独立して調査し結論を作る過程で得られる利点も重要だと思う。
答えはおそらくその中間のどこかにある。LLMを最終目的地にするのではなく、学習補助ツールとして活用する方向だ。
最近、Z世代が足し算が必要なカードゲームやお釣りの計算に戸惑うのを見た。ミレニアル世代にとっては小学校レベルのことだ。
今でも馬に鞍を付けたり、時計なしで時刻を読んだり、シャツを縫ったり、布を作ったり、原始的な道具で狩りをしたり、火を起こしたりできる人がどれだけいるだろうか。子どもたちをAIから隠すこともできるし、子どもたちがAIを活用して成長するよう教えることもできる。あまりに未来的に感じられるものを捨てるとどうなるかを見たいなら、アーミッシュを見ればよい。尊重すべき生き方ではあるが、これを読んでいる人のうち何人がその生活を選ぶだろうか。
ある友人は、ある音楽家の略歴をChatGPTに尋ねていたが、同じ情報と出典があるWikipediaページを読めないというのは少し怖かった。母は「カプセルワードローブ」を作るためにChatGPTを使ったと言っていたが、単に服を見て、着ていないものを捨てればいいのではないかと思った。こんな単純な判断をなぜコンピュータがしなければならないのか。
LLMを学習補助として使うべきかはよく分からない。オンライン検索や自分なりに創作した話より優れている理由を見たことがなく、LLMが有用な明確なユースケースがあるなら聞いてみたい。
現実的には、幅広い知識と詳細へ素早くアクセスする能力の基準が上がるのだと思う。必要なときに詳細を非常に素早く確認できるなら、複数分野を中程度に理解していることには大きな価値がある。深く入るほど学習速度はだんだん遅くもなる。複雑なことをする時には、詳細を知っていても、いずれにせよ重要なので再確認する必要があった。
単位円もπ/4の倍数以外はほとんど反射的には覚えていないし、π/6の倍数はできるが遅い。それでも、こうしたものを即座に思い出せないからといって、自分がより悪い数学者になったとは思わない。些細な問題の答えを得るのに少し遅くなることはあるが、複雑な問題は今でも解ける。
積分公式は小さな積分表の本やWolfram Alphaで調べる。自分で導出できても、100%正しいとは思えないからだ。メタ認知的怠惰はすでに私の中に根付いている。ただ、それが完全な脳の腐敗に広がる前に止める方法を見つけられればよいと思う。学生に批判的に考える方法を教え、AIが私たちを『ウォーリー』の宇宙船の人間のようにしないよう補助させる方法を見つけられれば、生き残れるだろう。
抄録はメタ認知的怠惰が何かを定義しておらず、先行する結果の説明だけでは文脈上の意味も十分に示していない。
個人的には、Google検索よりChatGPTが明らかに優れている点は、最初の回答に対してさらに微妙な質問を続けて投げられることだ。従来型の検索では、後続の検索をするほど、費やした時間に対する好奇心の限界効用が下がる。質問をより精密にするほど、SEO最適化されていない結果が出にくくなり、新しい情報のない一般読者向けの記事か、膨大な専門的背景知識を必要とする特殊な資料が出やすい。LLMは、私が求める答えへ向かう橋をうまく架けてくれる。
ジュニアエンジニアがこの罠にはまったという話を聞いたことがある。同僚に知識不足をさらすより、チャットボットにすべてを尋ねる。チャットボットが露骨なミスを避けたとしても、ジュニアは微妙なミスに気づけない。
特定のWikipedia記事を見つけ、その後で出典をたどって「私が求める答え」が最初に出てきた原文を探すやり方と非常によく似て聞こえる。
ハルシネーションの可能性は考慮する必要があるが、いつでも使える疲れ知らずの解説者がいるという事実は、むしろ密度の高い技術情報を探求し、新しい概念を理解しようとする動機を高めてくれる。ただし、白紙から文章を書き始めようとする意欲は下がるようだ。テーマをChatGPTと一緒に探索して、おおまかな概要と基本内容を得てから続きを書くようになる。
場合によっては、内容を検証するために検索エンジンへ入れる具体的な文字列までLLMが提示してくれる。検索はひどく壊れていて、おおよそ2014年頃からGoogleの検索結果ページに結果より広告の方が多く見えるようになって以来、ずっとそうだった。
携帯電話とノートPCは、それなしで育った人間として、いくつかのことを変えた。20〜25年ほど前、Web検索を1回か2回、多くても2〜3回すれば、ほぼあらゆる事実を調べられると気づいた。そして10〜15年ほど前には、頼めばいつでもそれをやってくれる接続されたデバイスがポケットに入るようになった。
ところが5年ほど前から、社会的な場面ではたいてい意識してそれをしないようになった。会話中に些細な事実が気になっても、流れを止めて画面を取り出して見つめ、答えるのではなく、そのまま相手と過ごし続ける。
80〜90年代には、パブクイズのような雰囲気の中で、どちらもすぐには知らない小さな事実をめぐって熱い議論をすることがあった。今では答えをあまりにも簡単に見つけられるので、そういうことはほとんど消え、完全に失われてしまった。懐かしいわけではないが、自分の意識がWeb検索でアクセスできる事実にどれほど縛られているかを鋭く感じるようになったし、自分の管理外の場所に脳のそれほど多くの部分をアウトソースするのが気に入っているのかは分からない。
記憶力の助けになるよう、純粋に雑学を覚えるのも一つの方法だ。
生成AIが書いたコードは人間がすべてレビューすべきだと言われる。明らかな誤りがないか、要件に合った「正しいもの」を作っているか確認すべきだ、ということだ。
このような形で生成AIを使う実務者の逸話では、何に注意すべきか分かっている熟練開発者にとっては良いツールだと言われる。だが、今まさに学んでいる途中で、自分が何をしているのか分かっていない人たちを考えると、彼らは何に注意すべきかを知らない。use-after-freeが何なのか、キャッシュメモリがどう動くのかを尋ねるべきだと分かるだろうか。アルゴリズムやデータ構造の名前を知っているだろうか。生成AIがでたらめを言っている瞬間に気づけるだろうか。
こうした研究は難しいが重要だ。標本は小さくても興味深く、誰かが追試できるのか気になる。
break文を入れ始めた。while (condition) { do_stuff(); if (!condition) { break; } }のような形だ。調べてみると共通点はChatGPTで、ループがどう動くのかを尋ねた学生たちはみな、「ループを抜けるにはbreak()を使え」という趣旨の回答を受け取っていた。コンピューターサイエンスではこのようにはしないし、不要なだけでなく形式的証明をより複雑にするため、試験には「授業で学んだ方法で行うこと」という案内を入れ、一般的な一回限りの例外を設けなければならなかった。例えば、自分はプログラマーだが数学はひどく苦手だ。ゲームを作りたいし実際に作ることはできるが、数学のせいで進行がずっと難しくなることが多い。すでにゲームを作ってリリースもしたが、数学がいつも足を引っ張る。望む動作と結果は正確に分かっているが、そこへ到達する方法を常に見つけられるわけではない。
LLMはそういう部分を小さなブラックボックスとして切り出すのに大いに役立つ。結果が正しいことは分かるが、どうしてそうなるのかは100%確信できない、という具合だ。誤ったコードを出してきたときは、自分が何を探しているのか、なぜそうなのかを分かっているので気づけるし、欠けているのは「どうやって」だけだ。中身を完全には理解していなくても、公開APIを理解していれば使えるサードパーティーライブラリに似ている。ただし、そのコードを自分のコードベースに入れ、ユニットテストを大量に付けるような感覚だ。
今まさに、推論型LLMであるdeepseek-r1を、優れた
rustlingsチュートリアルでテストしている。ドキュメントがよく整備されていて、解答もオンラインで簡単に見つかるので、コーディング作業を評価する際、新しい仕事を探してソフトウェア工学を趣味にすべき時が来たのかを見るための怠惰なテストとして使いやすい。rustlingsでテストする理由は、学生や将来の同僚のための学習ツールとしての価値も見たいからだ。こうしたものは教師として役に立つかもしれない。Rustコンパイラも助言が非常に上手なので、LLMの出力と比較するための優れたベースラインがある。結論として、deepseek-r1がすぐ誰かを置き換えることはなさそうだ。膨大な量のテキストを生成するが、その大半は意味をなさず、ほとんど常にひどく間違っている。ただし、未熟な開発者や初心者、とりわけ初心者は混乱し、誤った方向へ引きずられる可能性があり、もっともらしく聞こえるが実際にはそうではないものに合理的思考をアウトソースしてしまう危険がある。
現時点では、統計モデルの長広舌に過度に依存することは、教育と未来の開発者の成果に有害に見える。コーヒーと挫折の涙で鍛えられ、コードとアーキテクチャに自分の手で取り組んで格闘しなければならなかった、おそらく最後の旧式ソフトウェアエンジニア世代には、黄金期が来るかもしれない。LLMが大量生産したゴミを、誰かが直さなければならないのだから。
目的はその出力をそのまま使うというより、その上に最終回答を整理する層を載せることに近いように見える。
Stack Overflowが人気を得る直前にコーディングを始めたが、その頃も「Stack Overflowは怠惰な開発者を生む」「本物の開発者の終わりだ」といったブログ記事であふれていたのを覚えている。反論したいわけではなく、こうした感情が時間とともに細部だけを変えながら繰り返される点が興味深い。
Socrates は Plato の『Phaedrus』で、書くことは「学ぶ者の魂に忘却を生む」と批判し、Leonard Euler は対数表に頼るのではなく第一原理から対数を導くべきだと述べ、Lord Kelvin は機械式計算機によって学生の推論能力を育てることがおろそかになると見ていた
Henry Ford の自伝には、1907年にある農夫が、ガソリン・トラクターは「子どもたちを怠惰で役立たずにし」、農業を学べなくするだろうと言ったという一節があり、1877年の New York Times には、消しゴム付き鉛筆によって書く前に考えなくてもよくなり、学生が不注意になるだろうという教師たちの懸念が掲載されていた
Augustus De Morgan は、印刷された九九表に頼る学生は数を理解せず「単なる計算機械」になると述べ、John Philip Sousa は蓄音機が楽器の習得をやめさせると批判し、Richard Feynman も携帯計算機のせいで学生が見積もりや数学的関係を理解する能力を失うかもしれないと懸念していた
まだ続けることもできる。Claude が15個も挙げてくれた。20年後には、AI が私たちを全員殺していなければ、LLM と一緒に働くことは、今人々が考えているような松葉杖ではなかったと振り返ることになりそうだ