未来の技術は『AI』ではなく『集中力』

• LLMは反復作業の自動化やブレインストーミングなどに有用だが、盲目的な依存は問題解決能力の低下を招く可能性がある
• 特に新しい問題に対するLLMの信頼性は低く、人間のエンジニアの判断力が重要となる
• Googleのような検索エンジンは探索と活用のバランスを提供するが、LLMは即座に『活用』(exploitation)だけを促す
• 素早い正解だけに頼る習慣は、中核となる問題解決能力と集中力(focus)の衰えを招く
• 未来の中核的な能力はAIの使い方よりも、深い思考と集中力という人間固有の能力になるだろう

---

LLMは強力だが慎重に使うべき

• LLMは反復的な作業を自動化し、コード作成やデバッグ支援などで大いに役立つ
• しかし**バイアス、不整合、ハルシネーション(hallucination)**などの問題があるため、出力結果は常にレビューが必要
• 特に学習データには既存の問題の解答は含まれているが、本当に新しい問題への対応力は低い
• 結果として、エンジニアがLLMに依存すると自らの問題解決能力が弱まる可能性がある

無批判に受け入れることの危険性

• LLMが提示する答えを理解せずそのまま受け入れると、問題を解決することよりも答えを受け取ることに意識が向いてしまう
• 複雑な問題解決には結局、基礎能力と思考力の蓄積が必要であり、LLMはそれを代替できない
• 重要なのは成果物そのものではなく、なぜそのように解決されるのかという理解と思考のプロセスである

検索エンジンとLLMの重要な違い

• 検索エンジンは探索(exploration)と活用(exploitation)のバランスの取れたアプローチを可能にする
• 一方でLLMは最初から正解を提示しようとし、利用者はそれを検証せずに活用しようとする傾向がある
• 探索なしに活用だけが存在するシステムは、不安定さと依存性を高める

コンピュータ科学の本来の目的: 人間が問題解決に集中するための道具

• 人間は反復作業を減らすために道具を作ってきており、アルゴリズムの主導権は人間にあった
• しかし今は、素早く結果を出さなければならないという圧力によって、集中力と思考力を鍛える機会が減っている
• この流れは最終的に、人間の創造性と深い思考の弱体化を招く可能性がある

未来のための本当の技術: 集中力(Focus)

• 技術が進歩するほど、人間固有の思考能力と集中力がいっそう重要になる
• AIの性能より重要なのは、複雑な問題を認識し解決できる人間の能力である
• LLMを使いこなす能力ではなく、集中力と本質を理解する力が未来の中核スキルになる可能性が高い

[GN⁺]

Hacker Newsの意見

• 新しい学生たちが集中力を失うのはよくあること。LLMだけでなく、ほぼすべてのアプリやスタートアップが、ユーザーの限られた注意を引こうとして競争している

  • LLMは、学生が答えを見つけるために努力しなければならなかった障壁を取り除いた。素早い回答に依存しやすくなり、なぜそれが機能するのかを問うことを忘れがちになる
  • しかし、正しく使えばLLMは探究を支援できる。学生が最初の答えに反論し、より深い洞察を見つけた瞬間を見たことがある
  • 本当のリスクはツールそのものではなく、それを注意深く使う方法を忘れてしまうことにある

• Gunboundでaimbotを使っても、プレイヤーが上達することはなかった。ゲームのエコシステムを破壊しただけだった

  • 人類が「リテラシーaimbot」を責任を持って使えるのかは分からない
  • ABSは滑りやすい路面でのブレーキングをより簡単かつ安全にした。人々がより良いブレーキングを学んだわけではなく、今でもペダルをより強く踏めば車がもっと早く止まると思っている
  • 多くの人には集中が必要だ。そうでない人もいて、彼らはスケールすべきだ。aimbotが必要なシステムもあれば、不要なシステムもある
  • 未来では、あらゆる種類の技術が共存しなければならない

• 検索エンジンは、探索（結果一覧やページをたどる）と活用（上位の結果をクリックする）の間で良い選択肢を提供する

  • LLMはこの選択肢を提供しない
  • LLMは探索には非常に有用だ。複雑な問題を解き、アイデアを洗練する助けになる。人間のパートナー相手でも難しいフィードバックループを生み出せる

• 集中できること自体が、今では特権のように見える

  • 90年代には、何週間も邪魔されずに作業できた。今では、常に更新や計画を求めるマネージャーがいる
  • 実際の仕事は会話の後回しにされる

• 情報が豊富な世界では、情報の豊富さは別の何かの欠乏を意味する。情報は受け手の注意を消費する

  • 情報の豊富さは注意の貧困を生み、それを効率的に配分する必要がある

• 集中の反対は反応性だ。SOに投稿すれば正確な答えを得られるが、正しい質問を書き、返答を待つ忍耐が必要になる

  • LLMは間違ったことでも即座に答えてくれる。反応的だ
  • 優れたエンジニアは、チームメンバー、マネージャー、顧客、ビジネスに対して反応的である必要がある。同時に、集中する時間も見つけなければならない
  • Covid以降、非同期でもなくリモートでもなかった人たちまで全員がオンラインに移行し、大きな文化的変化が起きた
  • 反応性は測りやすいが、品質や成長を測るのは難しい

• LLMを使うと集中力を失う

  • コピペ、コピペ。解決策への実際の理解がない
  • もっと多くのことができるのかもしれないが、楽しくない。もうGoogle検索に戻れない
  • 発明されなければよかったと思う

• これは別の種類の集中になるだろう

  • 技術は、以前は重要だと考えられていた能力を衰えさせると定期的に予測されてきた
  • 電卓によって、子どもたちは手計算で算数をする必要がなくなった。しかし、それでも結果を解釈するスキルは必要だ
  • 検索エンジンによって、人々は数秒で答えを見つけられるようになった。しかし、それでも何を探すべきかを知り、見つけたものをどう使うかを知る必要がある

• 10年前には、スマートフォンとソーシャルメディアがすべてを変えると言っていた専門家たちがいた。賢く使う方法を学ぶ必要がある

• LLM革命を、90年代のGoogleのような検索エンジンの台頭と同一視することには同意しない

  • LLMは即時の活用を促す。ユーザーは最初の解決策が機能しないときに探索できる
  • LLMの利用の大半は、実際には検索エンジンに近い。既存の設計判断を説明したり、ニーズに合うライブラリを探したり、関連するクエリを生成したりする