AIは私たちの能力を損なっているのか？ 初期研究結果は否定的

• 業務の現場で AIツール への依存が高まるなか、医療・コンピューターサイエンスなど 熟練が重要な分野 で 人が蓄積してきた能力が弱まる可能性がある ことを示す初期的な根拠が出てきている
• ポーランドの内視鏡専門医を対象にした研究では、AIを使わない場合の 腺腫発見率が28.4%から22.4%に低下
• Anthropicのランダム化比較実験では、AI補助を受けたエンジニアの クイズ平均点は50%で、未使用グループの67%を下回った
• 米国の医療従事者調査では、看護師の70%、医師の77%が AIへの過度な依存による能力低下 を懸念
• かつてGPSが道案内の能力を弱めたように、生成AIは 思考・解釈のような認知能力そのものを自動化する最初の技術 として、人間の専門性をどう維持するかが重要課題になっている

---

AIによるデスキリング(deskilling)現象の台頭

• 専門職の人々が業務でAIツールに依存することで、苦労して身につけた技能が衰える可能性があるという懸念 が、医療専門家やコンピューター科学者などの間で広がっている
• Wolters Kluwerが今月発表した米国の医療従事者調査では、看護師の70%、医師の77%が AIシステムへの過度な依存に伴う能力低下 を懸念
• 医療・コンピューターサイエンスなど複数の分野で AIによる「デスキリング」 が始まっていることを示す証拠が提示され、AI時代に人間の専門性をどう守るかについて研究者が議論している
• Syracuse Universityの情報科学者Kevin Crowstonは、「この現象の存在を認識するだけでも、どの技能を維持し、どの技能をAIに外注するのか を自己内省するきっかけになり得る」と述べる

医療分野 — 内視鏡専門医の研究

• 研究設計

  • ポーランドの内視鏡専門医を対象とした研究で、参加した医師はいずれもキャリアの中で 大腸内視鏡検査を少なくとも2,000回以上実施 した人物だった
  • 彼らには、リアルタイムで大腸内視鏡映像を分析し、前がん性の腸病変である 腺腫(adenoma)を表示するAIシステム が提供された
  • このツールは、特定の日には使用可能、別の日には使用不可となるよう運用された

• 結果

  • 医師たちがAIを使い始めた後、システムを使えないときの成績が有意に低下 した
  • AI導入前の3カ月間、専門医たちは大腸内視鏡検査の28.4%で少なくとも1つの腺腫を発見
  • AI導入後の3カ月間、AI補助なしで実施した大腸内視鏡検査の腺腫発見率は22.4%に低下
  • この結果は昨年10月、The Lancet Gastroenterology and Hepatology に掲載された

• 専門家の解釈

  • University of California, San Franciscoの医師Robert Wachterは、「高度に熟練した専門家であっても、AIへの依存度が高まれば、業務に必要な作業を遂行する能力が低下する可能性がある」と述べる
  • 研究著者らは、「こうしたツールに継続的にさらされると、臨床医がAIなしで認知的な判断を下す際に、動機づけが弱くなり、集中力が下がり、責任感も薄れる 可能性がある」とする
  • University of Osloの医師・研究者で共同著者のYuichi Moriは、「現象を確認するにはさらに多くの研究が必要だが、AI利用者は一部の技能を失うリスクを認識すべきだ」と述べる
    • 「現時点でデスキリングに対する確立された解決策はなく、今後10年間で非常に重要な研究テーマ になるべきだ」

コンピューターサイエンス分野 — Anthropicのコーディング実験

• コンピューターサイエンス分野で技能喪失が起きているかを調べるため、San FranciscoのAI企業Anthropicの研究チームが ソフトウェアエンジニア52人を対象としたランダム化比較実験 を設計
  • 参加者52人全員は、基本的なコーディング作業のあいだ、ウェブ検索と作業方法の案内にアクセス可能だった
  • 半数には追加で AIアシスタントの使用 が勧められた
• 作業後の学習内容に関するクイズでは、AI使用グループの平均50%、未使用グループ67%という差 が生じた
  • AI補助を受けた参加者は特に コードエラーの診断 問題で振るわず、たった今書いたコードの概念を学習できていなかったことが示された
  • この研究は査読前のプレプリントサーバー arXiv に掲載された
• Crowstonは、「今や 遂行能力と学習のあいだに奇妙な断絶 が存在している」と述べる
  • 「人々がかなり高い水準で作業できるのは、基本的にAIから技能を借りてきているからであり、自分自身でその技能を発展させているわけではない」
  • この結果は、とりわけこの分野の学生や若手専門職にとって懸念材料だ

認知の外注化 — 過去の技術との比較

• University of Queenslandの情報システム研究者Tapani Rinta-Kahilaは、「過去にも GPSナビゲーションが道順を見つける能力を弱める ように、特定の技能を不要にしてきた技術は存在した」と述べる
  • ただし生成AIは、「長らく人間固有の技能と考えられてきた 思考や解釈に関わる認知能力を自動化する最初の技術」だという

• 会計士の事例

  • 2018年に発表された研究では、10年以上にわたり自動化された非AI会計システム を使い続けた会計士のグループを調査
  • ツールがなくなると、会計士たちが 複数の日常業務のやり方を忘れていた ことが確認された
  • 「次世代のプログラマーは、実地経験が不足すると コーディングの基礎を十分に理解できない可能性がある」
  • 「これは会計、法律など他の知識集約型職種にも同様に当てはまる」

• 技術浸食への対策

  • 生成AIに どれほど多くの作業を委ねているのかを認識 する必要がある
  • 生成AIモデルの仕組みと限界を正確に理解し、検証なしにAIの出力を信頼してはならない
  • 「生成AIへの依存と、意識的な警戒を維持することの競合する力学を管理 しなければならない」

[GN⁺]

Hacker Newsの意見

• 私たちはあまりにも楽をしてきた。空調の効いたオフィスでHerman Millerの椅子に座り、コンピュータを学んで高給を得てきたのに、今や知能を合成する方法を見つけて最初に思いついたことの大半が、かつて夢見られた中で最も楽しいキャリアを台無しにすることだけだった
  もちろん今は以前より生産的だが、そのどれだけが、昔の手作業で積み上げた知能の上にAIを載せて活用しているおかげなのかは分からない
  36か月後にシステム知識が劣化して、全体としてもっと悪い開発者になっていないと誰が断言できるだろうか
  AIを使うなと言いたいわけではない。機能を自分で書いている間にGitHub Workflowsを設定したり、VPS上のエージェントにインターネット作業を任せたりと、役に立つ周辺作業にはいつも使っている。多少の合成知能は良い
  だが、自分の知能を代替的に補強するのはよくない。ステロイドを使えば体を壊しながら筋肉質にはなれるように、価値はまさにその作業の中にあると思う。近道こそが最も危険な道であることは多い

  • 「私たちはより生産的だ」という問いよりも、AI時代が私たちをより多く、より速く生産する方向にさらに深く押し込んでいることの方を問いたい。いったい何のためなのか
    ソフトウェアエンジニアになった理由は、コードを書き、複雑な問題を考えて解き、自分の手で作ったものが初めて動く報酬を感じるのが楽しかったからだ
    コードの代わりにエージェントの群れを管理することは本当に楽しいのか。それとも、一人では不可能なほどの速さで何かを作り出すスピード感だけを楽しんでいるのか。速く動くこと自体は、私にとって楽しさの核心ではなかった
    反復作業やボイラープレートを減らすためにAIを使うのは理解できるが、エージェントベース開発に完全に全振りしている人たちを見ると本当に疑問に思う
  • 多くの開発者にとって、36か月後により悪い開発者になることは、むしろ最善のシナリオかもしれない。労働市場はすでに生産性向上分を吸収するように変化しており、仕事を守るには誰もがより多く生産することを強いられるようになる
    需要が生産性の向上に即座に追いつけるわけではないので、企業が単にもっと多く売れるわけでもなく、結局は解雇が起きる。より少ない仕事をめぐってより多くの人が競えば、残った人たちの賃金も下がる。基本的な需要と供給の問題だ
    2024年に「自分の仕事は複雑すぎる、あるいは専門的すぎるから影響を受けない」と言っていた人のうち、今も同じことを言える人がどれだけ減ったのか気になる
    企業は、ますます高くなるトークン単価を受け入れて人件費を削るか、その折衷には価値がないと見て人間の知能に再び賭けるしかない。今後数か月で、業界の経済性が私たちの代わりに決断を下すことになりそうだ
  • AIの使い方が間違っているか、働いている場所がよくないのだと思う。私はAIと一緒にコーディングするのがとても楽しい
    LLMとそのツール群は、システムを設計するときに合わせるべき新しい制約条件のようなもので、うまく扱えば以前より大きく、より良いものを作れる。プログラミングのスキルツリーにまったく新しい枝を学んでいる感じだ
    もちろん、ClaudeがアプリケーションのRBACを完全に台無しにして、この2日間それを作り直した直後に言っているのだが
  • 「私たち」とは言わないでほしい。多くの人はこうしたモデルや企業を望んでもいないし、貢献もしていない。貢献したと言うなら、コード・データ・知的財産を盗まれたことくらいだ
    多くの人は自発的にAI利用に参加したのではなく、雇用主に事実上強制された。AIのおかげで皆がより生産的になっているわけでもなく、浮いた時間と同じだけ、AIが作ったコードのレビューに時間を費やしている人も多い
  • 会社でLLMの使用を強制され、「理解しようとするな、とにかく動かせ」と言われた。その文の不条理が明白ではないかのように語られた
    それ以来、この職場、あるいはひょっとするとこのキャリアから抜け出す方法を探している
    結局、気にかける人たちはふるい落とされるか自ら去り、この分野全体がダニング＝クルーガー的なAI極大主義者で埋め尽くされることになるだろう。「AIがエンジニアを置き換える」という言い方は当たっているが、それを主張する人たちが考えている理由ややり方とはまったく違う形になるはずだ

• 非常に裕福な人やかなり高位の役員にも同じ効果があるのか気になる。そういう人たちは以前から思考を「外注」できる立場のことが多く、業務委任、調査・要約の依頼、作業の割り当てなどをしてきた。
  そうしたことを人に任せるのも同じように能力を損なうのだろうか？ それともAIは根本的に違うのか。違うのだとしたらなぜか。すべてを委任してはいけないという道徳的・社会的圧力がないからなのか

  • そうだ。日常的な実務開発から管理職に移った瞬間から、技術は衰え始める。たとえ魔法のように一気に劣化しないとしても、新しい進歩に追随しながら訓練しているわけではない。
    マネージャーの役割をきちんと果たすなら、これはあり得るキャリアの中でも最も恐ろしい道だ。数年たつと、低い報酬の実務開発者に現実的に戻る道はなくなる。自分でやるのではなく、他人ができるよう助けるのが職務だからだ。
    もちろん中間地帯はあって、研究開発やサイドプロジェクトで少しずつ技術を磨こうとはするが、毎日行う本番現場の実務とは違う。
    出発時点の技術水準は人それぞれだが、時間がたつにつれて受ける影響はおおむね似ている。
    熟練エンジニアが管理トラックに移りたいと言うとき、私が最も強く警告する点がまさにこれだ。軽く決めてよいことではない
  • そうだ。教授や大学学長にも起こる。
    だからNoam ShazeerのOpenAI参加も、その文脈の中で見るべきだと思う。良い採用であるのは確かだが、彼がいまだに他の人たちがより新しい形では持っていない秘密の魔法を持ち込むと信じる固有の理由はない
  • 所有階級は実際には仕事をしない。彼らが委任する高水準の計画は、ソフトウェア工学のような作業よりもAIエージェントのほうが実行しやすい。そこまで精密で実行可能である必要がないからだ。
    ただし範囲が非常に広く、役割のリスクも大きいため、人間を排除しても十分に「安全」にするには、Fable 5やFable 6レベルのビジョン言語モデルが必要かもしれない。
    2027年に爆発的に増えるのは自動化されたAI企業であり、人間のCEOや所有者はこうしたAI運営企業と競争できなくなるだろう
  • 知的作業、より広く言えば上にも下にも伸ばせるスキルツリーを持つあらゆる分野は、練習しなければ時間とともに衰える。しばらく走らなければ、再び走り始めたとき以前の自己ベストをすぐ出せないのと同じだ。
    しばらく離れてから追いつくのは、最初から技術を身につけていなかったり生来の才能がなかったりする場合よりは簡単だが、運動しなければ確実に衰える。純粋な管理・戦略職に上がって実務技術を維持しなかったリーダーたちは、結局理解の速度がかなり遅くなっていた。
    この研究が行われたのは良いことだ。AIと人間の福祉の逆相関は、私たちの時代の大きな課題の一つだと思う。だがこの結論自体はかなり当然に見える
  • 数年管理職をやっているうちに、fizzbuzzすらやっとこなせる元プログラマーのマネージャーをかなり見てきた。だからかなり似ていると思う。
    脳の多くの部分は「使わなければ失う」に近く、そのような委任は使わないことだからだ。
    ただ、LLMは人間に委任するよりもはるかに悪い可能性が十分にある。部分的には、反復サイクルがあまりに速く、途方もない富豪でなくても人間からは買えない速度を得られるからだ

• 1年以上、コードの関数を一つも最初から最後まで自分で書いていない。その代わり、アーキテクチャやシステム特性についてはるかに多くの時間を考えるようになった。
  だから非常に低レベルの技能はある程度失ったと感じる。だが、より高いレベルの技能に時間を多く使えるようになったのかもしれない。医師が画像を読むのは下手になったが、患者の文脈を考えるための認知資源は増えた、ということかもしれない。
  確信はない。
  それでも今では、AIなしで自分でコードを書くよう体を動かすことができない。遅すぎて、ほとんど苦痛に感じる

  • 新しく入ってくる人が、たとえばデータ構造や低レベルのアルゴリズムを実際のアプリケーションで手を動かして格闘した精神的訓練なしに、そうした有用で生産的な思考様式を得られるのか気になる。
    デザイン学校に通っていた頃、作業のかなりの部分は黒鉛、切った紙、絵の具、木炭といった物理メディアで行われ、優れたカンニングとデジタルツールの使用経験もあわせて練習していた。デジタルでも個々の筆致を作り、適切な道具を選ばなければならなかったが、純粋にデジタルな背景から来た人たちには、明らかに欠けているプロセス認識があった。
    写真参考しかしたことのない人が実物デッサンを試みるのと似ている。すでに2Dであるものを描くときには、認知過程の一部分全体が使われない。学ぶことはできるが、強制されなければ写真を撮ってそれを描き続ける可能性が高い。
    画像生成は、非常に細かなインペインティングがあっても違いすぎて比較するのも難しい。高度な画像生成の経験が豊富な人が絵を学び始めたとき、完全な初心者よりはるかに先にいると言うのはためらわれる。写真参考の作家にはそうではないし、タブレットで実物デッサンをしてきた純デジタル作家にはなおさらそうではない。
    ミレニアル世代が常に技術にアクセスできた一方で、ダイヤルアップ時代のコンピュータ利用も経験しているため、ディレクトリ構造すらたどれない典型的な「iPad kid」よりは概して技術に明るいのと似ている
  • 集中できる上位レベルの技能として何が残るのかが問題だ。
    プロジェクト管理やアーキテクチャのような作業で、AIが本質的により不得手だと確信できない
  • AIを使えば思考の余裕が生まれ、より高次のことを考える認知容量が解放されるというAI司祭たちの言い分が正しいとしても、その余剰を上司はどう使わせるだろうか？ 利用者により高次の認知能力を育てさせるだろうか？ そうは思えない。
    記事中の医師たちが、AI導入後により悪い成果を出したとしよう。AIのおかげで以前は10件しかできなかった時間で100件の検査ができるようになったなら、雇用主はその余った労働時間をどう使うだろうか？ 当然、より多くの検査をさせ、今や不要になった一部の医師を解雇するだろう。
    生き残った医師たちは脱熟練化したまま同じかそれ以上の仕事をし、社会はより低品質な医療を受けることになる。それでも雇用主は人件費を節約でき、株主は満足するだろう
  • 私たちはIBMのパンチカードの使い方を学ばなかった。現代言語で関数を手で書くことも急速に時代遅れの作業になりつつある
  • 多くのCEOの目には、あなたはゆっくりと役立たずになっている

• これは新しいし、とりわけその範囲が新しい。個人の「スキル」のいくつかではなく、ほとんどすべてが懸かっている。深く、広く、粘り強く考える能力の最も根本的な部分が試されている。こんなことは以前にこの形で起きたことがない
  エージェントが動く様子を見ると、ときに驚異的で息をのむほどだ。逆にまさにその力ゆえに、私たちはその誘惑と無力化に同じくらい脆弱になる。長期的な心理的影響の潜在力は、ほとんど強いドラッグに近い

  • 深く、広く、粘り強く考える能力が試されているという点では、まずソーシャルメディアとコンテンツアルゴリズムが思い浮かぶ。AI時代に入る前から、ひどい現在の状態を作った最初の波だった
    今ではエコーチェンバーに陥るのはあまりに簡単で、サイロから抜け出すのは非常に難しい
    諸刃の剣ではありうる。大半の人が全知全能の神託のように信じているAIが、ソーシャルメディアやYouTube、TikTokをスクロールして受動的に受け入れた立場に対して、私たちが出会う唯一の反論を提供することもありうる
    たとえばClaude、ChatGPT、Grokに、Marjorie Taylor Greeneのような人々がソーシャルメディアで広めた2018年のHawaiiの山火事の「宇宙レーザー」について尋ねると、すぐにたわごとだと反論する
    結局は誰もが、自分の聞きたいことだけを言ってくれる専用AIを持つようになるのかもしれない。だが今のところ、Grokが主張を退けたことでTwitterで議論を諦める人たちを見た。だから少しは希望があるようにも思える
  • 「こんなことは前例がない」と言う前に、ラジオやテレビの発明について人々が何と言っていたかを読んでみる必要がある
    エージェントが動く様子が息をのむほど驚異的なのは、手品も同じだ。それがすべて、きちんと理解されていない錯覚かもしれないという不快な可能性は、人々にとってそれほど負担ではないようだ
    長期的な心理的影響が強いドラッグのようだという点は、この製品の所有者たちがそれをどうマーケティングし、どう配布するかを選んだことと、より関係しているのかもしれない。覆いを少しめくれば、陶酔は恐怖に変わるかもしれない。Upton Sinclair的な瞬間が近づいている
  • 人間の精神は、身体と同じくらい挑戦を必要とする。成長するために、いや高い認知レベルを保つためには、それが唯一の方法だ
    看護師、医師、家族は、人が突然ベッドに縛りつけられ、刺激や取り組める挑戦が最小限に減ると、人生の軌道がどれほど急激に落ち込むかをよく知っている
    LLMは挑戦を取り除くか、最小化する。雇用主のコスト削減以外に、エンジニアにどんな付加価値があるのか想像しにくい。もちろん以前より10倍やれていると言う人たちも出てくるだろうし、実際そういう人もいるだろうが、それにも疑いはある。残りの大多数にとってはよくないし、ほとんどの市場で価格のせいで使えなくならない限り、改善もしないだろう

• 40歳になって、想像もしなかった速さで新しいことを学んでいる。新しいスポーツ、新しい事業、新しい学問的関心だ
  テクノロジーはてこであり、AIは私たちが持つ最大のてこだ。怠惰を可能にもするし、とてつもない生産性も可能にする。これから先の道は自分で選べばいい

  • あなたに当てはまるかは分からないが、自分が科学の最前線を探検していると信じ込むようになった友人を何人か見たことがあり、結局いつも奇妙な量子・形而上学めいた支離滅裂な話へと会話が渦巻いていった
    LLMはおべっか使いで、長い会話ではそのおべっかが正のフィードバックループを作る。コンテキストウィンドウに誤った解釈や比喩への肯定が入ると、チャットボットはそれまでのテキストのもっともらしい続きを生成するので、その道を進み続ける
    気づけば宇宙の隠れた織物を発見していることになり、それはいつもMinkowskiフラクタル時空テンソル格子多様体や、部分調和DNAナノチューブのようなものになる
    だから、学んでいることを評価し、本当に学べているのかを確かめる頑丈な方法がないなら、注意したほうがいい
  • 学んでいるわけではない。学習には自分で実際にやることが含まれる
    これはずっと前から知られている。数学の本を読むだけで、問題を繰り返し解かなければ、学生は試験に合格できない
    最善の場合でも、ただ何かを読んでいるだけだ。コーディングエージェントのユーザーは、その程度のことすらしていない
  • 学んでいるわけではない。説明を聞いていて、たいてい平均以下の技術レベルでそれらを使うためのハンマーを渡されたのに近い
    学習には莫大な時間投資が必要だ。LLMを使ってもその時間が短くなるわけではない
  • AIはスポーツに具体的にどう役立つのか？ より良いアスリートになれたのか？ たとえばコーチの観点から、各スポーツの戦略をより学べたのか？ 詳しく教えてもらえるか
  • 実際、同意する。LLMで概念を学び、探求できるとは確かに感じる。だが、そもそも私は独学志向が強く、意欲の高い人間だった
    私が知っている技術的なことはすべて、自分の努力で学んだものだ。だから私は、これらのツールがより多くの仕事をさせるモデルではなく、より良い仕事を助けるモデルとして宣伝されてほしい
    今は人々の能力を引き上げるより、大規模解雇の言い訳として使われている。当然、自分の実力を実際以上に見せるために使う人たちも大量に呼び込んでしまった

• ツールの使用はたいていこういう曲線をたどる。何らかのスキルを維持したいなら、実際に維持しなければならない
  これ自体が本質的に悪いわけではない。ツールは、ツールなしでできることよりはるかに多くのことを可能にするし、あるスキルがツールに代替されるときでも本質的に重要なのかどうかには議論の余地がある

  • ここで難しいのは、私たちが退化させようとしているスキルの集合が、事実上無限の範囲に及ぶことだ
    電卓のように問題領域が明確に定義された特殊なツールではない。実際には多くの人がコーディングやビジュアルデザインのような専門領域でAIを使っているが、原理的には、いま自分たちが働いている抽象化レベルそのものをAIに委ねられない理由はない
  • この場合の大きな問題は、このツールをうまく使うためにも基礎スキルが育成され、維持されていなければならない点だ。電動ドリルとはまったく違う
  • 問題ないかどうかの違いは、そのツールがどれだけ信頼できるかにかかっている。電卓やコンパイラなら問題ない。記事中の例である機械学習の画像分類も問題なさそうだが、確信は持てない
    LLMの出力は信頼できないので、依然として判断が必要だ。コードを判断できるようになるには、ある程度は自分で扱った経験が必要になる。だから信頼できないツールは、その不確実性を受け入れない限り、あまり役に立たない
  • その通り。だがそのツールを所有できず、中央集権的で、さらには政治や国家に隣接した集団の手にあるなら、「コンピューターではできません」と言われる瞬間に非常に困ることになる

• Staff+ エンジニアを考えれば驚くことではない。彼らの仕事は、AIに指示を出すこととかなり似ている。多くは努力、優れたエンジニアリング能力、ソフトスキル、そして少しの運で梯子を上っていく。だが会社が大きくなるほど、コーディング、デバッグ、深い設計に使う時間は次第に減っていく
  その代わり、非常に技術的なプロダクトマネージャーのように振る舞う。VPたちが高レベルな製品要求を計画し書くのを助け、そこに技術用語を少し散りばめる。ホワイトボードに箱を描き、きれいなスライドを作り、リーダーシップが満足するような polished な文書を書く。会議中でなければ次の会議に向かっており、技術的なアイデアがあればチームを送り込んで検証させる
  もちろん今でも自分は深く技術的だと感じているが、障害対応をしたり技術面接を通過したり大量のコードを書かなければならない日が来ると、腕が鈍っていることに気づく
  批判したいのではなく、本当のキャリア上の課題を強調したいだけだ。エンジニアとしては技術力を磨きたいが、組織の梯子を上るにはより多くの組織的な仕事を引き受けなければならない。思いつく唯一の解決策は、研究者や教授に近づくことだ。良い教授は、時がたつにつれて論文を書いたり式を導出したりする時間は減るが、洞察は深まり、博士課程の学生を指導して優れた結果を出す。ただしその道は言うほど簡単ではない

• 私が見る最大の悪影響は、人々が自分の投げ込んだものを評価するにはあまりにも速く動いてしまうことだ。速すぎると、センスを育てたり、同じ問題に対する複数のアプローチのニュアンスを理解したりする時間が持てない
  私も LLM をかなり使うが、吐き出されたコードを前に座っている時間は、同僚たちより平均してずっと長い気がする。最初に出てきたものは「動く」が、頭の中で少し寝かせてから実際にマージしてよいと感じるまで、たいてい元のアイデアをさらに2〜3回は繰り返すことになる
  だから全部ひっくるめると、本当に重要な設計レベルの関心事については、生産性が大きく上がったとは感じない

• まず、内視鏡研究の価値が気になる。AI による潜在的な脱熟練の前後で発見された腺腫の数を比較するには、腺腫発生率が一定だと仮定する必要があるが、その仮定が必ずしも安全には見えない
  研究自体の問題なのか要約の問題なのかは分からないが、参加者がベースライン分析と比べてどれだけうまくできたかを測るほうが、はるかに良い研究設計だったはずで、実際に技能変化があったという確信もより与えただろう
  また、読影時間が短くなったのか、あるいは AI が素早く読んだせいで以前のやり方でスキャンを読むときにより大きなプレッシャーを感じたのかも気になる。これは潜在的な交絡要因だ
  次に、AI のせいで測定可能な脱熟練が起きること自体は驚きではない。だが以前でも、スペルチェッカーや電卓による脱熟練は見つけられたはずだ。それでも今日、ワードプロセッサを使うなとか、手足の指で数えろとか、筆算の割り算をしろと言う人はいない
  どの技能と知識が専門家にとって本当に重要で、何を技術に外注できるかには常にトレードオフがある。今は技術が新しいだけでなく変化が速すぎるので移行期にある。数年後、導入曲線のさらに上に進み、いくつかの領域で変化の速度が安定すれば、コーディングや医療のような分野では、知識と技能の組み合わせを要する AI の使い方に落ち着くだろう。そして今日では職務の中核と見なされていることを、人々がもはや知っていたり自分でやったりしなくてもよいことに慣れていくのだと思う

• AI が消えて、失った技能を後悔するような状況になるだろうか。最悪でも最先端の代わりにオープンウェイトモデルを使う程度だろうから、大きな問題ではないと思う
  電卓が発明された後、人々は算術が以前よりできなくなったはずだと確信している

  • 本当の脅威は個人レベルではなく、社会レベルにあると思う
    時間をかけて技能を積み上げると洞察が生まれ、その洞察がイノベーションにつながる
    AI は面白いことをたくさんするが、まだイノベーションはできていない
    本当の脅威は、私たち全員が技能を失い、しかも AI へのアクセスも失うことではない。そうしたことは起こり得るが、アクセス喪失の可能性は低そうだ。もっと大きな危険は、AI がだいたい現在の水準にとどまる一方で、私たちがそれに依存して技能を鈍らせ、あまりに多くの思考を非革新的な機械に委ね、イノベーションが停滞することだ
    必ずそうなると言っているわけではないが、十分あり得る結果には見える
  • 2023年以前のコンピューティングの歴史全体が消えたのか。本当にそこまで終わっているのか
  • 「電卓が発明された後、人々は算術が以前よりできなくなった」という文では、LLM については「算術」を変数 X に置き換えられる
    「LLM が発明された後、人々は X を以前よりできなくなった」
    問題は、X という技能が退化すること自体だけではない
    LLM において X が事実上あらゆる知識とコミュニケーション技能であることが問題なのだ
    社会は、事実上あらゆる知識とコミュニケーション技能が退化する状態に本当に耐えられるのか
  • 最悪の場合、認知の萎縮を経験する。より愚かになり、より怠惰になる