私たちはAIに考えすぎを委ねすぎているのか？
(artfish.ai)- 些細な選択から複雑な調査・推論まで、AIが完成された答えを提示するようになり、時間の節約を超えて、思考の自律性をどこまで守るかが重要になっている
- 検索エンジンは質問の分解や情報源の評価、答えの統合を人間に任せていたが、Google Deep ResearchやOpenAI Deep Researchは、これまで数分・数時間・数日かかっていた中間的な思考プロセスまで代行する
- ポルトガルの植民地の歴史について、まず仮説を立てて議論し、その後AIで検証すると、AIはいくつもの仮説を裏づけ、新たな説明も加えた一方で、妥当な可能性の一部を見落としており、先に考えてからAIを使うことの価値を示した
- Geminiの翻訳、コーディングエージェント、ChatGPTの個人教師のように、AIは反復作業や学習負担を減らせるが、学生たちがほぼ同じ課題回答を提出した事例は、答えを得ることと考えることを学ぶことは別だと示している
- AIが単純作業を自動化するだけでなく、何を望み、どんな決定を下すかまで代行するなら、人間は利便性とともに行為主体性も明け渡してしまう可能性がある
日常の判断まで代行し始めたAI
- AIに調査・推論・回答を任せることは、些細な決定から複雑な思考まで簡単で便利になっており、一部の環境では積極的に推奨さえされている
- Ken Liuの2012年の短編 The Perfect Match には、利用者の好みや気分を知っていると語る汎用AIアシスタント Tilly が登場する
- 主人公は、朝に何を食べるか、どんな音楽を聴くか、誰とデートするか、デートで何を話すかまでTillyに任せる
- Tillyが科学的に好みに合った選択を見つけてくれると信じ、服装のような些細な決定から恋愛相手を見つける重要な決定まで委ねる
- San Franciscoのあるスタートアップイベントでは、シャツに指2本幅以下の金属製カプセル型マイクを付けて、あらゆる会話を録音する人物が現れた
- 1日の終わりに、録音した会話を要約・分析するワークフローを実行する
- 彼は、Claude Fableは自分より批判的思考が得意だと信じ、あらゆる思考を任せていると語った
- 彼のスタートアップは、人間エンジニアのあらゆる入力と作業を明示的な同意なしに収集し、エンジニアを置き換えようとしている
検索結果から完成された答えへ
- Claude、ChatGPT、Gemini以前にも、人々は思考の一部を検索エンジンに委ねていたが、検索では依然として質問の分解・情報源の評価・答えの統合が必要だった
- AIはこうした中間段階を代行し、複雑または専門的な質問にも数分以内に完成された回答を生成する
- Google Deep Research と OpenAI Deep Research は、1人の人間が数分から数時間、長ければ数日かけていた作業を処理できる
- AIモデルが完了できる作業時間の範囲については、METRの Task-Completion Time Horizons of Frontier AI Models で扱われている
- こうしたツールは時間だけでなく、自分で考える過程そのものも減らすため、業務支援と自律性の喪失の境界を曖昧にしうる
- 人生の重要な事柄の最終決定を誰が下すのかによって、AIアシスタントが作業を補助する段階なのか、決定を支配する段階なのかが分かれる
速い答えと遅い思考を区別する
- 現在の天気、10年前の特定の国の大統領、スキンケアやスポーツ用品の商品レビューのように、多くの問いには速い答えが適している
- 一方で、すぐに検索せず、もっと長く考える価値がある問いもある
- 携帯電話を持たずに散歩していると、サクランボは木と低木のどちらに実るのか、最初のワールドカップの試合はいつどこで開かれたのかといった疑問が浮かぶが、家に着く前にたいていは忘れてしまう
- 本当に重要な少数の問いだけが記憶に残るのだとすれば、些細な疑問を忘れ、すべての疑問に即座に答えないことにも価値があるかもしれない
まず仮説を立て、AIで検証したポルトガル旅行
- ポルトガルの Monument to the Discoveries は、ポルトガルのいわゆる大航海時代を記念している
- ポルトガルでは当時の人物が「発見者」や「探検家」として崇敬されているように見えたが、アメリカでは同じ人物を「征服者」や「植民地主義者」と呼ぶかもしれないという違いを感じた
- 現地のツアーガイドは、Henry the Navigatorのような人物はアメリカにおけるChristopher Columbusのようにキャンセルカルチャーの対象ではなく、おおむね尊敬される歴史上の人物だと答えた
- なぜポルトガルは植民地の歴史に誇りを見せ、アメリカとは異なる反応をするのかが気になり、姉妹はChatGPTにすぐ尋ねるのではなく、まず自分たちで仮説を立てることにした
- ポルトガルはアメリカより相対的に同質的で宗教的だという可能性
- 「大航海時代」がポルトガルの国家的叙事において最も際立つ章の1つだという可能性
- 2人は推測し、つなぎ合わせ、反論し、意見を変えるなかで、昔学校で学んだ歴史の知識を思い出した
- 仮説の一部が誤っているかもしれないと分かっていても、記憶や知識、世界への理解、批判的思考を総動員するその過程自体を練習していた
- その後AIに同じ質問をすると、既存の仮説の多くを裏づけ、見落としていた説明も加えたが、2人がなお妥当だと考えた可能性の一部は取りこぼしていた
- 質問→仮説生成→AIによる検証と拡張という順序を取れば、AIは人間の思考を置き換えるのではなく補完できる
反復作業を減らす生産的な活用
- Geminiが難しい課題を解決し、考え、道具を使う能力を測る業務においても、AIの実質的な活用可能性を確認できる
- 業務や学習の現場では、AIは所要時間を大きく減らし、人がより重要な部分に集中するのを助ける
- 韓国企業で働く利用者は、Geminiで長い英語の公式報告書を韓国語に翻訳し、業務速度を高めている
- 研究者はアイデアを発展させ、詳細な実装はコーディングエージェントに任せ、分析により多くの時間を使っている
- ある学習者はChatGPTを個人教師として活用し、生化学を最初から学びながら数か月でMCATの準備をした
- 平凡な思考や反復作業をAIに任せ、より重要で興味深い思考に時間を使えるなら、生活の満足度と生産性は高まりうる
- OECDの職場におけるAIの影響レポート は、AIによる定型的・反復的・退屈な作業の自動化を扱っている
- International Labour Organizationの Digital Labour Platforms and the Future of Work は、人間の労働者が低賃金で担ってきた作業を扱っている
- AIが何時間にも及ぶ骨の折れる単純作業を処理するなら、人はより面白く、充実感のある思考に集中できる
学習プロセスを飛ばしたときに生じる問題
- オンライン大学で物理学を教える教授は、ほとんど、あるいはすべての学生がAIで課題をこなしているのではないかと疑っている
- 一部の回答は、学生たちが同じAIに問題文をそのまま貼り付けたかのように、ほぼ同一である
- 学生個人の考えや意見がなく、一般的なAI回答が繰り返されている
- AI利用の有無を証明する方法はなく、回答自体はかなり包括的なので、大半の学生がA評価を受ける
- AIは学習を支援できるが、答えに至る方法を教えないまま結果だけを生成してしまうこともある
- 物理の問題でどの方程式を使うかを決めたり、エッセイで情報源や論拠を選んだりする過程は退屈かもしれないが、それを省けば学校と学習の目的そのものが弱まってしまう
単純作業の自動化と思考の自律性
- 思考の完全な自律性と単純業務の自動化を明確に切り分けるのは難しく、実際のAI利用は両者が混ざり合った形になる
- 個人データを収集・分析する作業も、ある意味ではMicrophone Manのやり方と似ている
- 自分でデータを収集し分析した 個人記録プロジェクト がある
- 以前には AIに個人データを分析させた こともある
- 違いがあるとすれば、自分でデータを集めて選別し、答えを得たい質問を作り、最終結果を評価した点かもしれない
- 他人の会話を録音せず、自分自身のデータを使ったという違いもある
- 単純作業を自動化してやりがいのある活動に時間を使うことと、学習経験のために自ら作業することのあいだには、常にバランスが必要だ
欲望と行為主体性を誰が形成するのか
- The Perfect MatchのJennyは、Tillyは利用者が何を望んでいるかを教えるだけでなく、何を考えるかまで決めていると批判する
- 自律性は、少なくとも部分的には、自分の欲望を自ら形成する過程に継続して参加することにかかっている
- 聴く音楽、見る映画、食べる物、履く靴までAIに任せれば、自分が何を望むのかを自ら判断する能力も一緒に手放すことになる
- AI自動化を評価する際には、それが人間の仕事やタスクを減らすものなのか、それとも人間の思考や行為主体性まで代行するものなのかを区別しなければならない
1件のコメント
Hacker News の意見
過度な使用かどうかは主観的なので、AIを多用する人は誰でも、その潜在力を引き出しているのだ、電卓だって人間を愚かにはしなかった、と反論できる
しかし、電卓に足し算を任せても私は私のままだが、思考の大半をLLMに任せたら何が残るのか。子育て、人間関係、製品設計まで任せるなら、自分が世の中に加える固有の価値は、一度書いたプロンプトだけなのかと問うことになる
人間が書いた小説は、苦労して得た共有体験に根差しているから本質的により価値があり、私も昔ながらの方法で小説を書ける人間でありたい。運動も得意ではないので、せめて自分の思考力だけは守りたい
AIを「次に何をして、どう直せばいい？」と尋ね続けるイヤリングのように使うこともできるし、望む結果の形をあらかじめ決めたうえで「この問題に xyz 距離空間を適用した kd-tree を実装せよ」と命じる外骨格のように使うこともできる。後者はすでに思考を終えた後の実行の自動化なので検証しやすいが、前者は思考力を萎縮させる
数年前には Drupal サイトすらまともに設定できなかった高校時代の同級生が、今ではAIスタートアップの最先端エンジニアになり、LinkedInには毎日AIの流行語を投稿している。結局、AI生成物と人間の成果物を区別できない時点が来るだろうし、すでに区別できない人も多い
LLMでプログラミングするときも、何を依頼するか、結果が要求範囲に合っていて正確かつ安全かを判断する知識が必要だ。成果物を自分で検証・修正しない非技術者は、いずれ自力ではデバッグできない壁に突き当たり、人の助けが必要になる
当時の数学教師から見れば、学生の批判的思考は確かに減っていた。計算尺や数表を使うときは有効数字などを考えなければならなかったが、電卓はそうした思考を要求しない
同僚のプロジェクト計画をレビューしながら、基礎的なパラメータを自分で調べ、理解できない部分を質問したところ、その同僚は会議で、私がClaudeが見つけられなかった問題をいくつも発見したと言っていた。分野特有の落とし穴をまだ学んでいない新人には特に危険で、この場合は経験者でさえ作業を丸ごとLLMに渡していた
「これからは自分を管理者だと思え」という助言とは逆に、AI時代により役に立つ人になり、AIも効果的に使うには、技術的理解を深く積み上げる方がよいと思う
子どもたちには興味のある分野の教科書を読むよう勧めているし、自分もそうしている。遠くない将来、深い理解そのものが希少で価値ある資源になると予想している
優れた現場管理者はおおむねこうした能力を持っており、最初から持っていなかったり、ずっと前に失っていたりする管理者は苦戦していた。上級管理職や役員を管理する仕事は別物だが、LLMの管理は現場管理に近い
ほどほどに有能だが時に致命的に間違えるAIと対話すると、質問し、答えを疑い、調査・推論し、批判したうえで反復することになる。教科書はより正確である可能性が高いが保証はなく、情報を一方的に伝える。一方、間違ったAIの回答は、資料に能動的に関わらせる
設計レビュー中、後輩開発者に特定の計算をした理由を尋ねたら「分かりません」と答えられて衝撃を受けた。間違った計算全体がAI生成物で、本人はそれが間違っていることすら見分けられなかった
ほとんどの人は新しい知識を学ぶためにAIを使っているのではなく、業務そのものを代行させており、結果も理解していない。プロンプトを生成するリソース以外に何の価値も加えられないなら、人間はなぜ必要なのか疑問だ
自分のコードを一度も読んでいないと認めた学生には、「叱っているのではなく、今あなたは、ここで自分が完全に不要だと自分で言っているのだ」と伝えた
人間の作業を自動化しているのだと自分では信じやすいが、ますます自動化されているのは人間の主体性と思考だ。モデルがデフォルトで提示したり、プロンプト一つで出したりする考えは文法的にあまりに完璧なので、それを無視して白紙から推論するのは難しい
思考過程を近道で飛ばそうとするモデルに対抗するには、一部の課題やアイデアをAIから隔離する必要があるかもしれない。しかし、速く多くの成果物を出さなければならないというプレッシャーの中で、どの精神作業を隔離するかを決めること自体が非常に難しい
今後は、あらゆる発言にLLMの引用を付け、あらゆる行動に承認を得なければならない、思考をAIに強制的に委託する時代のほうがより恐ろしい。会議で出したアイデアをFable 9が悪いと判定したら推進できず、逆らえば解雇されるかもしれない
抵抗が最も少ない道は常にLLMの指示に従うことなので、多くの人が思考を完全に放棄するだろう。AIは対話はできるが反論してはならず、ただ心を変えるよう説得しなければならない神のように扱われる可能性があり、これはひどい精神的抑圧で、ほんの数年先に迫っていると思う
すでにLLMに考えを任せたあと、それが間違っていると伝えると怒る人は珍しくない。うちの会社が提供してもいない製品やサービスを求めてきて、LLMが間違っている事実は受け入れず、むしろ現場の専門家である私たちが間違っていると非難する。わずか3年半で、LLMが専門家より高い権威と見なされる事態が、思ったよりはるかに広く起きている
電卓を使う前に頭の中で答えのおおよその桁数を見積もるように、LLMにも同じ方法を適用している。自分ならどう答えたかを先に考え、その近さを比較し、回答を信用しないまま文脈の微妙なニュアンスを考慮する
ただ、的外れな部分を過剰または不十分に説明し、質問には形式上答えるものの、客観的にひどい解決策を出してくると、より強く疲れる。空欄を残さないために点取り用の冗長な答えを書く学生のように感じる
最近の私のコンサルティング業務は、他の人たちがAIに思考を任せたあとに起きたことの後始末をする方向へ、ますます傾いている
研究課題と無関係な、めちゃくちゃな重複排除を正規表現で処理しようとしてClaudeに何か月も費やす研究者もいれば、研究方法論全体をChatGPTから即興で引き出すこともある。結果はいつも混乱しており、莫大なストレスと時間の浪費を生む
非技術者はLLMを神託のように捉え、結果の含意をほとんど検討しないまま大きな仮定や決定を下す。批判的思考の欠如はAI以前にもあったが、今はまったく新しいレベルで、誰かが「Claudeに聞いてみよう」と言ったせいで、あちこちで間違ったことが起きているはずだ
dockerとagentsについて、後輩エンジニアのように具体的な質問をたくさんしてくる。どちらの職業も本来、自分や他人の仕事を批判的に検討し、丁寧に扱うことに多くの時間を費やす技術者も含め、多くの人がLLMを神託のように扱う理由は、私たちの文化が、レンガが正しい場所へ行くか、そもそも正しいレンガなのかよりも、レンガをより速く運ぶことを重視しているからだ。ここでレンガがなぜ重要かは、https://www.business.com/articles/management-theory-of-frank... と https://en.wikipedia.org/wiki/Time_and_motion_study で見られる
LLMは人々をより怠惰にしているように見える。答えを探す前に自分では何の努力もせず、まず質問を投げかけ、相手がすべての作業を止めてAIのように詳細に答えてくれると期待する
説明書やドキュメントは誰も読まず、読む集中力も意志もなく、存在するかどうかすら確認しない無駄なものとして扱われる。もともとある程度そうだったが、LLM以降、自分で考えて解決する能力がはるかに悪化したと感じる
生成AIをまったく使っていないので、個人的には思考を委託してはいない。さまざまな技術・プログラミングフォーラムを見ていて、業界が向かう方向が嫌だ
この流れが消える望みはまだあるが、長く続けば続くほど被害も大きくなると思う
そもそも、大半の人が実際に考えているという前提からして疑わしい。たいていは他人の考えに触れて身につけた型どおりに行動し、それを受け入れたり、互いに衝突したりすると、無理に一貫性を作り出す
本当の思考は難しく時間もかかるが、他人から学んだ型だけでも低い目標を達成するには十分なので、時間と労力を投じる動機は少ない。現代のAIは、現代人の思考不在を、より速く、はるかに多くのエネルギーで実行する拡張版に近い
技術者たちが人間をこれほど取るに足らないものと見なすなら、人類の未来が恐ろしくなる。結局、あなたの身体的資源がクリップ生産に再割り当てされても、誰も悲しまないだろう
少数だけが苦労して考え、新しく有用なものを発見し、多数は批判せずにそれを模倣できる。励みになる人間像ではないが、誰かを貶める理由もなく、戦略的に扱うべき人生の現実に近い
https://en.wikipedia.org/wiki/Mimesis
AIは既存の思考不在の拡張にとどまらず、存在しなかった問題も生み出す。科学者や大学院生、博士のように知識の最前線で深く考えていた人々でさえ、LLMの使用によって思考能力を失いつつあると懸念している。これをより速く、より多くのエネルギーで悪化させることを諦めるのではなく、止めて元に戻すべきだ