- 最近、何かを書いたり作ったりしようとするたびに、AI時代にはその行為が無意味だと感じてしまう
- 自分が作る前に、すでにAIがもっと上手に作ってしまっているため、創作行為への動機を失っている状態になっている
- 自分が思いつくアイデアは、まるでLLMの中に存在するより良い草案の影のように感じられる
- 以前はアイデアが浮かぶと、それを文章としてゆっくり磨きながら、考えを明確に整理する過程を踏んでいた
- 書いているうちに自分の考えの穴を自ら見つけて補い、それ自体が思考の強化につながる体験だった
- 書くことは単なる表現手段ではなく、自分の主張を形づくり、意見を構築する道具だった
- 思考は複利のように蓄積するので、より頻繁に考えるほど、より良い思考が可能になった
- 今はアイデアが浮かぶと、プロンプトに二言三言入力するだけでLLMが完成された思考を提供してくれる構造になっている
- そのせいで、自分の内側にある思考システムが少しずつ萎縮していくように感じている
- 直感、鋭さ、内面的な探究心が少しずつ失われ、もはや自分自身で考えを共有しようとする動機を持ちにくくなっている
- 最初はAIを、自分の思考力を拡張する生産性ツール、いわば知的な自転車のようなものだと認識していた
- しかし実際には、Netflixをスクロールしたり、テレビを消費したりするのと同じような受動的な体験に近い使い方になっていた
- つまり、実際の思考力向上には役立たない
- AIが作った結果を読む行為は、知的省察の旅が省略された過程である
- 自ら問いを探究し、試行錯誤や内的な議論を経る過程こそが、知的成長の核心である
- AIが与える知識は速くて便利だが、その過程には内面的な思索の訓練が欠けている
- 皮肉なことに、今の自分は以前より多くの情報を知っているのに、より鈍く、愚かになっているような感覚をしばしば覚える
- AIは答えを提供してくれるが、その答えは自分のものではない知識であり、理解へと変換されない
- LLMを通じて得られるのは知識だが、自分自身で獲得した理解とは本質的に異なる
- AIとともに行う思考は超人的な能力のように感じられるが、実際にはむしろ内的探究の本能を麻痺させる「鎮静効果」に近い
- それでも、このように自分の手で文章を書き、生のままの思考を伝えようとする試みそのものには、今なお意味がある
8件のコメント
同意します。LLMを使えば使うほど、だんだん深く考える能力を失っていく気がします。なので最近は、知らない内容を質問するときはできるだけ細かく、私が知らない要素だけを別に切り分けて質問し、補うやり方で活用しています。
AIブーム以前から、絵であれ文章であれ、すでに無数のものが存在していて、新しいものを創作するのはあまりにも難しかったですよね。
最近はAIのせいで変化を経験した、という類いの文章が多いですが、その大半はすでに存在していたもので、探せば出てくるものばかりでした。
AIはそれを対話型に包装してくれるだけなんです。
AIが初めて登場したときから、これは『涙を飲む鳥』の幻相壁のようなものだと思っていた。すでに知ってはいるけれど思い出せず埋もれている思考を引き出してくれるものだと。自分が思いつく前からすでに存在しているのだから無意味だというなら、本を読むことと何が違うのか。では本を読まずにただ文章を書くのは？ 自分が費やす努力と時間が違うだけで、たいていの考えはすでに存在しているのではないか。無数のアイデアの中で、最初に思いついた瞬間から本当に「新しい」と言えるものはまれで、結局は反復を通じて差別化を創り出していかなければならないというのと同じように思う。そして純粋な創作活動に多くの労力を注いできた人ほど、あるいはそれを職業にしてきた人ほど、AIを使った創作活動に対して懐疑や拒否感を覚えるように見えるが、結局筆者が言うように、AIと共にする創作が「超人的」と感じられるほどAIの創造性が人間より優れているのなら、それを拒むのは逆らえない流れに対する、愚かと言えば愚かな抵抗なのではないか。AIが作った結果を批判的に考え、知的省察を経て知識を理解へと転換するのは人間の責任だ、という意見なら同意するが、AIと一緒にいると内的な思考が麻痺するので注意すべきだ、という意見なら、これは良すぎるから自分だけ使おう、くらいに思える。あるいは、そもそも批判的思考やメタ認知が不足している人だったのかもしれない。
少し似た文脈で、私のデジタルガーデンも公開しています。今は知識の断片は手に入れやすいですが、それが自分の中に染み込んでこないんですよね。GeekNewsで驚くような文章にたくさん出会います。ここのキュレーションは誰がしているんですか？
https://notes.junghanacs.com/
まさに最近の自分がこんな感じです…
ビジネスに役立てるために開発をしているのだから……
実装の細部をLLMが担ってくれる分、自分のアプリケーションが会社全体のビジネスにおいてどのような役割を担っているのか、そして市場全体の中で自分たちのビジネスがどのような意味を持つのか、といったことに気を配ればいいのではないでしょうか。
そして、LLMが実装の細部を本当にすべて担えるのかについては疑問です。
Excel の関数を導入して以降、足し算や引き算をする自分の能力が衰えたと感じる、という類の文章に見えるので……90〜00年代にオフィスへ Excel が初めて入ってきた頃には、こういう話はなかったのか気になります。
Hacker Newsの意見
これから数か月、数年のうちに社会は大きく分化していく気がする
表現を生み出すという過程それ自体が、ブランダム（Brandom）の言う概念的・合理的分節である
概念はすでに存在していて、単にトークンの組み合わせとしてエンコード・デコードされるだけだと考える人や、そもそも推論や概念化の過程自体を認識していない人は、自動化の対象になる
これは職業の自動化の話ではなく、自発性を放棄して、ますますロボットのように生きるようになるという意味だ
ロボットとは「完全に機械的なやり方で仕事や活動をする人」という定義である
あまりに多くの人が生産主義イデオロギーの虜になっている
創作とはコンテンツを作り出すことが本質ではないのに、創造行為の目的はコミュニケーションと相互変容にある
デジタル生成物もこうした目的に使えるだろうが、単なる生産そのものが目的だと錯覚している人が多く、それは暗く悲しい袋小路だ
私たちが作り出すものはすべて、経験したことや目にしたことを土台にしている
完全に新しいもの、現実にまったく基礎のないものを想像しようとしても不可能だ
作家がエルフを作ったといっても、結局は人間に尖った耳を付け足したにすぎない
さまざまな観測結果を見る限り、LLMが人間の思考の質に与える影響は総じて否定的だという印象がある
子どもの学校がLLMを強く禁止してくれていて本当にありがたい
授業中に教師の目の前でやった課題しか提出できず、紙の課題の比重も大きく増えた
両親ともに教育学の教授だった家庭で育ったので、さまざまな学習法の比較はよく話題に上った
能動的な学習（自分で作り、動くこと）は、受動的・受容中心の方法よりはるかに効果的だ
LLMはおおむね後者なので、そこが心配だ
外国語を学ぶとき、単なる語彙や文法の暗記では力は伸びず、その場で文を組み立てる会話ではまったく別の脳の部位や能力を使っているように感じる
LLMが否定的な道具だという話は今に始まったことではない
私の学生時代も電卓は必要だったが、記号的な方程式を解ける高価なモデルは禁止されていた
答えを即座に得ることは、その課題の本質的価値そのものを無力化し、むしろ成長を妨げる
「ハードコアな禁止」が具体的に何を意味するのか気になる
私が通っていた学校には、嘘や不正行為が一度でも発覚したら即退学という、単一で厳罰的な倫理綱領があった
試験の一番上にその綱領へ自分で署名した
この綱領のない学校に通っていた友人たちは、あまりに保守的な伝統だと不満を言っていた
だが今のところ、「AI禁止」を強制するのにこれより良い方法はなさそうに見える
私の学生時代にもインターネットは普及し始めていたが、テーマに沿ったリサーチではインターネット使用禁止で、オフラインの図書館だけが許可されていた
理工系の大学でも1年次にはすべての技術製図を鉛筆と定規で直接描かされた
実際の現場や標準はコンピューターグラフィックスだったのに、あえて手作業を強制していた
個人的には、こうした極端な禁止が本当に役立つかは懐疑的だ
時代の進歩も止められない
むしろ技術の使い方を教えるほうがいいと思う
LLMやWikipediaのようなものからでも、本当に多くを学べる
核心は好奇心と学びたいという欲求だ
それがなければ、何を使っても成長しない
LLMは人間の個別の経験（あるいは経験に基づく文章）を置き換えられない
事実を繰り返したり平均的な意見を再現したりするだけでは、唯一無二の人間の思考は代替できない
AIと自分の思考の質で競争するという発想自体が、あまりにも悲しい見方だ
君が書く小説も、君の物語も、君の持つ技能も、すべてすでに先例があり、誰かがもっと上手くやっている
人生の目標が「世界一」なら、そもそも成功確率は低い
仮に達成しても大した意味はない
世界最高のJavaプログラマーが誰なのか、その最高の地位が大きな愛や名誉を受けるものなのか考えてみればいい
AIが私の感じる実存的不安をいろいろな形で煽るが、その一つは平均的な思考へと押し込もうとする点だ
技術の構造上ある程度は避けられず、これが怖いのは創造的な思考が常に周縁にあるからだ
問題に行き詰まる瞬間こそが新しい何かに触れる直前なのに、AIを使いたい誘惑がその新鮮さを奪い、すでにあるものを複製させてしまう
「AIが平均的な思考へ導く」というのは興味深い見方だ
しかし主導権は常に自分にある
AIを神のような存在と見るのではなく、いつでも切り離せて、指示して、修正して、再要求できる助手と見ればよい
「何を」を考えることに集中し、「どうやって」の一部だけを任せればいい
むしろ今のように、頭の中にあるコーディングのアイデアを即座に試せる時代は初めてだ
以前なら永遠に実行できなかったようなアイデアも、ClaudeにPOCを頼めば具体化できる
その一方で不安が大きいのも事実だが、あらゆる流れが政治・技術・人間の本性の交差点で展開しているように感じる
「強い者」にだけ道具を任せれば社会はさらに不利になりうるので、この強力な道具を市民の側から活用して、組織化や協業の新しい方法を見つけられるかもしれない
LLMを何年も使ってきたが、所詮は便利な道具にすぎず、使っている感覚が記事とは違うので不思議に思う
LLMで漫画風の画像を作ってみると、最初は「おお」と思うが、すぐに同じようなスタイルの反復になる
詩も一、二回は見事だが、何度も回すと深みや味わいに欠けた無味乾燥さが出てくる
音楽も似たようなもので、（韻律もメロディも）反復性が目立つ
Podcastを作るときも最初は面白いが、進行そのものが反復的で、司会者たちにも深みや理解が足りない
質問で途中途中に割り込めば少し良くなることもあり、その点はやや微妙だ
テキスト生成も時間がたつと「メタリック」な人工っぽさが強く感じられる
検索機能はそこそこだが、少し誘導するだけで答えが大きく変わるので、無条件には信じられず、常にクロスチェックが必要だ
わざと反対の観点でもLLMを誘導して、相反する見解を得ながら学ぶ必要がある
コード生成は単純なものには良いが、複雑なものでは微妙なバグがかなり出るので、すべての行を自分で理解しなければならない
むしろその「バグ探し」の過程が面白く、人間と同じようなミスをすることにささやかな楽しさを感じる
だから本文の著者が言うこととは正反対の効果だ
すばやくアイデアを試せて、偏りの少ないフィードバックのおかげで、むしろ文章を書くことがもっと楽しくなった
LLMを見下す意見が出るたびに、実際には私は毎回ずっと多くの実質的な助けを得ている
とくに非自明なコードや最新モデルでは、その実感がはっきりしている
AIが思考を抑制する、つまり考えようとする動機の喪失を扱っている点は現実的な問題だ
他の要因もあるが、AIだけがもたらす新しさは「努力しなければならなかった動機」の消失にある
以前なら一日中ネットを見ていたとしても、ブログ記事も書けず、名声も得られなかった
今ではAIがブログもメールも本も書いてくれる
自分で考えようとする内発的動機がなければ、AIで適当に済ませるのがずっと簡単になる
一方で、著者は本当はAIのせいではなく、ただ落ち込んでいるだけなのではないかという気も拭えない
人生の意味は自分で作るものだ
AIのせいで人生が無意味に感じるなら、使わないという選択もできる
意味のあることは今でもたくさんあり、「AIより速く文章を書くこと」が最終目標でないなら、別のことに集中できる
何か新しくて面白いことを書けないと感じるなら、むしろ木工や手工芸のようなものを勧めたい
私にとっては、新しい考えを実験し試すための障壁が大きく下がったように感じる
以前は時間や費用の問題で諦めた道が多かったが、今は自由に多くの道を試せる
人間は社会的存在であることを思い出させられる
道具そのものに置き換えられることよりも、その道具を喜んで使って人間を入れ替えようとする熱心な集団の存在そのもののほうが、はるかに憂鬱だ
人間優先という前提が、ますます「論理的誤謬」のように扱われる時代だ
いつか流れは戻るだろうが、今はかなりつらい時期だ
こうした刺激的な議論がさまざまな立場から活発に交わされているのは心強い
AIを物理的な組み立てや実習プロジェクトに使うとき、自分の役割がずっと主体的に感じられる
たとえば、自分があまり詳しくない電子工作やマルチメディアのような実物プロジェクトでAIを助手として使ってみると、自分が手を出せなかった領域にも自然に挑戦できる
核心は、「可能性を最大限広げたい」という欲求があるなら、AIで障害を減らしながら楽しく成長できるということだ
コンピューターの前に座っているだけではなく、本当に自分の身体でやり遂げたという達成感を得やすい
ただし、誰もがこういうことを望むわけではなく、好みはさまざまだ
その一方で、「誰かを助ける脇役」になると少し不安になる
以前なら誰かが目標を達成するには私が直接開発を手伝う必要があったが、今ではLLMで本人がかなり先まで進める
こうした変化は前向きだ
ただ、雇用や職業という観点では少し不安もある
自分自身としては、「手段」より「目的」に近い仕事をしたいという結論になった
「AIより自分が作るものに競争力がない」という文章について言えば、創作の過程そのものに楽しさを感じられていなかったことが、最初から問題だったのではないか
ミキサーが私より上手に生地をこねられても、手でこねる楽しさは私のものだ
パン屋や職人が私より上手でも、自分で作る楽しさには競争は関係ない
陶芸でも製パンでも同じだ
ひたすら「自分にしかできない」という感覚からしか喜びを得られなかったなら、実はAIが出る前からアプローチを間違えていた
もう少し好意的に解釈するなら、「世の中にこれまで存在しなかった何かを貢献する」ことから得られるやりがいを強調しているのだろう
他人に対する優位ではなく、「新しい貢献」であることに焦点がある
人はそれぞれ、ある時点でそうした事実（過程こそ本質であり、結果は重要ではない）に気づく
ある書き手の理屈に合わせて説明するなら、「ストア派の弓術家」の比喩が使える
目標（成果）より行動（過程）に集中すれば、失望から解放される
たとえばパーティーで友人を作ることを目標にするより、誠実に向き合うことを目標にすれば、成功の可能性も満足感も高まる
過程中心の目標設定が重要だ
その文章で主に扱われているのは、ポストAGI時代における人間の技能価値の低下だ
怖いのは、私たちの身体的・精神的労働がそのまま収入手段だからだ
GPUと資本さえあれば、人間の代わりに知的エージェントを1000体投入できる
AGI時代にはホワイトカラー労働の価値が0に近づく
もちろんAGIによる科学的進歩には大いに期待しているが、自分の居場所も残っていてほしい
市場競争の中でパン職人や陶芸家が機械に押し出されて、「Etsyで自分のPythonコードを売る」羽目になるなら心配だ
関連ブログも読むことを勧める
ある人の見解のように、「パフォーマンス動機」が必ずしも悪いとは思わないが、AIはパンデミックのように人間の内面の微妙な違いをあぶり出している
変曲点において、以前はさまざまな考え方が共存していたが、今は一つのやり方がもはや「通用しない」時代が近づいている
こうした不安定さ自体が重要な変化だ
「作品」の価値には、どれだけ努力や真心が込められているかを重視してきた慣習がある
時間と思考を注いだ痕跡が作品の品格だった
LLMはこの本能的な評価方式を短絡させ、作品の評価基準を揺るがしている
AIが作った結果物が実際以上に価値あるように見えてしまい、人間が注いだ努力が過小評価されることで意欲を失う
創作者や知識人が競争心だけで動いているかのように見る視点が流行しているのも奇妙だ
実際には、多くの場合、不安感がこうした誤解につながっている
人工知能と芸術をめぐる議論の大半は、知的財産権の外側の問題では、人間だけの創作の意味や芸術の本質に関する誤解に満ちている
生涯をかけて築いた固有の声が、一瞬でAIのせいで価値を落とされたなら、仕事の価値や報われたという感覚全体が揺らいでしまう
かつて私もAIについて似たように感じていたが、今では完全に考えが変わった
AIを「何でもやってくれる魔法の杖」と見るのではなく、道具として使うことが核心だ
すべてをAIに任せた瞬間、人生の主導権を失う
重要な方向性と大きな絵については自分で責任を持ち、よく定義された課題だけをAIに任せれば、コントロールも保てるし、ずっと楽しく使える
筋力トレーニングの比喩が適切だ
実際に重いものを持ち上げるために運動するというより、目標達成の充実感、身体の変化、健康増進など、「過程」そのものに満足がある
これを単なる実用で見るなら無意味だ
むしろ前向きな外部効果が付いてくる日常のルーティンとして受け止めれば、ストレスは減る
kelseyfrogが述べていたように、核心は目標ではなく「行動」に集中することだ
運動自体には記録更新や筋肉増加といった面もあるが、根本的には成長の経験である
運動するという行為そのものが無意識に根づき、大きく悩まずに楽しめる
結果が思いがけず現れるのを見る面白さもある
文章を書くことなど、努力を要する活動にもこの運動の比喩は当てはまる
「他人との比較」や結果中心で考えるなら、運動も文章も多くのことが無意味になってしまう
私たちがすることはすべて、「目的のための手段」なのだから
不思議なことに、私たち二人とも豊かさの時代の現象と、それが個人的達成や自律性に及ぼす影響に言及していたという点で、妙な一致がある
私は子どものころからアニメのキャラクターみたいに見えたくて運動している