- 人工知能が今の水準で止まり、人々もより高い品質を追求しなくなる可能性への恐れを表明
- 現在のAIは90%完成した成果物を素早く作り出せるが、残り10%の完成度のために努力する文化が失われる危険がある
- 「十分に良い(good enough)」製品をそのままリリースし、それを消費者が無批判に受け入れる現象への懸念を提起
- AIツールが画一的な成果物を量産し、独創的で職人気質のこもったソフトウェア作りがますます難しくなっている
- 技術の進歩よりも品質と創造性の衰退のほうが大きな問題であり、開発者とユーザーの双方が無関心になったとき、ソフトウェアの職人精神は消えうる
AI発展の限界と「十分に良い」水準の危険
- AIが今の水準で止まるなら、Webブラウザやコンパイラをほぼ完成させられるモデルは存在しても、完全ではないまま残ることになる
- 自動運転車がほとんどの状況では動作するが、重要な瞬間に失敗するような不完全さを例に挙げる
- このような90%完成した成果物が量産され続ける場合、残り10%の完成度を追求しない社会になる可能性への恐れを示す
- 問題の核心はAIそのものより、「十分に良い」と見なす人間の態度にある
「Slop」とソフトウェア品質の低下
- 筆者は**AIが作った粗雑な成果物(slop)**が日常化する現象を懸念
- AIが作ったアプリやコンテンツが「リリース可能な水準」としてだけ評価され、実際の品質に対する学習と理解が欠けた状態を指摘
- AIエージェントがアプリを書いたとしても、それを管理する人たちが成果物の品質を理解しないまま配布する状況を問題視
- こうした流れがソフトウェアの「ドロップシッピング」化につながり、IKEA水準の大量生産よりもさらに低質な結果を生むと表現
AIツールの画一化と創造性の喪失
- ClaudeなどのAIモデルは新しい技術の学習には役立つが、結果的には平均的な「Next-React-Tailwind」スタイルのアプリへと収束する
- AIツールで独創的なアプリ（例: Paper by FiftyThree）を作ろうとしても、結果は平凡でインスピレーションのない形に帰着する
- AIは定められた経路を外れた創作をうまく扱えず、これは創造的なソフトウェア制作の限界として作用する
人間中心の問題と産業構造
- 「Slop」は新しい現象ではなく、すでに人間の誤った意思決定とインセンティブ構造から生じた問題だと指摘
- 座り心地の悪い椅子、SEOで汚染された検索結果、ひどいUIなどはすべて人間の選択の結果
- **"Move fast and break things"**文化の中で、職人精神のこもったアプリは大企業による無料の複製と市場破壊によって消えていく
- AIエージェントはこの過程をさらに速く反復できるため、良いソフトウェアの循環的な消滅が加速する
ユーザーと開発者の無関心
- AIツールがユーザーと開発者の間の隔たりを縮められるかもしれないという期待もある
- 例として、経理担当者が作った複雑なExcelシートや、TikTokで自動化を実装するユーザーに言及
- しかし、こうした創造的なユーザーは例外的な存在かもしれず、大半の人は技術的問題やプライバシー、品質に無関心である可能性を示す
- 結局、「十分に良い」水準に満足する社会になれば、職人精神と創造的な開発文化は消えうる
- 文章の結論は**「私たちの技術的な職人精神が死んでも、誰も悲しまないだろう」**という絶望的な認識で締めくくられる
1件のコメント
Hacker Newsの意見
生成AI製品が広く使われるようになる中で、人々が世界を歴史的文脈の中で見なくなっているのが残念だ
AIが世界に与える影響は過去の技術変化と似ており、世界の動き方は大きくは変わらない
ほとんどの製品やサービスは「十分に良い」水準で機能だけを維持しつつ、品質を犠牲にしてきた
ハイキングブーツのように、20マイル持てばよい製品なら、わざわざ長持ちするものを買う理由がないのと同じで、ソフトウェアも同様だ
ほとんどのユーザーはセキュリティ、プライバシー、保守性、堅牢性などに関心がない
こうした現実は新しいものではなく、これからも続くだろう
大規模なデータ漏えいやグローバル障害のようなことが起きて初めて怒る
こうしたものこそが**隠れた要件(hidden requirements)**だ
要件が変われば、20マイルしか歩けないブーツで35マイル歩けないのと同じように、ソフトウェアも限界にぶつかる
安くても長持ちする製品もあれば、高価でもひどいプロジェクトも多い
なぜ最初から安くて品質の良いものを作れないのかという疑問がある
人々は**資本支出(capex)**を望まないからだ
家より高い車や2000ドルの靴を買いたい人はほとんどいない
たとえばFordのModel Tは製造コスト削減によって自動車を大衆化した
品質は落ちたがアクセス性は爆発的に高まり、最終的には新しい均衡点に達した
高品質は、経済的に正当化されるニッチでのみ維持される
文明がどう変わるのか恐ろしいという考えだ
富裕層はさらに豊かになり、多くの人は仕事と希望を失う気がする
所得のない社会は持続不可能であり、暴力につながる危険が大きい
これを止められる権力者はほとんどいないと思う
参考資料としてDouglas Rushkoffの Survival of the RichestとYouTube動画を挙げている
悪くなるものもあれば良くなるものもあり、純減や純増と断定するのは難しい
時代ごとに解決すべき問題は異なる
LLMベースのシステムに根本的な懸念がある
しかし、この問題意識はLLM以前から存在していた
過去の**オフショアリング(海外アウトソーシング)**と似ていて、今ではGPUファームが人の代わりにコードを生産している
違うのは、今回は民間投資によってそのコストがほぼ0にされたことだ
結局、その代償はいつか支払うことになるだろう
今では最も豊かな国へお金が集中している
ChatGPTのようなサービスはサブスクリプション料金を取っており、最終的にはインドへのアウトソーシング並みの価格帯に落ち着くだろう
コード品質は人種ではなく、投資と管理の問題だ
生成AIは工業化の延長線上にある
可能な限り速く安く製品を作り出す構造だ
「十分に良い」が標準となり、その結果として品質低下の蓄積が止まらない
システムが大きすぎて方向転換が難しい現実がある
スタートアップの世界では、ほとんどが職人気質よりスピードを重視する
「Move fast and break things」のようなスローガンが日常化している
実際、多くは以前から最後の10%の品質には関心がなかった
むしろLLMがバグ修正速度を高めてくれる可能性もある
以前なら「ユーザー統計を見ると誰も気にしていない」として直されなかった問題も、より速く解決できるかもしれない
バグ0%はほぼ不可能であり、ユーザーは必要な機能のために一部のバグを受け入れる
LLMがこの均衡を変えるわけではないが、競合がニッチなユーザー層を攻略する機会を減らすことはあり得る
「職人の技術が死ぬのではと怖い」という言葉に対して、
なおその技術を愛する人たちがいるなら、それは死なないと思う
LLMはパレートの法則の実装のように見える
1%の時間で80%の結果を得られるなら、残りの20%は誰も気にしない
これは品質より消費を最大化する文化の弱点を露呈している
すでにコンテンツファームのような現象はあり、今ではその終着点をデータセンターの浪費の中に見ている
品質の意味すら失った文化を加速させている
そうではないと信じる考え方は、結局は自らを破滅させるだろう
ただし人間は不合理なので、その「結局」がいつ来るのかはわからない
米国は「十分に良い」により寛容だ
日本ではそういう製品はそもそも発売されない
たとえばNintendoの3D Marioシリーズは、米国のスタジオには想像もできないレベルの完成度を見せる
Appleは例外的に品質へ執着しているが、Microsoftは「センスがない」と評される
LLMを過剰に使う開発者に対する現場の不満は大きい
LLMのコードレビューや保守を担当する人たちは、人間離れしたコード構造のせいで業務が何倍にも増える
「効率的」だと勘違いしているが、実際には他人の時間を浪費させている
こうした状況が終わることを願う
AIが日本ドメインを使う人の文章だとしたら興味深い
日本人は品質に対する忍耐力が高く、米国人は「十分に良い」で満足する傾向がある
Gradoのような高価な製品がグルーガンで組み立てられていても売れるのがその例だ