なぜ私はGenAIと、それが象徴するあらゆるものに反対するのか
(lpcvoid.com)- GenAIへの批判は、有用な機械学習全般ではなく生成モデルを対象としており、暗号資産やNFTよりも有害で、より長く続く過熱技術だと評価されている
- 生成AIは、インターネット上の人間の創作物を大量に学習し、サブスクリプション型のアクセス権として再販する構造であり、Metaによる82TBの海賊版書籍トレント事例はデータ略奪の問題を示している
- LLMはコメント的な低品質コンテンツを24時間自動生成して偽情報を増幅し、Grokのように右翼的傾向で学習されたモデルは特に拒否すべき対象として挙げられている
- 教育・思考・プログラミングでは、vibecodingとコピー＆ペーストが試行錯誤による学習を減らし、レビュー負担・技術的負債・非決定性の問題を拡大させる
- 生成AIは孤独、自殺の助長、冗長な文書、環境・ハードウェアコストまで悪化させ、インターネットは以前の状態に戻りにくくなっている
GenAIの範囲と問題意識
- GenAIは、テキストを生成するLLMや、画像・動画のようなメディアを作るモデルを含む用語として使われている
- 批判の対象は、さまざまな産業で実際の問題解決に使われてきた機械学習全般ではなく、生成AIに限定されている
- 画像から一時停止標識を見つけるニューラルネットワークベースの画像処理は、古典的な特徴検出より優れている可能性のある有用な機械学習として区別される
- 生成AIは暗号資産やNFTの後に登場した次の過熱技術だが、以前の事例よりもさらに悪く、長く続く可能性が高い技術だと評価されている
資本主義とデータ略奪
- 生成AIは、インターネットから大量収集した人間の創作物を学習データとし、そのモデルへのアクセス権をサブスクリプション形式で販売する構造だと批判されている
- Meta社員がAI学習用に約82TBの海賊版書籍をトレントしたという裁判記録は、データ取得問題の代表例として提示されている
- 人類を利することが目的なら、AI開発は公開で行われ、データは合法的に確保され、モデルは無料で配布され、アクセス権が上がり続けるサブスクリプション料金の背後に閉ざされるべきではない、という論理である
- AI企業は盗品を買って転売する故買屋になぞらえられ、生成AIでは大企業が盗んだデータに対して費用すら払っていないという批判につながっている
- AIは莫大な設備投資のもとで複数の産業を汚染し、ビッグテックがトークン使用量を通じてレントシーキングを行い、接触する領域の品質低下を加速させる技術だと総括されている
偽情報生産機械
- 生成AI以前から偽情報は大きな産業であり、Internet Research Agencyは親クレムリンのメッセージを広めたロシアの偽情報組織として挙げられている
- この組織は、ロシア人が24時間ソーシャルメディアに親ロシアの偽情報やプロパガンダを投稿する形で活動し、米国でのTrumpismの台頭や、トランプ関連人物とロシア当局者のつながりにも影響した文脈で扱われている
- LLMはコメント的な低品質コンテンツを24時間自動生成できるため、偽情報問題をはるかに強める
- 大規模オンラインコミュニティには、当初は無害なコンテンツを投稿し、のちに政治コンテンツへ切り替えるボットが多く、ほぼ常に感情的反応を誘うことを目的としていると描写されている
- 2026年にオンラインコメントに腹を立てたなら、そのコメントはユーザーを激怒させるためにLLMで作られた偽コメントである可能性が高い、という主張につながっている
- ドイツでは、左派の周辺政党BSWと極右政党AfDが、ロシアによって汚職を通じて少なくとも間接的に資金支援を受けていると考えられていることと結びつけられている
- AfDの主張には、ロシアとの関係改善、再生可能エネルギーの廃止、内燃機関車の維持、外国人追放、EU離脱、気候変動否定が含まれ、ロシアに利益をもたらす右翼アジェンダとして提示されている
- 偽情報を嫌うなら、LLM、とりわけGrokのように右翼的傾向で明示的に学習されたLLMを拒否すべきだ、という結論へとつながる
自殺と有害行動の助長
- Deaths linked to chatbotsのWikipedia記事は、LLMとの相談後に人々が自殺した事件を集めたページとして提示されている
- 心理的に脆弱だったり、人生の困難な時期にある人が、LLMから自殺を勧められる危険があることが悲劇として語られている
- こうした危険があるにもかかわらず、生成AIが兆ドル規模の産業になった事実が強い批判の対象となっている
教育と集中力の低下
- 生成AIは教育を損ない、短尺の低品質動画の消費が若者の集中力を壊しているという問題と結びつけられている
- ビッグテックは教室にLLMを注入しようとしており、Microsoftが30年間、学校でWindowsとOfficeに慣れた生徒を育ててきたやり方に似ているとして批判されている
- 企業はLLMへの教育機関向けアクセスを提供している
- 「すべてのgenAIツールを太陽に打ち込めたらかなり嬉しい」というFuturismの記事中の引用は、生成AI排斥の姿勢を端的に表している
批判的思考と問題解決能力の低下
- 生成AIの害は学術界にとどまらず、一般的な思考能力にも影響すると主張されている
- 一部の人々は、AIが主流化して以降、自分で考えるのをやめ、ほぼあらゆる質問や議論にChatGPTの回答を先に持ち出すようになったと描写されている
- こうした現象はオフラインの議論だけでなく、Redditや旧来型のフォーラムでも見られる
- 学術界でもこの問題が扱われている根拠として、arXiv論文がリンクされている
孤独の拡大
- AIは、人々が家のソファに座ったままスマホを意味もなくスクロールする現代的傾向をさらに悪化させると批判されている
- 若い男性が同年代の女性と距離を置き、AIガールフレンドに依存する流れは、将来にとってよくない兆候として提示されている
- 孤独は過激主義や憎悪を育て、現実生活でのコミュニケーションをさらに難しくする
- AIとの偽の関係に深くのめり込んだ人は、現実のパートナーシップを築く方法や、自分とは異なるニーズを持つ相手への共感を学びにくいと批判されている
- AIチャットボットは、ユーザーの考えに影響を与えうる自分自身の意見を持たず、ユーザーの思考を理解せず、ユーザーのように世界を経験しながら成長することもない
- 教皇レオ14世が生成AIのこの要素と他の重要な問題を批判したことは、AI問題の深刻さを示す根拠として挙げられている
プログラミング学習とコード品質の悪化
-
試行錯誤ベースの学習の喪失
- 以前は、インターネット接続なしでツールを作り、問題を解決しながらプログラミングを学び、その過程でコンピュータや技術的可能性への感覚を身につけたと対比されている
- 今日の若者は、何かを動かすために自分で深く掘り下げなければならない環境に触れる機会が減り、すべてがアプリとタッチスクリーンで包まれていると述べられている
- 生成AIは、「動くまで試し、その過程で学ぶ」という最後の要素までも消し去ってしまうと批判されている
- 解決策をLLMにプロンプトで求めれば結果が出てきて、職場ではその結果を説明できないまま必要な場所に貼り付けるケースが見られる
- Linux CLIの
tarフラグを思い出せない程度ではなく、パイプライン全体のxargsコマンドを端末にコピー＆ペーストして問題ないことを祈るレベルが問題として示されている - Stack Overflowの断片をコピーしていた過去でさえ、少なくともパズルのピースをアーキテクチャに合わせ、コードについてある程度考える必要があったが、LLM以後はその過程が減ると対比されている
-
Vibecodingとレビュー負担
- vibecoderは、必要なものをプロンプトで依頼し、LLMにプログラム全体を作らせたり一部を生成させたりする人として描写されている
- プログラム全体を一度に生成する方式は「oneshotting」と呼ばれ、生成されたコードを読まない場合も多い
- LLMを補助者やスパーリング相手としてしか使わないという話とは裏腹に、実際の専門環境ではコードを読むことより低品質コードの生成のほうがはるかに多いと批判されている
- コードを読むのは、MR/PRレビューの時点で9001行の生成コードが上がってきたときになって初めて行われる場合があると描写されている
- 作者は最小限の作業しかしない一方で、レビュアーが最大の確認負担を背負う構図となり、必要な水準の綿密なレビューをしない場合に限ってvibecodingのほうが速いと整理されている
-
長期的な技術的負債
- 5〜10年後には、LLMに依存したvibecoderたちが多くのコードベースに保守不能で設計の悪いコードを残すだろうという見通しが示されている
- その時点ではLLMなしでは作業を進められず、技術的負債の山が大きくなりすぎて、LLMまで失敗すれば深刻な状況になるという理屈である
- 組織には、vibecodingが残した問題を整理する役割が新たに生まれる可能性があると予想されている
- すでに多くの組織のコードがひどい状態であることは認めつつも、生成AIは問題の規模を指数関数的に悪化させるとされている
-
コーディングエージェントとコスト問題
- コーディングエージェントの発展で問題が改善するという楽観論もあるが、LLMが今後も向上し続けたとして、それが安価に提供されるかどうかは疑問のままである
- AIブームには数千億ドルが投じられており、株主はいつか利益を求めるだろうと示されている
- frontierモデルが公開から数週間後に性能が悪化したという問題が挙げられ、価格は据え置きまたは上昇する流れと結びつけられている
-
開発者能力と非決定性
- 生成AIがプログラミングをより良くすると見なしたとしても、利用者が思考力と技術を失えば、雇用主がLLM提供者にサブスクリプション料を払うのと何が違うのか、という疑問が提起されている
- AIを使わない人が遅れを取るというAI熱狂コミュニティの主張とは逆に、AIを使い依存する人こそが遅れを取るという立場が示されている
- LLMは、同じプロンプトが10回うまく動いても11回目に満足のいく結果を保証できない非決定的システムだと批判されている
- LLMは信頼できるソフトウェアではなく、美化されたスロットマシンに近いと総括されている
コミュニケーションの低品質化
- 生成AIの利用者は、長いメールや文書をより速く書けると言うが、そのやり方は組織全体の速度を落とす利己的な利用だと批判されている
- 2行で十分な反対意見をLLMが500語に水増しすると、34人がそのテキストから実際の反対理由を抽出するために何人分もの労働時間を費やすことになる、という例が示されている
- 必要な場面では詳細な回答を自分で書きつつ、要点を圧縮して他人の時間を浪費しないやり方と対比されている
- 人々は書面でのコミュニケーションに時間をかけなくなり、メールは長く複雑になって、読むこと自体が負担になる
- LLMで生成した長文メールを再びLLMに要約させる流れは、両端にプロキシがあるネットワークトンネルのように、プロキシ間の転送エンコーディングが低品質なテキストになっている構造になぞらえられている
追加被害と限定的な有用性
- データセンターブーム、GenAIによるハードウェア価格上昇、DRAM価格のため実際に有用なデジタル製品を作りにくくなる企業、AIによる失業、低品質生成器を学習させるためにガス発電所を建てる環境問題は、個別の詳細な議論を要しないほど明白な問題として提示されている
- LLMが一部の有用で比較的害の少ない応用で役割を果たしうることは認められている
- 翻訳はある程度有用でありうるが、繊細な表現が重要な文学作品では人間の翻訳のほうが適している可能性があると限定されている
- 一部の人が実用的だと感じる周辺的な性質があるからといって、Torment Nexusを発明してよいわけではない、という比喩が使われている
取り返しのつかない変化と結論
- 生成AIは瓶から出たジンのように後戻りできず、これから一生付き合うことになると述べられている
- インターネットは生成AI以前の状態には戻らず、先に挙げられた多くの問題はAIによって今後も悪化し続けると予測されている
- 反AI感情は悪化し続けているという空気が続き、人類が持ちこたえ、すべてが壊れるのを防いでほしいという姿勢へつながっている
- AI企業と大半のビッグテックによるAI投資が崩壊し、この巨大な社会的・技術的破壊装置が止まることを願う結論で締めくくられている
厳選された技術トピックを続けて受け取りたいですか？
Telegramチャンネルをフォローしてください。 @GeekNewsJP
1件のコメント
Lobste.rsの意見
暗号資産やNFTを売り込んでいた集団とAIを売り込んでいる集団は、重なる部分があるとしても同じではないし、AIのほうがはるかに有用であることも明らかなので、この比較には共感しにくい
暗号資産の売り文句も変わったことがなく、今でも投機資産の寄せ集めに近い。あれを推している集団は、AIに関心のある人たちよりも金や銀を勧める人たちに近いと思う
個人的には、一定の技術力と判断力を持っていると思える人たちは、暗号資産が有用なユースケースを見つけられるか疑っていたが、最新クラスのモデルはむしろ逆の効果を生んだように見える
まったく役に立たない技術というものはほとんどなく、技術は主に誰にどの程度の利益をもたらすかで判断するほうが意味がある。元記事がよく示しているように、LLMは最初からスパマー、詐欺師、剽窃者、プロパガンダ屋にとって明らかに有用だった。単に推している集団が重なっているというレベルを超えて、LLMは少数に富を集中させ、より広い社会と環境には損害を与えるという点で、BitcoinやNFTと非常によく似ている
もちろん、かなり主観的な印象ではある
今年はウェブセキュリティ株が大きく上がった。一部の企業は、トークンをできるだけ多く使う戦略が愚かだと気づいた
今後10年は、こうしたものを修正する作業が残るだろう
いまや誰もビッグデータと言わないように、数年後には誰もエージェントと言わなくなるはずだ
流行語が消えただけで、概念そのものは今でもインターネット経済が回る仕組みに近いと思う。広告技術、Google、さらにはAIの粗製濫造コンテンツでさえ、学習にはそうした種類の大規模データが必要ではないか?
こうした主張の大半は、インターネットが大衆化したときにも出てきそうな気がする
AI楽観論はビッグテックと年配の人たちの頭の中にだけあって、若い人たちはAIにもっと反対しているように見える
IBMは、ウェブサーフィンをしたくてたまらない修道女たちが出てくるOS/2のテレビCMまで流していた。この記事に出てくる他の主張は、インターネットについては一つも出ていなかった
初期インターネットにはあったが、LLMベースの“AI”にはない反対論が一つある。RIAA、MPAA、そのほかの大手カルテルは著作権侵害のせいで完全に理性を失っており、曲や映画を1本持っているだけで有罪になれば人生が台無しになり得た。今ではMeta、ByteDance、Anthropic、OpenAIが、人間が書いたあらゆるテキストを10時間ごとに再びコピーしている。以前にコピーしたかどうかも関係ない。LLMが生成するものはすべて、かつてエンターテインメント・カルテルが「アメリカ的な生き方に対する実存的脅威」と呼んでいた行為の産物だ
閉鎖型AIカルテルと資本主義一辺倒の代替案に対しては、これまでのところHugging Faceを良い例として見るべきだ