1 ポイント 投稿者 GN⁺ 3 시간 전 | 1件のコメント | WhatsAppで共有
  • Drew DeVaultは、Vim 8.xを長期保守する Vim Classic をフォークし、LLM支援コードなしで人間が保守する安定したエディタを作ろうとしている
  • 生成AIの拒否は単なる好みではなく、実用・哲学・倫理・政治の問題であり、特に著作権の出所確認とFOSSメンテナの責任を難しくすると見ている
  • ソフトウェアエンジニアリングの核心はコードを速く書くことではなく、何を作るべきかを判断することであり、LLMは慎重な問題理解と計画を弱めると批判している
  • 環境コスト、データセンター周辺の電気料金上昇、サプライチェーンへの負担、軍事・治安目的での利用により、AIの被害はより特権の少ない人々に大きく及ぶと見ている
  • AIを拒否する業界レベルの合意が見えない状況でも、DeVaultはVimのフォーク、執筆、コミュニティ活動を通じて、人間中心のソフトウェア制作を続けようとしている

Vim ClassicとAIなしの保守

  • Drew DeVaultはVimテキストエディタを Vim Classic という名前でフォークした
  • Vim Classicウェブサイトは、このプロジェクトをVim 8.xの長期保守フォークとして紹介し、「安定して信頼できるエディタ」を「完全に人間が保守」すると説明している
  • プロジェクトの中心的なアイデンティティは、LLM支援コードを使わないことにある
  • DeVaultは、Vimを終了しやすくする意図はないと冗談を言いつつも、生成AIツールを使わない選択は実用的であると同時に、哲学的・倫理的・政治的な問題だと見ている

LLMによる貢献を拒否する実用的理由

  • DeVaultがLLM支援の貢献を受け入れない第一の理由は、質の低いpull requestが増える可能性があるためである
  • より重要な実用上の問題は、著作権と出所確認である
    • 公開の貢献を受け入れるFOSSメンテナは、ソフトウェアのprovenanceを確認しなければならない
    • LLMが関与すると、この確認作業が「完全に不可能」になると見ている
  • LLMの利用は、時間が経つほどユーザーの能力を低下させるdeskillingを引き起こすと批判している
  • DeVaultは、LLMの利用によって自分がより鈍く、より無能になる道は望まないと述べている

ソフトウェア工学と職人技

  • DeVaultにとってAIの利用は、ソフトウェアエンジニアリングの技術的熟練を揺るがす問題である
  • ソフトウェアで最も難しい部分は、コードを書く行為よりも、どのコードを書くべきかを知ることに近い
  • 業界は昔から、近道や素早い答えを求める文化に引き寄せられてきたと批判している
    • これを「速く動き、複雑性を導入する」やり方と表現している
    • こうした態度が卓越性を排除し、micro-dependency文化とその問題を生むと見ている
  • DeVaultが好むやり方は、問題領域の理解、慎重な思考、内省、計画、与えられた制約の中での実行である
  • LLMはこうした工学的規律を拒否する最も極端な例であり、悪いソフトウェアをより速く作れるようにしてしまうと見ている

AIの倫理的・環境的コスト

  • DeVaultは、生成AIの環境への影響は非常に大きく、業界が不可能な成長を押し進めることで被害がさらに大きくなると見ている
  • AIツールが動作するには希少資源が大量に必要であり、Greenland ice sheetまで例として挙げている
  • 被害は特に、特権の少ない人々に集中すると見ている
    • データセンター近隣の貧しい住民は、電気料金の急騰に耐えにくい
    • AIデータセンター需要が安価な部品を吸収することで、過去10年で一般化した低価格スマートフォンへのアクセスが終わりつつあると見ている
  • DeVaultは、AIツールと企業がGaza、Iranなどで人を殺す決定に情報を提供していると主張している
  • Claudeが2月の学校爆撃でイランの子ども120人の死亡に関与したという疑惑にも言及している

政治的道具としてのAI

  • DeVaultは生成AIを抑圧者の道具と位置づけている
  • ソフトウェアエンジニアの大半は配当ではなく給与で生計を立てる労働者階級に属しており、生成AIはその利害に反すると見ている
  • AIはファシスト宣伝の大量生産を容易にし、明示的な応用においてもファシズム的な目的に使われると批判している
  • PalantirとAnthropicは、ICEやIDFのような組織を支援することで、ファシズムが繁栄するうえで重要だと見ている
  • Peter Thielとその同僚たちを、公然たる反民主主義的な権威主義者と呼んでいる

AIをめぐるプロパガンダと社会的再構成

  • DeVaultはAIを、これまで考案されたプロパガンダ伝達手段の一つと見ている
  • AIは高度にパーソナライズされ、へつらうような形で説得を提供すると批判している
  • 世界経済はAIを中心に再編されており、個人化されたプロパガンダから逃れるのは難しいと主張している
  • AIはエンゲージメント誘導のハッキングを極限まで押し進め、支配的なカルト集団がメンバーをプログラムする戦術に似た手法を、大規模かつ確率的に利用していると見ている

テック業界の道徳的崩壊とUberの事例

  • DeVaultは、西洋社会は長い間道徳的崩壊を経験してきたと見ている
  • 生活の外部性、職人技と配慮の喪失、文化・内面・道徳的目的の商品化、貧しい人々を犠牲にする「礼儀正しい」社会の過剰を問題として挙げている
  • かつてのテック業界にも大きな道徳的失敗はあったが、現在の状況と比べれば対処可能な水準だったと見ている
    • ソーシャルメディアアプリの「pull down to refresh」が、スロットマシンのレバーを引く体験を再現するよう設計されていた例に言及している
    • Rohingya genocideとFacebookの関与については、Facebookの異様な道徳的失敗だという一般的な合意があったと見ている
  • AIについては、今日のテック業界の同僚たちの間にそのような合意が見られないと述べている
  • Uberは、重要な一線を越えた事例として提示されている
    • 法を意図的に破ることを、事業モデルの中核的前提にした
    • 労働市場を揺さぶり、法律が追いつく前に独占を築くために資金を燃やした
    • 法律は結局追いつかず、このやり方がテック業界のビジネス手法の規範になったと主張している
  • DeVaultは、自分は知的財産権のファンではないが、AIでも同じことが起きていると見ている

絶望の中のコミュニティと行動

  • DeVaultは、周囲のプログラマーやクリエイターがAIを受け入れている状況は、メンタルヘルスに良くないと述べている
  • 同時に、同じ考えを持つ友人たちとコミュニティを作り、慰めと希望の瞬間を得ていると明かしている
  • 彼らはAI問題についての合意を保ち、自分たちが正しいと信じるやり方でソフトウェアとコミュニティを共に作っている
  • 彼はいまも技術分野で孤独と無力感を感じているが、絶望が自分を行動へと向かわせると語っている
  • Vimをフォークしたこと、ブログを書くこと、インタビューに答えることは、いずれも状況を少しずつ前に進めようとする行動である

社会生態学と脱成長

  • DeVaultは、こうした問題を扱う政治的潮流としてSocial EcologyDegrowthに言及している
  • Social EcologyはMurray Bookchinの思想として紹介されている
  • Degrowthは左派的な「retvrn」のように誤って表現されがちだが、実際には物質的条件の巨大な後退を意味するものではないと述べている
  • Degrowthは、資本主義的な考え方と生活様式を考え直そうという要求に近い
  • DeVaultは、社会的・生態的・政治的な生のあり方を再想像する必要があり、AIはそれに役立たないと見ている

1件のコメント

 
GN⁺ 3 시간 전
Lobste.rsの意見
  • 以前、「プル・トゥ・リフレッシュ」はソーシャルメディアアプリでスロットマシンのレバーを引く体験を再現することを意図した設計目標として導入され、人間の認知の欠陥を利用してギャンブル依存を生み出そうとしていた、という話を聞いたときの感情を思い出した
    しかし、Loren Brichter invented pull-to-refreshであり、彼はサードパーティ製TwitterクライアントTweetieの単独開発者だった。上の主張はLLMのように事実であるかのように語られていたが、実際の動機ではなく、思慮深いUI設計だった
    「なぜユーザーはいったんスクロールを止めて指を離し、ボタンを押さなければならないのでしょう? すでにしているジェスチャーを続ければいいのでは? もっと新しいものを見たければ上にスクロールします。だからスクロールそのものをジェスチャーにしたのです」
    https://web.archive.org/web/20110518203737/…

    • 「でも中毒性はあります。プル・トゥ・リフレッシュには中毒性がある。Twitterにも中毒性がある。良いことではありません。あれを作った当時の私は、そういうことを考えられるほど成熟していませんでした」 — Loren Brichter
      https://theguardian.com/technology/2017/…
  • ここでは肝心のvim-classicとその長所について語っている人がいない
    まず自分で使ってみて、Vim 9と比べて何を失うのか気になったが、ほとんどなかった。いくつかのプラグインに素早い修正と回避策を入れただけですぐ使えた
    驚いたのは、プラグインや外部呼び出し、fzfのような作業全般で目に見えて速くなったことだ。ベンチマークが不要なほど体感で速く、「ランダムな」遅延の差し込みも減り、TUIの動きが事実上詰まらなくなった
    その後ほかのバージョンはすべて消してvim-classicだけを残し、強く勧めたい

  • Drewがそう言うのはおかしい。というのも彼自身、必要なときには人々にハッシュマップを自前で実装するよう勧めているからだ
    それが卓越性をもたらすやり方には見えない。検証されておらず厳密に書かれていないハッシュテーブルがあちこちに広がるほうが、むしろ「素早く動いて複雑さを導入する」ことに近い
    個人的には、専門家ができる限りの慎重な分析を注ぎ込んで優れたハッシュテーブルアルゴリズムを書き、みんなが彼らの継続的な専門性の恩恵を受けるほうを望む。システムプログラマが毎回ハッシュテーブルを自作しなければならない世界は、システムソフトウェアのますます多くの部分がRustで書かれている現在より、はるかに良くないだろう
    そして記事そのものの核心により近い話をすると、私たちの中の小さいが意味のある少数派が実践してきたように、LLMを活用して以前より高いレベルの卓越性を達成する方法についての議論がほとんどない

    • Hareのジェネリクスに対する立場が、LLMの害悪を扱った記事とどう関係するのかわからない。Hareの設計選択に同意しなくてもいいが、それでコーディングエージェントの最も一般的な売り文句が、人々により速く、したがってより雑にコードを書かせることだという彼の要点まで無効になるわけではない
      この手の記事への反応は、ほとんどいつも提起された倫理的論点を避けているように見える。LLMは非倫理的に学習され、気候変動の速度をさらに加速させ、ファシズムの台頭とも明示的に結び付いている。これだけでも、LLMがもたらしうるどんな利点も文字通り相殺される
      Anthropicのような企業に金を払うことは、彼らのしていることを直接支援することだ。個人がこうした企業の行動に責任を負うのか、資本主義の下では倫理的消費は不可能だといった議論に流れ、結局は個人倫理の問題に行き着くのだろうが、そうした議論の余地はあると思う。ただ、こうした問題があまりにも頻繁に脇に追いやられ、その代わりにLLMで「より高い卓越性」を達成する話ばかりなので、インタビューで提起された論点が実質的に反駁されたとは感じられない
    • DrewがLLMを擁護する話をするとは思っていなかった。ただ、プログラミングに関する実質的な内容は何かあるだろうと思っていたのに、インタビューにはほとんどなかった。Lobstersにふさわしい話題かどうかすら100%確信できないほどだった
      Vimをフォークしなければならない実務的理由についての段落が1つあったが、根拠は多くなく、残りの大半はAIが取り返しのつかないほど倫理的に汚染されているという政治的・社会的議論だった
      私は前者は本質的に善でも悪でもないという考えに従うので、Drewとはどこかで当然意見が食い違うだろう。ただ、彼が直接示せる根拠、たとえば直近3か月のVimとVim Classicのバグ報告率のような資料を提示してほしかった
    • 依存関係が多すぎる地点は確かにある。しかし依存関係が少なすぎる状態も存在し、Drewはそちらを擁護しているように見える
      本当の卓越性は、たいていの難しい仕事が競合する関心事のあいだの緊張を含んでいることを理解し、その中で生産的な道を見つけ、新しいデータが入れば最適なバランスについての見方を修正する用意があるところから生まれる
      「マイクロ依存文化」や「この分野に対する最も奇怪な拒絶」といった藁人形を立てて、それを簡単に打ち倒すことから生まれるものでは決してない
    • 「Drewが必要なときには人々にハッシュマップを自前で実装するよう勧める」という文は、公平に見るなら末尾にHareのコードを書くときにはという限定が付くべきだ
      LLMを使ってより高いレベルの卓越性を達成できるという話は、その側が数の上で圧倒的に少ない限り、ほかの種類のLLM利用者がどれだけうまくやっていても甚大な害を生みうる。だからとても悲しいが現実的には、この議論されている主題においてその少数派は重要ではなくなってしまう
  • Vimをフォークしてやりたいことをやるのは素晴らしいと思う。毎日Vimを使っていて好きだし、変えるつもりもない
    ただ、今Vim 9.2を使っている立場としては、「LLMには巨大なイデオロギー的問題がある」という理由以外に、なぜ戻るべきなのかがよくわからない
    Vim9 scriptもかなり良い改善だったし、そのほか数十の新機能のうち普段使うものもある: https://vimhelp.org/version9.txt.html#new-9
    Vimスクリプトのプロファイリングを止める :profile stop、レポートをファイルにダンプする :profile dump のサポートはかなり素晴らしい。スペルチェックの変更の中にも非常に良いものがあった
    LLMに反対するイデオロギー的立場以外に、生計を支える道具を、今やはるかに小さいチームが保守する側へなぜ移すべきなのか明確ではない

  • 「業界がこの10年間で可能にし一般化してきた、広く普及した安価な携帯電話という奇跡を支えられる人々。しかし安価な部品への需要がAIデータセンターに完全に吸い上げられつつあり、その時代は終わりに近づいている」という部分を見て、ENIACから安価な携帯電話へと続いた単価低下の経路が、AIサプライチェーンでも繰り返されるのではないかと思った
    いや、ないか。Drewの思想的リーダーシップによれば、初歩的な経済学でさえ「終わりに近づいている」のだろうから