自分の nix flakes vs guix の投稿を削除した
(coopi.neocities.org)- Nix flakes と Guix の対応関係を整理した個人ブログ投稿が、LLMを使ったのではないかと疑われた後に削除された
- 投稿は好奇心から始まり、十分ではなかったにせよ多くの調査を経ており、友人たちに共有したくなるほど誇りを感じていた仕事だった
- 投稿が Matrix チャットで共有された後、lobste.rs のトップページに載り、Guix 創設者 Ludovic Courtès の toot も 12 回ブーストされた
- 最後の瞬間に適用した JavaScript の変更 によりモバイルでサイトが壊れ、読者が読めなくなってしまい、問題に気づいてすぐ修正したものの、すでに不満が生じていた
- Andrew Tropin のレビュー冒頭で LLM 作成疑惑 が出され、技術的批判よりも自分の文章が偽物のように見なされたことが、投稿削除につながった
投稿削除の背景
- 「nix flakes and their guix equivalents」の投稿は削除されており、その理由が「LLM 使用がばれたから」だと誤解されてほしくない
- この投稿は、何かをもっとよく理解したいという好奇心から書かれたもので、調査量が十分でなかったことは認めるが、多くの調査を経ていた
- 投稿を友人たちに共有したのは、自分で面白いと感じ、友人たちもそう感じるかもしれないと思ったからだった
- 寝る直前にいくつかの Matrix チャットに投稿を載せ、その後 lobste.rs のトップページ に上がっているのを確認した
- 既存のブログ投稿が、関心を持つユーザー 3人 を超えるとは想像していなかった
- Guix 創設者 Ludovic Courtès が toot を投稿し、その toot は 12回ブースト された
批判と削除の決断
- 最後の瞬間に適用した JavaScript の変更 がモバイルサイトを壊し、人々が投稿を読めなくなった
- 問題に気づいてすぐ修正したが、その時点ですでに人々は苛立っていた
- その苛立ちを責めることはできないと判断した
- 翌日、退勤後に友人が Andrew Tropin の 投稿レビュー へのリンクを共有してくれた
- Andrew Tropin は、尊敬できる仕事をしてきた人物だと受け止めていた
- レビューを楽しみに開いたが、3段落目で LLM で書いた可能性を疑われた
- 技術的批判そのものに反感はなく、Andrew のように知識の豊富な人からの批判は歓迎している
- 打ちのめされたのは技術的な指摘ではなく、自分で文章を書いていないという 疑い だった
- 技術的な要点や修正事項より先に、偽物のように疑われたことが最も大きく響いた
- Andrew の技術的指摘への応答は、現時点では扱えない
- 感情的にあまりにも打ちのめされていて、その指摘をきちんと処理できない
- 批判が妥当で正確である可能性は認めるが、今は対応する気分ではない
- サイトのインフラにも多くの努力を注いでいた
- フィードのために ox-atom を作り、Neocities と通信するために neocities.el を作った
- CSS と JavaScript は自分で書き、背景パターンには猫がいて、セクションヘッダーには小さなきらめきがある
- postamble には
~ meow ~が入っている
- ブログで最も重要な部分であるテキストが、「より洗練された Markov chain」から出てきたように聞こえると疑われることは、壊滅的だった
- LLM は使っていないが、その否定を証明することはできず、試みるにも疲れ果ててしまい、投稿を下ろした
1件のコメント
Lobste.rsの意見
正直、これはあちこちで繰り返し付く「LLMで書かれた文章っぽい」というコメントと、ごく些細な理由ですべてに
vibecodingタグを付けてきた結果だと思う一人でも疑いをかければ、LLMを使っていないことを証明する防御手段はほとんどなく、特にブログにLLM関連の記事や意見があるとさらに不利になる。証明されるまではスパム扱いされる構造だ
年齢もあって、よく言われる手がかりを見抜くのが得意なほうではないが、あらゆる文章に飛びつく人たちが自分で思っているほど見分けられているとも信じがたい。LLMはAI以前からマーケティングやビジネス文書で人間がよく使っていた特定の文体をまねており、多くの人もその文体を無意識に身につけているかもしれない
コードは信頼性の問題があるのでAIで書かれたか知りたいし、画像はたいてい見ればわかるうえ現実検証の観点でも知りたい。だがテキストはざっと読めば 信号対雑音比 と品質を比較的簡単に判断できるので、そこまで即座に反応する理由は少ない
以前にも一度、LLMで書いたと疑われたことがあり、実際には違った。最近の文章が AI関連の記事 である以上、当然AIが書いたのだと思われ、その後の文章まで汚染されたものとして扱われる可能性が高くなる
「単なるタグにすぎない」と言えるかもしれないが、それ以上のものだ。かつては均衡が取れていると感じていたコミュニティの敬意が壊れたように感じるし、このスレッド の高い支持を見ると、そう感じているのは自分だけでもなさそうだ
それでも最後まで読んで、もっと具体的な批判を整理することにし、結局「著者は flakes がなぜ必要かを十分に腹落ちさせられていない感じはあるが、それでも構わない」くらいに書いた。その後、flakes が何をするのか、その理由についての議論も続いた
振り返ると、怠惰なスパム疑惑コメントを書かなかったのはよかった。そうしていたら興味深い内容をこれ以上受け取れなかっただろうし、その後の対話も生まれなかったはずだ
個人的には、人々が調査に使ったであろう道具の比重を低く見積もるようにしている。明白なスパムで、事実上注意力へのサービス拒否攻撃であるなら、人間がやったかLLMがやったかに関係なく無視してよい。だが自分の頭の中のモデルとうまく合わない文章なら、道具の使用に焦点を当てるより、より建設的な批判を引き出すことに時間を使いたい
何かをLLMのクソ文章だとラベル付けしたくなる衝動が強まるのは、誤解されたかもしれない著者よりも、社会変化に対する私たちの反応 をより多く露呈している
だがその指標は戻ってこないし、少なくともAIバブルから資金が抜けるまでは確実に難しい
昔の文章は「良い」「悪い」「事実だ」「間違いだ」程度で、読めば速く明確な手がかりがあった。今はLLMの存在のせいで、「明白に間違ってはいないが平板で自分の時間を無駄にする」という第三の否定的カテゴリが生まれ、それを見分けるのにあまりにも多くの労力がかかる。Wolfgang Pauli の「間違っているとすら言えない」が、コンピューティングの熱狂とベンチャー資金で増幅された形だ
さらに悪いのは、「これはLLMだ」と叫んでいる側が 本当に人間なのかさえ 信じがたいことだ。延々と続く亀の積み重ねだ
こうなることを望んだわけではないが、これが私たちが競って作った未来だ
私たちは壊してしまったし、願うだけでは直せない。世界はもう永遠に悪くなり続けるだろうし、少しでも取り戻したいなら、LLM愛好家が現れない空間を作るしかない
野球バットを持ち込んで空間をぶち壊した人たちがいる。被害はすでに起きており、完全に元に戻ることはない。それなのに「みんなが自分が野球バットを持っているか確かめようとするので雰囲気が悪い」と言うのは、正直侮辱的だ。不満を言っている人のほうが、実際には野球バットを持っていることのほうが多い
もちろんこれは人に害を与える。そんなのは当たり前だ。自分がなぜ生成AIに強く反対していると思うのか。害を与えずに使う方法がないからだ
この文章がなぜ通報されるのかわからない
LLM使用に対する誤った疑い は実際に存在し、本文からもわかるように、著者のメンタルヘルスや文章を書く動機に現実的な影響を与える。十分に議論する価値のあるテーマだ
削除のきっかけになった ブログ記事 の著者が興味深い一文を添えていた
自分の疑いのせいで相手の著者の気分を害したのは悲しいし、実のところその文章が手書きであろうとなかろうとそれほど気にしていなかったという。文章の向こうにいる人間にも十分に気を配れておらず、スタイル・芸術性・クラフトマンシップは好きだが、そのときは焦点の外にあったとも述べている
自分も森で暮らしていた時期について書いた文章が HN に共有されたあと、数時間でAI生成だの薬物の影響だのと疑われて通報された似た経験があり、その不快さと落胆を知っているという。また、冒頭の一文から価値を切り下げるような論文レビューがどれほどやる気をそぐかも知っていると語る
不当に相手の感情を傷つけ、意欲をそいでしまったときはいつも悲しいし、悲観的な推測が間違っていたときはいつも嬉しいとも付け加えている
この一文だけを純粋に見れば、似たことを経験したことがあり、これが大きな傷を与えると共感していて、文章の向こうにいる人を浅く判断して悪いことをしたという内省もある。だが状況を正すためのごく当然の最後の一歩は踏んでいない
サイト自体については、消える前にモバイルの不具合も経験していて、それはかなり腹立たしかったが、それ以上に多くの手間がかかっていたのは明らかだった。Guix は本当にすばらしいシステムだが、GNU プロジェクトがたいていそうであるように雑然としており、よいドキュメントを見つけるのは宝くじのようなものだ。だから概念をより多くの人が理解できる言葉で解きほぐす文章は、現在と未来のすべてのユーザーにとって大きな助けになる
インターネットの誰かが私の文章をどう思おうとあまり気にしない、かなり打たれ強い人間として言うと、実際にはまったくそうではなかったのにLLMで文章を書いたと疑われるのは、これまで経験した中でも最もやる気をそがれ、もどかしい体験の一つだった
もうやめるべきなのかもしれない
人々が私がLLMを使ったとほのめかすとき、「チャットボットと比べられて深く侮辱された」と考えるのではなく、「ああ、この人たちは良い文章と悪い文章を見分けられるほど言語感覚が鍛えられていないんだな」と考える
記事が下げられたのは残念だ。GuixとNixの比較として有用で思慮深い文章だったと思うし、誤りを正そうとする別の記事を促したという点でなおさらそうだ
読者にとってはどちらも価値があり、最初の記事がなければ二つ目の記事も出てこなかっただろう
LLM使用を疑われたのは気の毒だ。文章はよく書けていたと思う。批判者の立場からすると、一部が「自信満々に間違っている」ように感じられたのかもしれず、それはLLM的な「調査」でよくあることだ。ただ、バロック的なインターネット資料をさまよいながら、どの「事実」がまだ有効なのか把握しようとする非専門家にもよくあることだ
インターネットで間違うことには大きな価値がある。実際、しばしば誰かの反論記事を誘発するからだ
@coopiには書き続けてほしい
もう自分の文章を編集すること自体がためらわれる
下書きのように、狂人の初期の支離滅裂な独白に近く見えるほど、LLMで書いたと疑われにくいかもしれない
「これはAIが書いた」という評価は、昔の「画像が偽物っぽく見える、ピクセルを見ればわかる、私も合成を何度か見たことがある」みたいな話になる気がする
こういう状況は残念だ。ブログ記事ひとつが逆風を受けるかもしれないという恐れは常にあるし、だからこそ誰かが記事を上げたり、自分のコンテンツを集計サイトに投稿したりすること自体がすごいと思える
ここには学ぶ人が多いが、同時に文章を細切れにして解剖する専門家も多い
私は完成した文章を複数のLLMに何度も入れて、「$orangesiteとlobste.rsのメンバーとしてこの記事にコメントしてほしい」と頼んでいる。批判を前倒しで受けて、投稿する文章への自信をつけるのに役立つが、その関門のせいで死ぬ文章も多い
できるだけ好意的に言っても、これは理解できない
最近では、証拠もなくそうした疑いを向けることは容認されないとしても、理解はできるという点でtropinにも共感できる。実際、彼は「LLMで書いたかどうかにかかわらず」その事実自体はあまり気にしていなかったとも言っている
「他人の意地悪な言葉に耐えられないなら、お前の見解は聞く価値がない」と言っているのと変わらない。なぜ悪くない人を黙らせて、意地悪をしている人たちにはやめろと言わないのか
広いインターネット全体を統制できないのはわかるが、少なくともlobste.rsでは、すべての記事に根拠のない疑いを投げつけるのをやめさせられないだろうか
自分のブログと文章書きについて長く考えてきたことの一つは、「なぜ書くのか」だ
自分自身のためだけに書くのか、読者のために書くのか、その読者は誰なのか、誰に読んでほしくて何を得てほしいのか、そして自分はなぜそれを気にするのか、つまり自分は何を得るのかを考え続けてしまう
正直に言えば、私の場合は注目、承認、自我もその一部だ。言いたいことがあり、誰かが聞いてくれるという事実が私に何かを与える。書く過程自体の楽しさもあるし、ある感情を言葉によって正確に固定しようとする美学的欲求もある
同時に不協和音も感じる。自分の書いた文章が注目を集めたときにつくコメントのかなりの部分は、私が望んでいたものではなかった。誰かの文章に真剣かつ寛大に関わることは、そうする意図があっても非常に難しく、たいていのオンラインのコメント投稿者にはその意図すら足りない。それでも私はなおlobste.rsとHNにクロスポストし、閲覧数を見ている
不条理主義者として、その矛盾を受け入れているようだ。私が感じる欲望は、実際の物理的共同体で承認、相互性、関係を求めていた進化的衝動が、インターネットのブログという抽象的で共同体に似た何かへと誤って発射されているものなのだ
だからcoopiが合理的かどうかを見極めようとする様子を見ると、こういうことを考えてしまう。インターネットに文章を載せたなら特定の反応を想定しておくべきだという前提、人はなぜ書き、なぜ公開で共有し、どう反応すべきかについて何らかの同質性があると期待する前提のことだ。匿名の10億人を読者として文章を書くという行為には、そもそも合理的な部分がほとんどない