「LLMが書いた文章だ」というコメントは話題逸脱として報告すべき
(lobste.rs)- LobstersではLLM生成記事の禁止やタグ変更をめぐる議論が続いているが、労力が低く情報量の少ない投稿はスパム報告で対処しようという点ではおおむね合意があるように見える
- コメントで単に「this is LLM slop」のようなことだけを書く反応は、記事の内容ではなく生成されたかどうかの判定に終始しているため、話題逸脱として報告しようという提案である
- Lobstersを読む理由の少なくとも**80%**はコメントの質にあるのに、LLMの出力かどうかをめぐる論争を読み飛ばさなければならないのは不快である
- 興味深いと思って投稿した記事に付いた唯一のコメントが「LLMが書いた文章でさえなければ」のようなものだと、投稿者としてはうんざりする
- 自分で書いた文章がLLM生成物だと疑われるのはさらにやる気を削がれ、他のプラットフォームやLobstersの別の投稿者にもそうしたことがあった
提案
- LLM生成記事の禁止や
ai/vibecodingタグの変更をめぐる議論は続いてきたが、労力が低く情報量の少ない投稿はスパムとして報告して先に進もう、という点では合意があるように見える - コメントで単に「this is LLM slop」またはそれに類することだけを書く反応は、話題から外れたものとして報告しようという提案である
- Lobstersを読む理由の少なくとも**80%**はコメントの質にあるのに、議論対象の記事がLLMの出力かどうかをめぐる論争を読み飛ばさなければならないのはうんざりする
- 興味深いと思って記事を投稿したのに、唯一のコメントが「LLMが書いた文章でさえなければ良い記事だったのに」のような反応だと、投稿者の立場でもうんざりする
- LLMを使わず自分で書いた文章が投稿後にLLM生成物だと疑われるのは、さらにうんざりさせられ、やる気を削がれる
- これは自分の文章についてLobstersで起きたことではないが、他のプラットフォームでそうした反応を受けたことがあり、Lobstersの別の投稿者にもそういうことが起きているのを見た
背景と意図
- LLMはコミュニティ内で二極化した話題であり、誰にとっても厄介な状態なので、この時点で互いの考えが変わる可能性は低いと見ている
- 提案の要点は、「労力の低い記事はスパムとして報告して先に進む」に加えて、「LLMかどうかだけを指摘するメタコメントは話題逸脱として報告して先に進む」ということである
- 何を「slop」と感じるかの基準は人それぞれなので、コメント欄の議論が記事の内容よりもLLMかどうかの判定に流れてしまうことを減らしたいという趣旨である
1件のコメント
Lobste.rsの意見
気に入らない人がいるのは分かるが、こういう注意書きはありがたい。生成された文章を読むことに時間を使いたくないし、人が文章を書くことをツールに任せると自分の声を失うと感じるので、「補助された」文章にもあえて関わりたくない
文章は内容だけを見るために読むのではなく、書き手の視点や文体を見るために読むものだ。どう書かれたかがなぜ無関係なのかという点も議論に値するし、書き手がその作業にどう関わったかもよりよく示してくれる
コンテンツにどう向き合うかを早い段階で判断できる初期シグナルには価値がある。気に入らなければ[-]ボタンを押せばいいし、自分は非表示ボタンを使えばいい
そういう場合、事前に知らせてくれるシグナルがあるとよかったはずだ
投稿者が自分で書いたと主張していて、疑う理由もない文章にまでLLM使用の疑いがつき続けるのを見たことがある。コメントがLLMコンテンツを安定して識別できないなら、それはただのノイズであり、よくてもAI駄文記事と同じくらい悪い
投稿がLLM生成であることを知らせるコメントは役に立つし、そういうコメントを参考にしてスパムとして報告し、非表示にしている
もちろんそうしたコメントをそのまま信じるわけではなく、自分でも確認する
項目を駄文/スパムとして報告できるなら、こうしたコメントは消えるはずだ
報告機能を直さずにコメントだけ禁止しても意味がない。症状より根本原因を扱うべきだ
自分には単に平凡でいまひとつな文章に見えるものの出自をめぐって長い議論が続くのはかなりうんざりする。その中に有用な事実が埋もれているときはなおさらだ
記事の面白さに対する賛成/反対とは別に、文章の質や「駄文っぽさ」について各自が数値評価を残せる方法があったらどうだろうと思う。その平均を取り、ユーザーが自動非表示の閾値を設定できるようにする、といった具合だ
本来の意図以上にlobste.rsを複雑にしてしまうかもしれないが、いま私たちが置かれているかなりディストピア的な環境に対処するには合理的かもしれない
「これはLLM駄文だ」というコメントのおかげで何度も時間を節約できたし、自分が投稿した記事の少なくとも一つでもそうだった。自分は駄文を読みたくないし、なおさら駄文を投稿したくもない
読者として、そういうコメントは役に立つ。特に、なぜそう見えるのかを指摘してくれるなら、単なる報告よりずっと有用だ
aboutページの「スパム」報告の定義は次のとおりだ:
そうした文章は、執着的な人やトロールが複数のスレッドを妨害するために投稿していたものだ。質の低いLLM生成コンテンツは、そうした種類のコンテンツと見分けがつかない
誰かがLLMに文法やスペルだけ直してもらった文章はどう見るのか。スペイン語で書いた整理された議論をLLMに翻訳してもらった場合は？ 読字障害があるかもしれない人が要点のbulletリストを渡して、LLMに文章化してもらった場合は？
微妙な問題を単純化しないでほしい。興味深い貢献を排除する危険がある。もちろん自分も、情報価値がまったくない駄文や、さらに悪いことに事実と異なる幻覚をここで見たいわけではない
個人的には両方の考えが分かる。以下はサイトの公式見解ではなく、自分個人の考えであり、深く整理された結論でもない。議論の助けになるかもしれないと思って、今の考えを共有する
こうした措置を求める理由はもっともで、共感できる。手間をかけて書いた文章が、まるで人間がまったく関与していないかのように片づけられるのは、本当にやる気をくじくに決まっている。特にem dashのような表面的な理由でそう判断されるならなおさらだ。自分でもすぐに去りたくなるだろう
ただ、その措置自体がその目的にとって最適とは限らない。そうした介入の効果は、人間不在のコンテンツに対抗する最大の防衛線を失うことになりそうだ。みなが互いに社会的規範を作り、一貫して適用するとき、それは上からの権限行使よりはるかによくスケールする。だから現時点で重要な役割を果たしている社会的ダイナミクスを抑え込むことには非常に慎重でいたい。害が見えていてもそうだし、後でその役割が重要でなくなったなら、そのときに見直したい
役に立つ別の措置はあるだろうか？ ここでまだ出ていない提案があるなら、誰でも提案してほしい
もちろん、確信が高くない状態で無分別な非難を投げないよう、みなに気をつけてほしい。どんな大義を信じていようと、不注意で反応的な振る舞いは非常に破壊的だ。人々が衝動的に互いを人格攻撃し続けるようになれば、どんな場所も共同体として成り立たなくなる
全面的に同意する。自分は文章を読んでいてAI生成だという感じがまったくしないことが多いのに、誰かは確信満々にそうだと言う。自分が間違っているのかもしれないが、何がAI生成なのかどうして確信できるのだろうか？
本当に駄文なら、人々が推薦しないことで自然に調整されるはずだと思う
人々が書き手の視点や洞察を求めていると言うとき、そこには実際に重要な何かがある。誰かがプロンプト以外には人間の助けなしでLLMに架空のブログ記事を書かせ、その記事が偶然にも首尾一貫していて事実関係も正確で、しかも面白く書けていたとしても、自分はやはりその文章を特に読みたいとは思わない。少なくともlobstersの文脈ではそうだ
そういうコンテンツを読むためのプラットフォームとして、その性質を理解した上で入るLLMテキスト百科事典のようなものはあり得るかもしれない。だが、人間の思考や創造性から生まれる共同体には合わないと思う
これは現在の個々の文章そのものには大きく影響しない。というのも、「LLMっぽい匂いがする」というコメントが実際にどれほど正確なのか、自信を持って言えないからだ。それでも、意識ある人間が書いた文章を読んでいるという確信を求める共同体メンバーの欲求には非常に共感する
この提案とは少し別の話だが、なぜこの提案が話題逸脱やスパムとして報告されているのか気になる。どの基準にも当てはまらないように見えるのだが？
aboutセクションでこうしたメタ質問が好ましくないと明記されているのは知っているが、自分が何か見落としているのか本当に気になっている
英語が母語でないブロガーが、ブログ記事の言葉を整えるためにAIを使うことはあるはずだ。英語により慣れた人たちは、そうした文章をAI駄文と認識するかもしれないが、実際には一種の補助的なライティングにすぎない場合もある
自分も英語が母語ではないので、こうした文章からAI使用の有無をうまく見抜けない。自分にとって最も重要なのは、中核メッセージがどう伝わるかだ