文章を書くことの社会的契約

 (jola.dev)
1 ポイント 投稿者 GN⁺ 4 시간 전 | 1件のコメント | WhatsAppで共有
  • LLMライティングはブログ、ソーシャルメディア、新聞、書籍、スペルチェックや下書き作成にまで広がり、反復される文体が文章を均質なスロップのように見せている
  • 読者は文章を読むために時間を費やす以上、書き手も知的労力を費やしたと期待しており、LLMの利用は成果物の品質とは別にその期待を揺るがす
  • Oxide RFD 576は、書き手が自分で理解して書いたという信頼が読者の理解への努力を正当化するとし、LLMの散文はこの社会的契約を損なうと見る
  • ChatGPT以後、生成テキストは直接書かなくても人間の話し言葉や文体に影響を与えており、delve、realm、meticulousのような単語の使用増加として表れている
  • 良い文章の基準は、文法や語彙の完成度から独創的な表現と人間的な痕跡へと移りつつあり、誤字脱字さえAIテキストと区別されるシグナルになりうる

LLMライティングと社会的契約

  • LLMはさまざまな産業に広がっているが、とりわけ文章作成において、ブログ、ソーシャルメディア、新聞、書籍、スペルチェック、文法、ファクトチェック、全文の下書き作成にまで幅広く使われている
  • 大量のコンテンツを作るのは得意だが、LLM特有の言い回しや文体パターンに気づき始めると、あちこちで同じ感触が繰り返されているのがわかる
  • 「it’s not x, it’s why」、em-dash、「you’re not imagining it, the problem is real」といった表現が繰り返され、文章は次第に同じ**スロップ(slop)**へと均質化していく
  • 読者は文章を読むために時間を費やしたのに、書き手がそれに見合う時間を使っていなかったと気づいた瞬間、強い反感を覚える
  • この反感は、内容が正確で十分に調査されており、文章自体が悪くない場合でも消えない

Oxide RFD 576が提起する問題

  • Oxide RFD 576の2.4節「LLMs as writers」は、LLM生成の散文が文章作成における社会的契約を損なうと見ている
  • LLMがなかったときは、読者と書き手のあいだで書き手のほうが大きな知的労力を払っているという前提が成り立っていた
  • 読者は、書き手がある考えを自分で理解して書いたと信じられるとき、難しい文章や考えを理解しようと努力する理由を得る
  • LLMで文章を書くと、文章の質や内容の正確さとは別に、書き手がコンテンツを作るために費やした努力は減ってしまう
  • 核心の問題は成果物の質だけではなく、自分で書かずにLLMを使ったという行為そのものが社会的契約を破る点にある

避けがたい生成テキストの影響

  • LLMを直接使わなくても、生成テキストの洪水は人間の話し方や書き方に影響を与える
  • 「you’re absolutely right」のような表現はLLMをからかうために使われるが、ツールそのものが人間の言語習慣も微妙に変えつつある
  • マックス・プランク人間発達研究所の研究は、ChatGPTが好む単語が人間の口語でもより頻繁に使われるようになったと分析している
  • 使用増加が見られた単語にはdelve, realm, meticulous, adept, boast, swift, comprehendなどが含まれる
  • 生成AIの出力は、直接使っているかどうかにかかわらず、すでに言語環境の至るところに広がっている

低バックグラウンド鋼の比喩

  • Low-background steelは、最初の原子爆弾爆発以前に生産された鋼を指し、特定の用途ではかつてより多く求められた材料である
  • 1940〜1950年代の複数の核実験は大気中の放射性物質を増やし、その後に生産された鋼は粒子検出器のような一部の応用分野では十分に「クリーンではない」と見なされていた
  • ただし現在では地球規模の人工的な背景放射線が低下し、近年生産された鋼も大半の用途に使えると考えられている
  • この比喩では、2022年11月30日以降の文章はChatGPT普及後に書かれたため、ある程度LLMの影響を受けていると見なされる
  • 古いコンテンツだけを読むのでない限り、LLM以後の言語環境を完全に避けるのは難しい

LLM以後の文章基準

  • 生成コンテンツがインターネットをより多く占めるほど、個々の人間にもモデル企業にも独創的な思考と表現への需要が高まっていくだろう
  • LLMなしで独創的なコンテンツを書く能力は、より価値を持つようになるかもしれない
  • ただし、LinkedIn風の thought leadership 文章やAI生成の猫画像があふれる環境では、そうした文章を見つけ出すのは難しくなる
  • 人間は長いあいだ、優れた文法、広い語彙、適切な表現や比喩、しっかりした構成を良い文章の基準と考えてきた
  • LLMはこうした伝統的な基準をおおむね満たしているが、同じパターンを繰り返し、表現は古びて見え、比喩はいくらか浮いており、em-dashには悪い印象が残る

良い文章の基準の変化

  • 今日の学生は、一生懸命書いて平均点を取るか、何もせずChatGPTが書いた課題で高得点を取るかという選択肢を持ちうる
  • 現在Claudeが書いた文章を10年前の人に見せても、大きく不満を言う点はそれほど多くないだろうという評価は可能である
  • LLMの文章は長く読めば反復性が見えてくるが、伝統的な「まともな」文章作成の基準にはかなり合致している
  • いまや、より重要な価値は独創的な表現へと移っている
  • 文法が間違っていても違いがあれば価値があり、語彙が限られていても反復的なLLM語彙を避けていれば、より人間らしく感じられる
  • 誤字脱字はもはや単なる欠点ではなく、無難で一般化されたAI生成テキストと区別される人間的な痕跡として受け取られうる

LLMを使わずに書くという約束

  • 読者が時間をかけて文章を読むのと同じだけ、書き手も文章を書くのに時間を費やしてこそ社会的契約は成り立つ
  • 古い映画を流しっぱなしにしながら、その日のかなりの時間を費やして書いた文章には、読む人の時間に対応する努力が込められている
  • 文章を書くことは楽しい活動であり、継続の度合いには差があったとしても、一生続けてきたことでもある
  • これからは文章を書くことをもっと日常的なルーティンにしていこうという意志があり、そうすることには意味があり、取り組む価値があると考えられている

関連記事

1件のコメント

 
GN⁺ 4 시간 전
Lobste.rs の意見

  • Oxide RFD のこの一文は、よくある ai;dr ミームを、棘を減らして引用しにくくした代わりに、ずっと明示的に言い直した表現に見える
    「LLM がない場合、読者と書き手のうち、より大きな知的努力を払ったのは書き手だと前提される」というのは、結局のところ「お前が書く手間をかけなかったなら、私も読む手間をかけない」という意味だ

  • 仕事に LLM をねじ込む書き手たちからは 専門性が感じられない
    こういう LLM くささはどれも、「自分の仕事をする気のないろくでなしです」と大声で叫んでいるように見える。ソフトウェアでは一貫していて予測可能で退屈な低分散の成果物がよいと主張することもできるだろうが、文章ではたいていその逆だと思う

    • そのうちどれだけが、他のみんながコンテンツを大量生産する状況で置いていかれまいとする 切迫感で、どれだけが、あらゆる仕事と責任を投げ出したい誘惑に負けた結果なのか気になる
    • 「ソフトウェアでは一貫していて予測可能で退屈な低分散の成果物がよいかもしれないが、文章では逆だ」という意見には強く同意しない
      むしろもっと 一貫していて予測可能で退屈な文章が必要だと思う。たいていの文章術の助言は、明確さや真実より文体を優先している。AI 文章を擁護したいわけではないし、自分で文章を書くのに AI も使わないし、そのにおいも嫌いだが、もっと多くの人間の書き手が退屈になる勇気を持ってほしい
    • 最もありそうな読者が LLM 自身だと見込むならどうだろうか

  • Pull request も同じだ。以前は、努力の大半は問題を深く考え、コードを書くことに注がれていた
    レビューも大変な作業ではありうるが、少なくとも均衡はあったし、不均衡だとしても、レビューが同時にオンボーディングや教育の役割を果たすときだった。プロジェクトの品質を気にするなら、いまやこの方程式は完全に変わってしまった。プロジェクト内部に関心すらない人たちが、レビュー可能な速度より何桁も速く PR を投げ込める
    本当につらい。コードレビューには、それでも vouch のような仕組みで新規貢献者の PR を止められるという利点がある。しかしブログ記事のようなものでは、書き手が本当に理解して気にかけている人なのか、それともまた別の スロップの壁にぶつかっただけなのかを、ずっと疑い続けることになる。今のところスロップは見分けやすいが、生産者たちが典型的なパターンを避けるようモデルに指示すれば、それも変わる可能性が高い。私が歓迎する唯一のスロップは、LinkedIn がスロップコメントであふれることだけだ

    • LinkedIn の平均的な投稿品質には、実際のところ何の影響もなかった
      以前から自己顕示のゴミだったし、今も自己顕示のゴミだ。ただ今は 漫画風の AI 画像が加わっただけだ
    • ブログ記事のようなものは、Wayback Machine に URL を入れて最初に作られた時点を確認し始めている
      基本的に 2022年以前に作られたものは、ずっと疑わしさが少ないと見ている。詳しい人たちは画像検索に before:2022 を入れている

  • ブログ記事を読むとき、最も重要な 社会的契約は、書き手がその経験を通じて今後も文章を書きながら改善していくことだ
    LLM の使用はそれも壊してしまう。コードを書くのに LLM を使う問題は議論の余地があるとしても、とりわけブログ執筆で LLM を使うのは、ただただ気持ち悪い

  • しばらく抱えていた考えや感情を、うまく言葉にしてくれた。とくに 人の手の不完全さを望む気持ちがそうだ
    他人にもそれを求めるし、自分の仕事にも自分の人間性が表れてほしい。私は綴りがかなり苦手で、友人や同僚によくからかわれるのだが、ブログ記事を書くときにミスをいくつかわざと残して、自分がまだ人間だと示そうかと本気で考えたことすらある。もちろん、それは少しやりすぎかもしれない

  • 「文章を書くのが好きで、ずっとやってきたし、これからはもっと習慣的にやってみようと思う。意味があって、やる価値のあることに感じる」という言葉には全面的に共感するが、二つの不安がある
    第一に、誰かが 2024/2025 年ごろに偶然ブログを始めた、あるいは投稿を増やし始めたのを見ると、基本的に AI だと分類して保留してしまう。自分のブログも外から見ればそう見えるだろう。第二に、AI 企業がよりよいモデルを作るのに自分の文章が役立つのはうれしくない。ただし偽善的なことに、私自身も AI を毎日使っている
    二つ目の問題については、無数のゴリアテを倒す方法があまり見当たらない。一つ目の問題については、コンテンツの背後に十分な人間の注意が払われたことを証明する、ある種の 人間による作業証明が生まれてほしい。書いているあいだ Twitch で配信することも考えたが、あまりに非現実的だし、馬鹿げたアイデアや「今書いていることは完全に間違っている」という気づき、好みに合わせようとする終わりのない言い換えまで含めた執筆過程を公開するのは、実際かなり恥ずかしい気がする。他の証明方法は思いつかない

  • 今ちょうどかなり複雑な 技術ブログ記事を書いていて、本文の文はすべて手で直接書いている
    言いたいことをつかむのに何度か試行が必要だったが、いまでは構成はかなりよくなったと思う。Claude を道具として使った部分は、テキストの説明を Mermaid ダイアグラムに変える作業だ。Mermaid にかけた労力には感謝しているが、とくにフローチャートやシーケンス図のような標準的な構造を外れると、一部の文法はあまりに難解だと感じる。私は Oxide で働いており、RFD 576 にもある程度意見を出した