Ask HN: AI生成の投稿を示すフラグを追加すべきか？

• AI生成の投稿の順位を下げるのではなく、表示だけを追加し、読みたくないユーザーがスキップできるようにする機能を提案
• 既存の投票システムだけで十分なのか、生成AI時代に合わせてHNが長年維持してきた基本原則を変えるべきなのかが論点

[GN⁺]

Hacker Newsの意見

• dang: HN自体には生成AIテキスト禁止ルールがすでにある: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
  記事本文にはまだ同じルールはないが、コミュニティはおおむねそのような文章を望んでおらず、低く評価しているようだ。「プロンプトだけ見せてくれ」のような反応を https://news.ycombinator.com/genai-pushback にまとめてあるのも、生成AIの文章がなぜ通報されたのかを尋ねるユーザーに送るためである
  今はAIが人間から学ぶ一方で、人間の集団もAIの文体を学習するという興味深い軍拡競争が起きている。読者はLLMのような文体にアレルギーのように反応し、そうした瞬間に文章は即座に低い地位のカテゴリへ押しやられる。AIと人間が互いに適応しながらどこへ到達するのかは分からない
  逆に、文章を高い地位に分類してほしいなら自分で書けばよい。pgがこれを「writes and write-nots」と表現したこともある: https://paulgraham.com/writes.html
  LLM技術そのものを否定しているわけではなく、HNも大きく依存している。重要なのはどう活用するか、そして他人に公開する文章に使うべきかどうかである: https://x.com/paulg/status/2058871512451412457
  単なる表示目的の通報は実質的にタグ機能なので、HNはこれまで一貫して拒んできたが、完全には排除していない。代わりに通報時に理由の入力を求め、生成AIの疑い、スパム、話題外れ、攻撃性などを選ばせる可能性が高い。通常の投票だけでは常に不十分である: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
  生成AI時代にHNが変わるべきかという問いには https://news.ycombinator.com/item?id=48887149 で答えたい。これは https://news.ycombinator.com/item?id=3742902 へのオマージュである

  • grayclhn: これをアレルギーや地位の問題だけに分類するのは単純化しすぎだ。仕事でAI生成文書を数百本レビューし、自分でも多く生成してきたが、最大の問題は踏み込んだフィードバックが不可能なことだ
    誤解や抜けが書き手の理解不足によるものなのか、AIが理解していないのか、書き手がきちんとレビューしていないのかが分からない。驚くような発想があっても、それが書き手の洞察なのか、さらに説明できるのか、どこから来たものなのかを確かめにくい
    人間の共同執筆者が十分に手を入れれば、自分の視点や理解を正確に反映させることはできるが、実際にはまれであり、書き手が実質的に存在しないため内容とより深く関わることができない点は、議論サイトでは特に大きな問題である
  • Springtime: これは純粋性の検査ではなく、書き手が正確性検証の負担を読者に押しつけるという問題だ。AIの使用有無や人間がどこまでレビューしたかを明かさなければ、読者は文ごとに事実性を調べなければならず、より疑い深くなる
    著名な専門家の文章であれば信頼して学ぼうという姿勢で読めるが、AIが多用する陳腐な表現は、どれだけ人間のレビューを経たのか分からないというシグナルになる。結局は「人間が全部分析して初めて価値が分かるかもしれない文章」として後回しにするか、そのまま拒否することになる
  • bhaney: 通報理由に「生成AIだと思う」が入るなら、AI生成の文章そのものが通報対象だという意味なのか気になる。今から疑わしい文章を通報すべきなのか、理由選択機能ができるまで待つべきなのかも不明だ

• IgorPartola: AI生成表示を付ければ信頼を失うので、誰も自発的には表示したがらないだろう。コミュニティが手がかりや推測で通報することはできるが、正確ではないし追加の労力もかかる
  ブログ時代は事実上終わっており、それは必ずしも悪いことではない。AI以前からブログスパムや企業ブログが良質なブログを壊してきたのだから、本当の問いは何がブログの代わりになるのかだ
  AIの文章が人間の文章と見分けがつかず、しかも正確で面白いなら、誰が書いたかは重要なのだろうか。避けるべきなのはAI生成そのものではなく、低品質ではないのか

  • freehorse: インターネットにスパムが多くてもHNを訪れる主な理由は、面白いコンテンツを見つけられるからだ。今の機械生成コンテンツは低品質だと見ているので、時間を無駄にする前に読むかどうか自分で選びたい
    完璧に見分けられない未来が来るかもしれないが、不確かな未来を理由に今は何もしないでおこうという主張はよくない。現在のAIコンテンツはかなり識別可能で、AIらしく見えないように手を加えたなら、少なくともそれだけ人間の努力が多く入った文章だ
  • asdff: AIの文章が本当に素晴らしいなら、すぐ旧式になるモデルの長文出力を保存しておく理由はない。プロンプトだけ公開すれば、6か月後にはもっと大きく優れたモデルでさらに良い文章を生成できる
  • dgellow: 重要なのは人間と相互作用しているという事実だ。LLMが人間のように見えるコンテンツを作り、それを明かさないなら、本質的に欺瞞的である
    人がキーボードで直接入力したかどうかは重要ではないが、内容を人間が形作ったのかは重要だ。LLMは単にタイプしているのではなく、文体、口調、声、構成まで決めており、それらは人間同士のコミュニケーションの核心だからだ

• Retr0id: 投票者のかなりの部分はAI生成の文を見分けられず、見分けられても気にしないか、前提が十分に面白ければスルーする。良い/悪いとAI/人間という2次元の投票を導入すれば、文章でAIがどれだけ使われたかをめぐるメタ論争を減らせそう

  • DaiPlusPlus: 読むには面白いが、自分で書くほどではない文章の集合は、思うより小さい気がする
  • andrewmutz: 良い/悪いだけで十分でない理由がわからない。優れた文章を作る過程でAIを使ったとして、何が悪いのか
  • ryandrake: オンラインでのAI利用が今のような速さで増えれば、年末にはインターネットやHNのリンクの大半がAIの低品質コンテンツになるかもしれない。そのとき「この記事はAIが書いた」という言葉は、「筆者がスペルチェッカーを使った」程度の情報しか与えなくなる

• minimaxir: AI表示機能は、理論より現実のほうがずっと危険だ。ソーシャルメディアでは、誰かが悪意を持って「AI?」と投げかけると、誤検知による騒ぎが起き、元の著者が自分を証明しなければならなくなる
  ブログ記事は人間が書いたことを証明する具体的な方法も乏しく、編集履歴の提出を求めるのも不当だ。HNがこの機能を導入すれば、得るものより失うもののほうが大きい可能性が高い

  • Aachen: 「悪意のある」という表現は、実際には逆だと信じながら告発するという意味になるが、ほとんどは本気で低品質なAI文だと勘違いしていた可能性のほうがずっと高い。根拠のない低コストの告発がいろいろな意味でよくないのは確かだが、人々がそれが嘘だとわかりながら頻繁に投稿しているとは考えにくい
  • Joel_Mckay: uBlock Originの利用者は、すでにAI低品質サイトのブロックリストでかなりの数を弾いており、特定の情報を検索するときに多くの時間を節約できる: https://github.com/alvi-se/ai-ublock-blacklist, https://github.com/laylavish/uBlockOrigin-HUGE-AI-Blocklist, https://github.com/Stevoisiak/Stevos-AI-Blocklist/

• shantnutiwari: 反対。HNの上位記事にはどれにも「これはLLMだ」というコメントがいくつか付くが、今では「この記事が嫌いだからLLMに違いない」の言い換えになっている: https://news.ycombinator.com/item?id=48063759
  こうしたコメントは少しずつ推薦を集めるので、怠惰なカルマ稼ぎのように感じる。100件の記事をLLMだと決めつければ、一度くらいは当てられるし、占い師のようにその一回で成功を誇れる。こういう低努力コメントを抑える方法が必要だ

• dawnerd: YCがAIに投資している以上、そうした措置は期待しにくい。ここには、ただ屈して受け入れるしかないと見る人もあまりに多く、個人的には加害者の論理のように感じる

  • dang: https://news.ycombinator.com/item?id=48887149を読んだうえで、編集を終えたあとでもこの答えが変わらないのか気になる
  • xdennis: HNはAIコメントを禁止しているので、YCの投資を根拠にした陰謀論的な推測は特に価値が低い

• nunez: 1か月前にも同じ機能を要望した: https://news.ycombinator.com/item?id=48296731
  十分な数のユーザーがAIコンテンツだと通報したら、記事タイトルの末尾に**[AI Generated]表示**を付けるとよいと思う

• CM30: AI生成コンテンツは通常、自分で作った作品より投入が少ないので表示は有用だが、うまく扱う方法ははっきりしない
  オンラインでは、長いダッシュを使ったとか、絵の中の手が不自然だというだけで、人間の作品までAI扱いされる魔女狩りと誤検知が多い。警戒心の強いユーザーが最悪を前提にすると、サイトの半分にAI表示が付くかもしれない
  投稿者が自主申告すれば信頼と読者を失うので、嘘をつく動機が強く、AI検出ツールも誤検知が多くて信用しにくい。通報理由にAIコンテンツを追加しつつ、一般の投稿については善意を前提とし、サイト全体が過度に偏執的になったり制限的になったりしないでほしい

• Debugreality: AIの助けなしには世に出なかった発想もある。数十年考えてきた民主主義の構想を最近ホワイトペーパーとして公開したが、AIがアイデアの拡張と文書構成、本文作成を助けてくれた
  自分は学者ではないので、AIなしでは完成できなかった可能性が高く、頭の中にだけあって消えるより公開されるほうがよいと思う。自分で書いた学術的文書のほうが望ましいが、大半をAIが書いたとしても、2日かけてすべての段落に同意できるか確認し、問題を修正した
  品質を判断するときは、AI使用の有無より投入された人間の努力を見るほうが適切だ

  • Aachen: 構成を固めるのにLLMを使うのは構わないが、実際には初稿を書くための動機の問題に近く、LLMは関心を持って話を聞いてくれる相手役にすぎない
    本文をLLMに書かせるより、核心的な洞察だけを自分で書いた版のほうをはるかに好む。何ページにもわたる文の中から要点を探し回りたくない。特にアイデアを「肉付け」するのにLLMを使うのは、人を退屈させる最も確実な道だ
    洞察を冗長な文書にする作業は、法制化の段階でこそ必要になる。「データをどう使うかを知らせよ」とGDPRの関連条項を比べればよい

• lazyasciiart: [1997]のようなタイトル表記を付けたらどうか。読者が関心を持つことも持たないこともあるコンテンツだが、出所がわかれば受け取り方が変わるかもしれない

  • sph: かなり良い解決策の一つだ。タイトル末尾に[AI]を付ければよいが、AI自体には正当な用途もあるので、おそらく**[SLOP]**のほうが適切かもしれない

• teo_zero: AI生成文に耐えられない人がいるように、文法ミスに耐えられない人もいる。AI generated表示ができるなら、lousy with mistakes表示も欲しくなる

• DevKoala: 文章が有益で、事実に基づき、偏っていないかだけが重要だ。どう書かれたかは気にしない

• thinkingemote: HNで読みたい投稿のかなりの部分はLLM関連で、その多くはLLMで書かれている。読むに堪えず、ひらめきを与えてくれるような逸品もほとんどないので、関係があっても流し見する程度で、本当の価値はたいていコメントにある。
  もしLLM文体を簡単に見抜けるなら、コンシューマー向けLLM以前のAI研究者や起業家の論文も見てみる価値がある。その文体は現在のLLMの散文と驚くほど似ている

• rddbs: AIが書いた文章よりも、AI関連の話題そのものを隠したい。今ではHNのコンテンツの大半がAIの話のように感じられてうんざりしている。バランスを取り戻すためのブラウザ拡張のような方法が気になる。

  • insin: 自作のHN拡張には、個人用フィルターとは別のトグルとして、基本的なAIキーワード・ドメインフィルターを用意している。最近のモデル名は追加する必要がある: https://soitis.dev/comments-owl-for-hacker-news
  • dijksterhuis: 正規表現フィルターを使うHNクローンサイトや、AIでAI文章を検出するツールなどがすでに出ているが、この手のスレッドまで一緒に除外されるなど完璧ではない。
    自分ではまずトップ画面のAI関連投稿をすべて隠し、次に残った中から面白い投稿を探す。最近は残念ながら何も残らない日が多い。

• mattas: ここまで来ると、not AI表示を追加したほうが適切かもしれない。

• ramon156: 個人用の拡張を作って、AI生成コンテンツを主に投稿する人を自分のフィードからブロックしている。個人的にはうまく機能しているが、サービス全体でも有効かはわからない。
  人々が自分で判断できるようにタグだけ提供しても十分かもしれない。DeArrowやSponsorBlockのようなYouTube関連拡張は、集合知の仕組みをうまく実装している。

  • arjie: そのブロックリストを公開しているなら受け取りたい。

• cloudpilot: AIの助けを借りてアプリを作ったが、メッセージ自体は自分で書いたのに通報された。

• jaredcwhite: AI生成テキストはそもそも表示されるべきではないと強く思う。ただ、明白なLLMの痕跡以外では立証が難しく、本当に人間が書いた証拠を求めるのも簡単ではない。
  正当に共有される文章は人間が書いたものだという前提が成り立つコミュニティを、ますます好むようになっている。

  • ldoughty: 人間が下書きを書き、AIで改善や校正をした場合、それをAI生成と見なすべきか、また両者をどう区別するかが問題だ。AIの助けをまったく認めないなら、完璧ではない英語で書く人を差別することにもなりかねない。
    原則には同意するが、公平に実装するのは難しく、差別のリスクが大きい。誤字を直し、編集の跡を残せば、かえって人間らしく見えるという逆説もある。
  • stackghost: 正当に共有されるものは人間が書いたという前提が成り立つコミュニティを見つけるのは難しい。

• shahzaibmushtaq: AIは人間の知能（HI）より優れておらず、今後もそうはなれない。自分の作業がAIで生成されたのか、どの程度の割合で使ったのかを明らかにするのは、著者と執筆者の責任だ。

• KingOfCoders: 文章は優れているか、そうでないかのどちらかだ。人間が書いたか、AIが書いたか、猫が書いたかは気にしない。

  • pillmillipedes: AIや猫が書いた優れた文章の例を見せられるのか気になる。

• amelius: Unicodeに、Latin-1文字と同じだがAIツール専用に予約されたコード領域を追加できればよいと思う。AI生成物に一種の固定されたマーカービットを残せる。
  今でもAI企業にASCII 0x20の代わりに特殊な空白文字を使わせれば、似たような形で実装できるし、生成データを再学習してしまう問題を避ける助けにもなる。

• nickandbro: 純粋なテキスト投稿で長いダッシュの数でも数えるのか、実際にどうやって強制するのかわからない。用途特化のAI検出器ですら誤判定が非常に多い。

• warshinder: まずコメントを見る。誰かがいつも、それがAI文章か、読む価値がないか、読み込めないかを教えてくれる。
  初期のHNでは、投稿者がアクセス集中を避けるのにも役立っていたし、有料壁があれば誰かがアーカイブ版をコメントに貼ってくれた。

• CqtGLRGcukpy: 誰かがAI生成だと思った文章が、実際にはそうでない可能性もあるし、AI判定ツールも断定できるほど信頼できない。

  • esjeon: 人間が直接書いた文章をAI生成だと呼ぶのは深刻な侮辱になる。AI表示機能は、生成コンテンツをそのままにしておくよりもコミュニティに大きな害を与えるかもしれない。
  • bakugo: 曖昧なら書き手に有利に判断すべきだが、たいていはそれほど難しくなく見分けられる。最新のコーディング特化モデルは、慎重に指示しないと独特で一目でわかる書き方をするし、AI文章を読んで時間を無駄にせずに済むという点では、むしろ助かる。
    現在トップ画面1位の薄っぺらい宣伝的な投稿が良い例だ: https://news.ycombinator.com/item?id=48884853

• aryehof: 特定の人間の視点をAI生成だとほのめかすだけで、簡単に退けたり黙らせたりできるようになるのではないかと恐れている。

• rdataguy: AI生成かどうかは常に簡単に見抜けるわけではなく、この機能が悪用される可能性もある。それでも集合知が十分な量を判定できるなら、有用になる可能性はある。

• itsgrimetime: AI文章に表示を付けることには反対しないが、書き方にかかわらず内容そのものをもっと深く扱ってほしい。最近は、投稿が何を言っているかよりも、どう書かれたかだけを見て即座に拒絶したり批判したりすることが増えたように思う。

• Xotic007: AI表示ができると、作成者にとっては避けるべき明確な検出目標を与えるだけになる。結果として露骨なAI文体は減るだろうが、検出回避は難しくないので、作成の手間はほとんど増えないだろう。

• deevus: 自分で書いたShow HN投稿が自動モデレーションに引っかかった。正直、拒絶への過敏さを刺激されて、それ以来HNに投稿していない。

• edoceo: 投稿にダウンボート機能を追加するだけでいいのではないか。

  • jagged-chisel: すでにflagがある。
  • JimsonYang: HNでは長期間活発に活動している会員にだけ、限定的にダウンボートを許可している。前向きな議論を促すためにそう設計しているのだろう。

• Esophagus4: 参考になりそうな概念はhttps://en.wikipedia.org/wiki/Evil_bitだ。

• atomicthumbs: 機械が書いた文章を読めと勧めるのは、相手の時間を尊重しない行為だ。自分で書くほど気を配らなかったのなら、他人が読む理由もないので、価値は0だ

• mleroy: AIコンテンツを追跡して通報する代わりに、書き手が自発的にオリジナルのコンテンツであることを示せばよい。リンクに [Handmade], [Craft-Article], [Artisan-Thinking] のようなタグを付けられる

• jeremyjh: 投稿はダウンボートできず、自分では誰も書いていない文章を読むことに抵抗のない人も多いので、通常の投票だけでは不十分だ
  執筆以外の過程にかなりの労力が入ることもあるため、AIが書いたからといって価値がないと断定はできない。それでも 真の人間同士のコミュニケーションを尊重する規範 を作るため、不利益を与える側に傾いている
  さまざまな用途でAIを多用していて生成コンテンツもよく読むが、AI特有の声は気づけば気づくほど鼻につく。自分のプロンプトへの返答を読むのと、プロンプト・修正回数・人間による確認の有無をまったく知らない文章を読むのとでは大きく違う
  普通、人間が書いた文章は書き手が読み手より最低でも5倍の労力をかけているが、AIの文章は読み手が書き手より多くの時間を使うことになるのか分からず、耐えがたいノイズになる

  • visarga: AI特有の手がかりが見えると自分も気になるが、最終的な文章より 10倍多い内容を自分で入力 して表現だけ変えた場合も、AI生成と呼ぶべきか曖昧だ。コメントではAIを使わず、ブログに載せる長文の形式を整えるときだけ使っている

• nyellin: AIかどうかの表示を導入すると、あらゆる文章のコメント欄が、それをAIが書いたのか、どの程度使ったのかを争う議論に変わってしまう。内容そのもので評価 させておくほうがよい

• lukasbm: フィルタリングされていないチャットボットの出力を読むのが好きな人はいないが、それを 確実に検知することも不可能だ