会話にAI生成のテキストの壁を投げ込むこと

 (noslopgrenade.com)
2 ポイント 投稿者 GN⁺ 6 시간 전 | 1件のコメント | WhatsAppで共有
  • スロップ手榴弾とは、一文で十分なチャットやメールに巨大なAI生成回答を貼り付け、会話という媒体を壊してしまう行為
  • 「会議は何時ですか」という質問に、スケジュール管理のベストプラクティスを10ページにわたって分析した文章を投げるように、質問の大きさと回答形式が噛み合っていない
  • Redis と Memcached のどちらを選ぶかのような判断が必要な質問では、長い比較分析よりも「Redis。通知機能に pub/sub が必要」のような短い答えが適切
  • 相手が欲しかったのは ChatGPT が作れるエッセイではなく、回答者の人間的な判断であり、長いテキストの壁は返答・反論・確認を難しくする
  • AI は答えを長くするための道具ではなく、考えをより明確に磨くための道具として使うべきであり、意味のない情報量の増加は会話を殺してしまう

スロップ手榴弾とは何か

  • スロップ手榴弾とは、人が一文で答えられるようなチャットやメールに巨大なAI生成回答を貼り付ける行為
  • Slack のような会話媒体に長文のエッセイを投げ込むことは媒体そのものを壊し、AI のコピー＆ペーストがそれを容易にしている
  • 「会議は何時ですか」という質問に、スケジュール管理のベストプラクティスを10ページにわたって分析した文章を送るように、単純な質問に文書級の回答を投げるやり方
  • Redis と Memcached のどちらを使うかを問う場面では、長い比較分析よりも「Redis。通知機能に pub/sub が必要」のように判断を短く伝える答えが適切

なぜ間違ったやり方なのか

  • 相手がAIのエッセイを欲していたなら自分で ChatGPT に尋ねたはずで、質問を送った理由は回答者の判断を求めていたから
  • 長文のAI回答は受信者の時間を奪い、会話を壊してしまう
    • 相手は、本来最初から渡されるべきだった一文を見つけるために20分使わされるかもしれない
    • 答えが技術的に正しくても、その形式自体が人間のコミュニケーションのあり方に敵対的
  • 巨大なテキストの壁は、相手が返答したり、反論したり、確認したりすることを難しくし、会話を殺してしまう
  • AI は答えをより長くするためではなく、考えをより明確に磨くために使うべき
  • Jean Baudrillard の「情報はますます多くなり、意味はますます少なくなる」世界と通じている
  • スロップ手榴弾に遭遇したら、noslopgrenade.com を共有できる
  • より良い非同期コミュニケーションの実践である nohello.net に触発されている

関連記事

1件のコメント

 
GN⁺ 6 시간 전
Hacker Newsの意見

  • AIとの会話は夢に似ている。誰にでも気に入っている夢の1つくらいはあって人に話したくなるものだが、その夢やチャットセッションは本人にとってだけ特別で、他人にはあまり意味がない。
    同僚や他人を自分の夢の話で退屈させてはいけないし、コンピュータの夢であるAIチャットログも投げつけるべきではない。

    • 夢の話は長すぎなければ大丈夫だし、面白かったり笑えたりすることもある。
      結局どんな話題でも、話すときは相手が関心を持っているか確認すべきで、聞く側も反応のシグナルを出すべきだ。ただしAIチャットの共有は勘弁してほしい。ポーカーフェイスも礼儀も長くは持たず、結局は不満を言ったり皮肉を言ったりしてしまいそうだ。
    • Copilotが自分の書いたコードの後ろにコメントを自動補完して、This is hacky, but... と付けた。
      面白かったので上に This is what Copilot said about my code: と書いたら、Copilotが続けて Copilot was correct, but... と自動補完した。

  • こういう反応にもういちいち腹を立てたり、教育で直せるとだけ考えたりはしないことにした。単に別の文化的なコミュニケーションの違いのようなものとして見て、理解しようとし、ある程度寛容に受け止め、溝を埋める方向で考えている。
    その人のコミュニケーション文化では、「よく分からないけれど助けようとしてみた」という意味かもしれない。結局のところ核心は、相手が善意で行動しているかを信じられるかどうかだ。善意を前提にできないなら、応答の形式そのものは本当の問題ではない。もちろん、相手の解釈した答えや会話への貢献がどれくらいの頻度で「分からない」に近いのか、また不要なときにどれくらい頻繁に割り込んでくるのかも、こちらの評価には影響する。

    • これが本当に文化なら、その文化の中でAIゴミ爆弾を受け取るのが好きな人も見つかるはずだ。
      コミュニケーション文化には話し手だけでなく聞き手も必要だ。話し手は見えるが、聞き手はまだ見たことがない。聞き手より話し手が圧倒的に多いなら、それは外部の文化というより、ありふれた無礼な失敗に近い。テーブルの下にガムを貼ることやキャットコーリングのように、よくあるが配慮のない行動であり、恥をかかせることも環境を変えて行動を減らす1つの方法だ。私はこの行動は受け入れられない側だ。
    • いろいろな製品サポートサイトで、質問に人々が熱心に答えていても実際にはほとんど役に立たないことが多い。
      AI爆弾投下もだいたい同じカテゴリに入る。AIが作った答えでも、要点を突いていて簡潔で、自分の問題に答えているなら構わないが、答えを見つけるために長文の壁を読まなければならないなら役に立たない。だからKagiの検索結果ではそうした「回答」サイトをブロックしていて、その点はKagiの良いところだ。
    • 善意で行動するというのは、「確信はないけれどClaudeはこう言っていて、たぶん合っていると思う: [Claudeの長文の中の短くて情報量のある部分]」くらいの言い方をすることだ。
      自分の答えのようなふりをせず、有用だと判断した情報だけを残し、短く編集すべきだ。
    • 意味のない長文の壁を読むには時間も労力もかかるし、それを無駄にしたくない。
      だから単に別の文化を受け入れるかどうかの問題ではなく、コストは「無料」ではない。AI爆弾を読むのは、少なくとも自分にとってはかなりストレスだ。
    • 「よく分からないけれど助けようとした」のだとしても、やはり悪い助け方だ。
      客観的によくて純効用は0に近い。本当に文化の違いで、しかも心から助けたいのなら、教育で直せる。見た目にしか関心がないなら、訓練が役に立たないという点には同意する。

  • そういうテキストの壁に出会ったときは、view source のようなボタンの代わりに view prompt ボタンがあればいいのにと思う。
    AIが作ったメッセージや文書はたいてい不必要に冗長なので、プロンプトだけ読めば十分なことが多い。なぜ箇条書きのプロンプトを巨大な段落に変えるほうが良いと思う人がいるのか分からない。自分の時間を無駄にし、実際より多くの労力がかかったように見せるだけだ。

    • 理由は単純で、より多く働いたように見えるからだ。
      みんながChatGPTを使う前は、長い文書は誰かがコンピュータの前で時間をかけ、雑な箇条書き一覧より多くの努力を注いだというシグナルだった。書く過程で普通はアイデアも洗練された。今では誰でも箇条書きをChatGPTに入れて文書へと膨らませ、深く考えたかのような幻想を作れる。昔は多くの仕事をしていた人たちと同じ場所を占めながら、実際の作業はしなくても済む。
    • 個人的にこの行動はとても嫌いだし、自分ではやらないし、やめてほしい。
      うまくやっていきたい人たちが自分にもこうしてくるのだが、相手を刺激しないうまい対応が分からない。彼らは楽だからこれを選び、自分はそのゴミを読んで意味を把握して質問するか、あるいはClaudeではなくあなたの意見をくれと断るかを選ばなければならない。前者はさらに多くの長文につながり、後者は自分が不親切だったりAI嫌いに見えたりする。自分はAI嫌いではないが、職場ではAIへの不満を公然と言う人は多くない。今は流行っているからだ。その文章自体がAIくさいという点も皮肉だ。
    • 職場で人々がこうする理由は、低い労力で参加しているふりをし、何か知っているように見せられるからだと思う。
    • シンプルで構造化された回答に必要な思考の努力を払いたくなかった人たちが、今では単語が多ければその能力不足が魔法のように解決すると考えているようだ。

  • Slackでも長文は100%書く。
    質問や依頼で誰かに連絡するとき、できるだけ多くの文脈を提供しようとしている。

    • すべての返答を「いい質問ですね」で始めるのか。そんな人間は見たことがない。
      「いい質問ですね」は、本当に難しい質問か、皮肉を言うときに使う言葉だ。ほとんどの質問は大した質問ではなく、質問した人が簡単な答えを必要としているだけだ。
    • 長文とエッセイは違う。
      助けを求めるメッセージを書くのに、何時間もタイピングしてタイトルまで付けて書式を整えたりはしない。不必要な創作文的なテクニックを山ほど入れたりもしない。
    • それは規則を証明する例外に近い。
      特定の受信者に必要な文脈を知っているからできることで、生成AIは普通それを知らない。
    • 自分もそう書くが、ツールと戦っている感じがする。
      もっと多くの人がメールを書いてくれたらいいのにと思う。

  • 人々に無礼に振る舞わない方法を教えるこういうページがまだ必要だというのは興味深い。
    なぜ無礼で愚かだと見なされる行動をしてはいけないことを理解するのがそんなに難しいのか分からない。

    • こういうページを最も読んで学ぶべき人たちほど、実際には最も読まない可能性が高いので、効果はほぼゼロに近い。
    • 人を見下すところから始めると行動を変えさせるのは難しく、むしろ嫌っている行動をさらに強めることが多い。
      変われと要求する前に、なぜ人々がそうするのか、その視点を理解していることを示すのが役に立つ。他人は自分を理解しようとする人の言葉のほうをよく聞く。
    • 技術がどれだけ増えても、愚かな人を賢くすることはできない。
      Metaの眼鏡をかけさせてAI出力をそのまま読ませても、愚かな人はたぶん単語でつまずくだろう。
    • ソーシャルメディアの外ではAIゴミ爆弾をほとんど見たことがない。
      ただしAI以前からすでに存在していた場所、たとえばカスタマーサポートの返答や、台本どおりのマーケティング・人事文句のようなところでは似たものがあった。会社の話を5分間し続けて割り込む隙も与えない実際の電話も、一種の爆弾のように感じられる。

  • 最後に「AIを使ってもっと明確にしろ」と言っているが、違う。AIを使わず、ただ話せばいい。

    • 英語が母語ではない同僚がAIで文章を整えていて、特に長い文書でうまく活用している。
      ただし結果が今でもちゃんと読みやすいように非常に手間をかけている。その努力のおかげで文章は力強く正確になった。AI以前には非母語話者にありがちな明らかなミスがあったが、今ではAIを使ったと気づくのが難しいほど明確で有用な文章になっている。たまにぎこちない表現が入るが、見つけるのは難しい。これがAIライティングの正しい使い方であり、一緒に働いている別の人がやっているゴミ爆弾とはまったく違う。
    • 顧客がAIを使って問題を説明し、伝えてくることがあった。
      ときどき例のように長文の壁になることもあるが、特定の用語を知らず、ただ用件を処理したいだけの一般人が問題をまったく説明できないよりは、全体としてより良い代替手段だ。私たちは皆、知らない分野では一般人なのだから、ある程度は理解してあげる必要がある。

  • AIで情報を浴びせてはいけないという感覚には完全に同意する。
    同時に、オフラインでは人間である自分にもこれを直接やってしまう悪い癖がある。

  • たいていの役員は文章をやっと読める程度に見えるので、150字以上送るのはキャリアにあまり役立たない。

    • 前に働いていた会社のCEOはメールを全部箇条書き形式で書いていた。
      ずっと読みやすかったし、返信も特定の箇条書きを引用してすぐ答えればよかったので、生活がずっと楽だった。
    • 「executive summary」と呼ばれるのは、役員が手間ひまかけて作った報告書のその部分だけを読むからだ。
    • 文脈が重要な場合は、メッセージの冒頭に要約と行動の依頼を先に入れ、その下に詳細を付ける。
      やり取りの質問を減らすのに役立つし、自分の要点もより明確になる。ほとんどの人は、やるべきことが決まったら、文脈は後で参照するときだけ見る。

  • 「Redisを使うべきかMemcachedを使うべきか？」という例は、もっと広い読者向けにはできなかったのかと思う。
    IT業界にいる自分ですら、Redis や Memcached が何なのかほとんど分からず、どちらも使ったことがない。

    • ここの人の90%はそれが何か知っている。
    • この業界がITと呼ばれていた頃には、Redisはなかった気がする。

  • こういうAIの使い方は一種のサービス拒否攻撃のように見える。
    Aliceは低い労力でBobに長文の壁を送りつけ、Bobは高い労力をかけて解釈しなければならないが、その労力に比べて得られる価値はほとんどない可能性が高い。