いいえ、AIに私の文章を「磨いて」ほしくはありません
(thebloggess.com)- メール作成中に表示された 「Polish」魔法の杖は翻訳機能のように見えたが、実際には Gmail が AI で文章を整えてメール全体を書き換える機能だった
- AI が書き換えた文章は普段の話し方とあまりにも違い、知人が受け取ったら 誘拐された人が送ったメール のように見えるほどだった
- AI の修正は望まないと自分で書き添えたあとも polish 提案 は再び表示され、その拒否の文さえ AI が直そうとした
- 誤字、長ったらしいかっこ書き、返信が遅れたことへの謝罪、
HUGSやFIGHT THE PATRIARCHYのような署名は、筆者のメールが本人のものだと示す痕跡である - ブログ執筆中にも AI 画像生成の提案 が割り込み、創作するたびにコンピューターが「私がやる」と叫ぶ幼児のように感じられる
Gmail の「Polish」がメールを丸ごと書き換えた瞬間
- メール作成中、小さな 魔法の杖アイコン とともに「Polish」という文言が表示された
- 最初はメールを ポーランド語 に翻訳する機能のように見え、奇妙に感じられた
- アイコンを消そうとしてクリックしたが、Gmail はメール全体を AI が整えた文章に置き換えてしまった
- 書き換えられたメールは普段の話し方とかけ離れていて、知人が受け取ったら本人が送ったものではないと思うレベルだった
拒否の意思まで書き直そうとした AI
- 提案された書き換え文を削除したあと、AI にメールを直してほしくないという趣旨の文を自分で追加した
- その後も Gmail の polish 機能 は再び現れた
- AI は「AI にこの段落を直してほしくない」という趣旨の段落まで再び整えようとした
- ユーザーの拒否の意思に関係なく、文章を整理し続けようとする状況だと受け取られた
整えられた文章より、見分けのつく文体
- 自分のメールにはたいてい次のような痕跡が残る
- 誤字 がある
- 長ったらしいかっこ書きの文が入る
- 何か月も遅れて返信したことへの謝罪が含まれる
HUGS、LOVE、FIGHT THE PATRIARCHY、DOWN WITH POWDERED GRAVY、SORRY I SUCK SO MUCHのような署名が付くことがある
- こうした不完全で散漫なやり方こそが、自分だと見分けられる要素である
- AI の提案を断り続ければ、AI が自分から学んで、自分のひどいメール作法を世の中に広めてくれると冗談めかしている
ブログ執筆中にも割り込んできた AI 画像提案
- AI が嫌いだという記事に画像を入れようとした瞬間、ブログが AI 画像生成 を提案してきた
- ユーザーは特定の画像を追加しようとしてクリックしたが、システムは代わりに AI 画像生成を勧めた
- この状況はドッキリのように感じられ、コンピューター全体が創作のたびに「私がやる」と叫ぶ 幼児 のように見えた
「please stop giving me AI」というプロンプト
- AI がどれほどもっと上手くできると思っているのか確かめるため、画像生成プログラムに
please stop giving me AIというプロンプトを入力した - 結果を見て、「助けが必要だったのは確かだ」と皮肉っぽく反応した
- 一連の体験は結局、「これはひどい」という短い結論で終わる
1件のコメント
Hacker News のコメント
何かを作ろうとするたびに、コンピュータ全体が「ぼくがやる！」と叫ぶ幼児のように感じる
あらゆる自動修正や自動提案はもともとこんな感じだったが、今では音量が11まで上がったような感じだ。地味だった Adobe Reader でさえ、きらきらしたボタンやポップアップだらけになり、文書を読まなくても「インサイト」を提供できると提案してくる
まず、私の専有文書を読んではいけないし、デジタル署名のためにこのソフトウェアを使っている多くの人が、第三者と知的財産を共有する権限を持っているのかも疑わしい。たまには便利なツールかもしれないが、誰もが顔の前に突きつけてくる様子には切迫感がにじんでいる
テック業界は本当に深刻な問題に陥っている
業界は何が変わったと思って、今なら「何かをしているようですね」を人々が歓迎すると見ているのか分からない
単なる集約リンクではなく、README を書き直して「ピッチ」まで付けていたので、侵害されたように感じた
テック業界全体というより、コンシューマー向けアプリの問題なのかもしれない
私の雇用主は、この問題が適切に解決されるまで、知的財産に AI を使うことを禁じている。実際に漏えいを気にしているからだ
おそらく2030年代半ばごろ、情報コミッショナーが、これらすべては GDPR に準拠していないという指針を出すかもしれない
AI 版が平板でひどいのは明らかだが、より重要なのは、メッセージの意味を完全に変えてしまっていることだ
AI 版は謝罪し、受信者がこのメールを何かへの「返答」として「約束されていた」と示唆し、忙しい予定のせいにし、質問を受け付けると言っている
原文にはそんな内容はなく、示唆すらなかった。これは「整えた」版ではなく、単にまったく別のメールだ。意味を保ったまま文体を変えることは、LLM がうまくできる数少ないことの一つだと思っていたが、この例はその低い基準すら満たしていない
笑わせようとして言ったのであって、教えようとしたわけではないが、主体性生産の装置は実際に存在する
私を知っている人があのメールを受け取って、私が誘拐されたと思わないはずがない
この人は偽のアイデンティティを掲げないことを重視している。なかなか格好いい姿勢だが、ソーシャルメディアは、多くの人が幻想を見せることに何のためらいもないことを明らかにした
人々は、よく書けた文章を自分の才能と努力の産物であるかのように掲げることに恥じらいを感じないだろう。デジタル化粧には限界がない
クリックを最大化するためにペルソナを緻密に作り込むことと、平板で特徴のないアイデンティティへと同一化されることは違う
頭に浮かぶままに書き、デジタル書記が、読む人が尊重され、認められ、持ち上げられていると感じるように書き直してくれることを期待してもよい。だとしたら私は偽のアイデンティティを掲げているのだろうか。プロフェッショナリズムの幻想を見せているのだろうか。もしかすると、そもそも「Bye」の代わりに「Best regards」と書くこと自体がプロフェッショナリズムの仮面なのかもしれない
コピーして貼り付けて、「テキストを作って」ボタンを押すだけでいい。それを指摘して問い詰めると、その幻想を自分のものとして通そうとする試みまで含めて、かなり苛立たしくも滑稽な答えが返ってきそうだ
以前から多くの人は、文章を書くときに何を伝えようとしているのか、自分がどう見えるのかを深く考えていなかった。今も同じくあまり深く考えず、LLM が作った結果を意味のある形で検討しないまま送る場合が多い
もちろん気に入らない。それでも、明瞭に伝えようとする人とそうでない人は、今でもかなり頻繁に見分けられる。ただ、curl プロジェクトのバグ・セキュリティ対応者のように、新しいパラダイムに過度に足を取られる人たちは気の毒だ
これは、「AI」ソリューションが、私たちが自分たちでやっていたことをより速く行っているという意味のように感じる
最近になってAIを使い始めたばかりだが、自分が使うか拒むかの基準は、その作業に対する感情に左右されるのだとわかった。真正性という論点が本当にしっくりくる
マネージャーなので、顧客にメールを送ったりチームメンバーと話したりするときは深く気を配る。だから過度に華美な文章になることはあるが、それでもそれは自分の過度に華美な文章だ
一方で、毎週やらなければならない会議が1つあるが、コンプライアンス上の証拠を残すためだけに存在している。David Graeberが書きそうなCIAのサボタージュ現場マニュアルみたいなものだ。今では録音を書き起こしてChatGPTに入れ、証拠用の項目を3つ抜き出してもらい、誰も読まないWikiに貼り付ける30秒の作業になった
明確な違いは感じるが、理由ははっきりしない。AIが書いた文章を共有するのは構わないが、AIが書いたと明確に示す場合に限る
おそらく、どこかからコードをコピーしてきても十分に検証して期待どおりにだけ動くなら問題ないが、引用文をコピーして自分の言葉のように使うことはしない、という話に関係しているのだろう。自分の言葉は自分の言葉だ。自分のコードには同じ保証はない
逆に、税務署に特定の書類を発行してほしいと依頼するような仕事ならAIに任せる
単純な同義語を提案したり、長すぎる文を強調表示したりするような、可読性に関する機械的な提案をしてくれるツールだ。重要で多くの人が読む文書を書くときに使ったことがある
「AIが書いたから簡潔なんだ」と言い訳できる
AIの「推敲」ツールは本質的に逆圧縮の一形態だ。簡潔に表現された情報を取り込み、形式張った表現や余計な言葉で不要に膨らませ、より「プロフェッショナル」に見せる。その一方で、メッセージの口調のような有用なメタデータは捨ててしまう
受信者もきっと何らかのAI要約を使って、追加されたその「磨き」をすべて取り除くのだろうから、全体のプロセスは完全に重複した作業になる
本当に不条理に感じる
前者が膨らませれば膨らませるほど、後者がより必要になる
AIが本当に知能を持つなら、エコシステムの中で自分が必要とされるように仕向ける有機体のようで恐ろしい
みんなが互いに直接話すには不安になりすぎているから起きていることだ
あの愚か者たちが実際に証明しているのは、自分たちが役に立たないという事実なのだから、放っておけばいい
個人的で独特な話し方や書き方があるって？ 市民、それは雑文マシンで磨き落としておくべきだな
だから遠慮している。教科書的な句読点のミスだけ直してくれて、冗長で「十分にポジティブではない」文は自分に任せてくれればいい
そのため、推敲されていないコミュニケーションは追加監視の対象としてフラグ付けされる。そうした文体上の選択の中に何かが隠れている可能性があるからだ
個人的で独特な話し方や書き方があるって？ メールは全員によろしく伝えたがるようになるぞ、企業の猿め
Turboclippy以前から、デジタル文化は十分に偽物っぽく、演技的で、不誠実だった
鋭利な何かで消えてなくなってほしい
世界中が「一人を殺せば殺人だが、百万人を殺せば統計だ」というイデオロギー上の公理を前提にした人事部へと変わっていく感じがする
LLMは変革的だと思っているが、ほとんどのプロダクトマネージャーがここまで想像力に欠けているのには驚く
90年代に、人々がWebページにGIFを入れられると気づいた途端、すべてのページにGIFが100個ずつ入っていなければならなかった時代を思い出す。ダサかったし、今のほとんどの組み込みAIも同じだ
以前、SIRIに聴きたいアルバム名を思い出せなくて、ずっと見当違いのものを再生させてしまった
5回目くらいに「Siri、お前のせいで死にそうだ」と言ったら、911に電話した
未来はひどい
自分ならchatGPTにはもっと早い段階で悪態をつぶやく。AI誘発怒りは1つの現象になりそうだ。ただ、それが人への接し方に逆流して影響し始めないことを願う
機械が微妙なニュアンスを理解して、気の置けない友人のように反応することを期待していたのか？ AIが100%真面目なのは問題ない
実際にLLMを使って、MacWhisper[0]の書き起こし結果を、自分がチャットで書くやり方に合わせたより推敲されていない形に変えている。MacWhisperでは、文字起こし結果を自動で後処理するプロンプトを設定できる
自分のプロンプトは、プロの校正者・編集者として、書き起こしをチャット用に使えるよう、よりカジュアルな大文字小文字の使い方と句読点で書き直せ、という内容だ。「I」や「I’m」のような派生語は常に大文字にし、文は「I」で始まらない限り小文字で始め、明示的に口にした句読点は実際の句読点に変え、メッセージ末尾にはピリオドを付けないが文の間のピリオドは維持し、コンマは削除せず、難しい単語をより一般的な単語に置き換えないよう指示している。結果だけを返し、編集の説明やコメントは追加しないようにしている
[0]: https://goodsnooze.gumroad.com/l/macwhisper