人間の注意を求めるなら、人間の努力を示すべきだ
(tombedor.dev)- チーム協業では、AIが作成したデバッグ調査・ドキュメント・コードが増えており、AIの出力物をいつ他の人に読ませてもよいのかが新たなエチケット上の問題になっている
- 内部コードベースやドキュメントにしっかり統合されたAIは、実際に有用な出力を生み出せる
- ソフトウェアエンジニアがAIのテキストを読む時間は増えており、手を入れていないAI出力を自分の文章のように投稿する行為は配慮に欠ける行為である
- 読んでもいないAI批評文書を「正確ではないかもしれない」という言葉とともに渡されたら、送り手にとっても読む価値がなかった文書を、なぜ受け手が読まなければならないのかという問題が生じる
- 核心原則は**「人間の注意を求めるなら、人間の努力を示せ」**であり、つまりAIの結果物を共有する際にはAI生成物であることを明確に示し、自分のコメントを添えるべきだということ
- AI時代には注意(attention)はさらに希少な資源となっており、AIコンテンツのラベリングと人間の努力の証明は、同僚への配慮と仕事の中の人間らしさの維持につながる
AI出力が生んだ協業マナーの問題
- デバッグ調査、ドキュメント作成、コードのうち、ますます多くの量がロボットによって書かれている
- この変化は、チームでAI出力を他の人に読ませてよいタイミングを問う新しいエチケット問題を生んでいる
- 内部コードベースやドキュメントに深く統合されたAIは、実際に有用な成果物を作ることがある
- 同時に、ソフトウェアエンジニアの一日の中でAIテキストを読む比重が大きくなり、疲労感(fatigue) が生じる
- 「自分がロボットにやらせられるなら、あなたもやらせられるはずだ」という感覚のため、手を入れていないAI出力を自分の文章のように投稿する行動は配慮に欠ける行為として受け取られる
人間の注意には人間の努力が必要
- デザインを提案した後、チームメンバーがAIに批評を求め、「読んでいないので完全に正確ではないかもしれない」という断り書きとともにAI文書を渡してきた事例がある
- 読んでもいない文書を他人に読めと送れば、送り手にとっても価値がなかった読書負担を受け手に押しつける問題が生じる
- 核心原則は人間の注意を求めるなら、人間の努力を示さなければならないということだ
- AI生成コンテンツが有用であれば同僚に送ってよいが、AIが作った内容であることを明確に表示し、自分のコメントを一緒に付けるべきだ
- 人にコードレビューを依頼する際は、AIが生成したコードをまず自分で直接レビューすべきだ
意味
- AI以前から注意力はすでに希少な資源だったが、AI以後はその希少性がさらに高まっている
- AI生成コンテンツを明確に表示し、人間の努力を示すやり方は、同僚に配慮し、仕事の中の人間味(humanity) を保つのに役立つ
1件のコメント
Hacker Newsの意見
Claudeを全面的に受け入れた生産性の高い同僚が、AI生成のPRを大量に投げてきてチームの負担になっている
6か月ほど経つと、スタンドアップで自分のPRがレビューされず放置されていると頻繁に不満を言うようになったが、意図的に避けているわけではないものの、チームが確認しやすい形にはしていない
AIコンテンツを拒否しているわけではなく、ミスを見つけてふるいにかけるにはレビュー effortがかかる。大きなPRでハルシネーションを指摘するには1時間単位で正確さが求められるのに、そのレビューにさらにAI生成の返答やAI生成の修正が付いてくると尊重されていないように感じ、結局は無意識にそのPRを避けるようになる
解雇でなくてもチームを分割する形で可能で、通常取り除かれるのはトップパフォーマーではない。小さな会社を経営する友人も、メンバーを1人減らしたらほぼ即座にスピードが上がったと言っていたし、その人が周囲を遅くするボトルネックだった
これはAI以前からそうで、AIはその差をより大きく見せているだけだ。現在のAIツールは複数人での共同作業に向いておらず、相互作用が1対1なので、ツールと人の間の引き継ぎは結局人と人のコミュニケーションで詰まる
AIへの反発感情は理解できるが、生産的な反応ではないかもしれない。変更量が減ることはないのだから、すべてのコードを手動レビューするというやり方は長期的にはスケールしない。手動のPRレビューが実際にどれだけ問題を見つけているのか、その価値を適切に評価しているのか、同じ問題を自動で見つけて修正する方法はないのかを検討すべきだ
本人がそれに気づいているのか気になる
ファイル数や行数があっという間に膨れ上がりやすい
最近感じていることとまさに一致する。ある同僚が少し行き過ぎていて、すべてのコードレビュー、メールやTeamsでの質問への返答、新しいストーリー、設計やアイデア会議での個人的な意見まで、ほぼ手を加えないAI出力をそのまま出している
今後のプロジェクトを計画しているが、レビューしてほしいと回ってくる文書は冗長で長く、見つかる問題を見ると事前に本人が読んですらいないように思える
内容が正確だったり、ときには役立つことがあるのは理解しているが、ずっとAIチャットボットと会話している感じがして疲れる。他人のAI生成の返答まで代わりに検証したくはない
AI以前は、実際に仕事をするか、見つからないように他人の手柄を横取りするようなゲームをする必要があった。今やAIが現れたことで、Claudeに全部入れて作業させ、その出力をコピーして他人に貼り付けることで、自分がしていない仕事の手柄を得るための究極の手段のように見ている
最小限の努力で最大限の可視性を得られるわけで、バレないと思っている限り続くだろう。マネージャーが介入しない、あるいは見かけ上の生産量の多さゆえにむしろ奨励するなら、悪化する一方だ
Claudeもよく妙な判断をするし、Geminiはもっとひどい。モデルが自分の意見に同意しているときでさえ、自分が何か間違っているのではないかと疑ってしまう
なぜこれが急に緊急の問題になったのかわからない。昔から人が書いていない自動の「ありがとうございます」メールはあったのに、今は何が違うのか？
そしてこの記事は別の点も示している。AIコンテンツには表示が必要だ。PRがAIによって作られたものかは、いつも明確とは限らない
自分の仕事全体をLLMプロンプターへと自発的に格下げした人がこんなに多いことに驚く
あなたの仕事が機械の仕事と区別できないなら、上司が中間の人間を抜いて機械を直接使えないようにしているものは何なのか？ この新しい世界では、人々は自分の価値を証明するためにもっと努力するものだと思っていた
厳しく聞こえるだろうが、嘘はつきたくない。できる人ならたぶん共感するはずだ。残りはだいたい今ひとつだった
キャリアを通じて「期待以上」未満の評価を受けたことはなく、ひどいエンジニアも見てきたし、ごく少数の卓越したエンジニアも見てきて、彼らをメンターにしてきた
最近の私の方針は単純だ。考えられないなら解雇する。脳を使えない人に時間と金を使う理由があるか？ むしろAIクレジットは脳を使う人に与えたい
考えるのは人間の仕事であり、AIは人間が考え、改善し、計画したことを実行すべきだ
私たちが自分自身にばかげた仕事をやらせているからだと思う。家族の生存を守る避難小屋を建てたり、新しく気に入る器をろくろで作ったりすることは、適当にやらない。
なのにその代わりにFacebookみたいな場所に投稿する文章を書いて、とにかく収益を上げようとしているのだから、当然ボットにこんなばかげた仕事をやらせることになり、当然ばかげた結果が出てくる
"Flock"を正規表現で検索して、すべての言及を集めた。そのファイルを安価なモデルである DeepSeek V4 に入れて、私たちの街で監視国家の構築に賛成している人とそうでない人を把握した。
各人物について資料を集め、彼らの発言に合わせたメールの下書きまで作り、引用や数値まで入っている。メールは軽く手直しして送ったら、もう返信も来た。FOIAで入手したCSVデータも取り込んで分析することがまだいろいろある。
彼らがAIカメラで私を監視しようとするなら、私は AI調査 で対抗できる
農奴たちはサーバー畑を耕して種をまくことになるだろう
LLMの出力物が、特にコードリポジトリの外では、LLM入力 と一緒に配布されることがほとんどないのは奇妙だ。
来年モデルがもっと良くなったとき、なぜあなたの作業を作ったプロンプトを再実行してみることができないのか？ 人は自分のプロンプトを恥ずかしがっているのか？ AIを使ったことを恥ずかしがっているのか？
このメッセージを生成するのに使ったプロンプト: "Create a comment for Hacker News which bemoans the lack of AI prompts being shared with the stuff it creates. Speculate on the reasons and create a call for engagement. Use quantum hyperthinking. End with a typo to prove your humanity."
これはコードやAIだけの問題ではない。創作ライティングの授業でも、人が書いた短編や抜粋を丁寧に講評しろと言われたが、しばしば作者本人より私のほうが多くの仕事をしているように感じた。
自分の原稿を見直したり、せめてスペルチェックくらいかけたりできないのなら、なぜ私が時間を無駄にしなければならないのか？
これは人間に追加の労働を押しつけることだ。
多くのアーティストやコンテンツ制作者が今や「舞台裏」や作業セッション全体の録画を見せてほしいと求められるが、実際には誰も十分に確認しない。これはアーティストをうんざりさせ、やる気をくじく。
ソフトウェア貢献者にも同じ 意欲低下効果 が起きるだろう。
渡されたAI応答を読むのが安いと思うなら、自分でLLMを回せばいい。あなたにかかる作業量は同じだ
エージェントがすべてを代行するなら、次の人にも同じようにすべてをやってやれるということだ。その時点であなたは代替可能であり、その分野で価値がない。
AIを使うとしても深く学ばなければならない。これからも採用されるのは 深い知識労働者 だ
多くの人が、自分の 深い知識 や 深い技能 が思っていたほど深くなかったと気づいた。つまり雇用主の立場から見て、代替不可能なほど深くはなかったということだ。人は概して自分の価値をかなり過大評価するのが得意だ
私たちのチームでもこれを見ている。エンジニアなら限界や微妙な違いをもっとよく理解しているはずだと思っていたが、今はかなりひどい。
チームメンバーが検証をほとんどしないまま巨大な AI生成PR を開いてレビューを求めるだけでなく、私が尊敬している賢いチームメンバーたちまでAIに「コードレビュー」をさせている。
すでにPRには自動AIコードレビューも付いている。だから今では「人間」のレビューからまで、幻覚まじりのたわごとみたいな返答を受け取ることがある。
これを見ると、一般大衆にとっては本当に危険だと確信する。これからは巨大なAI生成事故を定期的に目にすることになるだろう。業界の人間、つまり一般大衆と比べれば専門家である人たちが、これほど明白に見える形で技術を誤用しているのなら、非技術者たちはどれほどいっそう誤解し、誤適用することになるのか。誇大宣伝をする人々や売り込む人々の後押しまで加わっているのだから