そう言えばいいだけです
(noperator.dev)- AI時代において人間の価値を擁護する議論の多くは、人間とAIの能力格差に依拠しているが、この格差が縮まるにつれて議論そのものの土台が揺らいでいる
- 「人間は高品質な成果物を出せるときに価値がある」という結論は、特定時点のモデルのベンチマークスコアに従属しており、将来も維持されるかは不確実である
- 条件を付ける代わりに、「人間は大切だ」という確固たる命題をそのまま宣言するほうが堅牢である
- 創作物の質は意図と形式という二つの要素に分けられ、価値をめぐる議論は意図を見落としたまま形式に偏っている
- 生成AIの問題点は、明確な意図なしに形式だけをあまりにも容易に生み出してしまうことであり、手作業では起こりにくいミスである
- 人間と人間の創作物の価値を評価するにあたっては、いささか奇妙な論理が存在する
「人工知能の時代でも、特定の役割には依然として人間が向いている。その理由は、人工知能がその役割に必要な作業を決して実行できないから、あるいは少なくとも人間のほうがうまくやれるからだ」
「人間と人工知能の成果物が似て見えるとしても、人工知能には再現できない微妙なスタイルの差異があるため、人間の成果物のほうが優れている。少なくとも人工知能はそのようなスタイルを一貫して再現できない」- ゴールポストの下部に、絶え間ない動きによって生じた擦り傷の跡を思い浮かべてほしい。コンクリートが完全に固まるには28日かかる
- このような考え方は、結局のところ「人間は高品質な成果物を生み出すときに価値がある」という結論に行き着く
- この主張は、現在は存在するが次第に縮まりつつある人間とAIの能力格差に危うく依存している
- 過去（2023年当時のChatGPT）には確かにその格差があり、今もなお存在するかもしれない。しかしその格差が将来も維持されるかは分からない
代わりに考えてみること
「人間は大切だ。」
- ただこう言えばいい。自分も人間なのだから、そうすることを勧める。わざわざ説明を付け加える必要もない
- この言葉は、特定時点の最先端モデルが最近のベンチマークで得たスコアに左右されない、確固として確実な命題である
「品質」の特徴
- 創作物の質はどう測るのだろうか？
- 「効果的ですか？ 意図したことを達成しましたか？」
- この問いは、品質の二つの下位要素、すなわち意図と形式という二つの側面を含んでいる
- 創作物の価値をめぐる多くの議論は、意図を見落としたまま形式に過度に焦点を当てる傾向があるように思える
- 創造とは、意図を形へと凝縮する過程である
- 意図はたいてい、成果物の形の中に切り離せない形で内在している
- 人間は頭の中にあるイメージと十分に一致するまで、反復的に（時には非常に手間をかけて）自分の創作物を磨き上げ、再構成する
- 生成AIの特異な点は、最小限の意図だけで実質的な形を作り出せることにある
- 人間は自分が何を達成しようとしているのかについて曖昧な精神モデルを持ったまま作業に臨むことがあるが、それでもAIは何かを作り出せてしまう
「上司に送る退職届を書いて。」 「うーん……それっぽいね。」
- もしかすると「AIスロップ（AI slop）」という表現は、形式に込められた意図を把握しにくいことを示しているのかもしれない
- その定義に従えば、人間もまたスロップを作り出しうる
- 生成AIは、ただ 意図のない(intentless) 形式(form)を生み出す参入障壁を下げただけである
- 意図はプロンプトに含まれているとも言え、散文テキストの場合、よくできたプロンプトは意図された形式(intended form) にすでに近いと見なせる
- 最近、人間同士のコミュニケーションを仲介するためにLLMを使うことについての議論で、友人のトム・ハドソンはこう言っていた
「LLMを使ってメールを書くくらいなら、いっそプロンプトを送ってくれたほうがずっといい。そうすれば、君が実際には何を言おうとしていたのか分かるからね。」
- 生成AIの問題点は、明確な意図がなくても形があまりにも簡単に現れてしまうことにある。こうしたミスは、手作業で作るときには起こりにくい
1件のコメント
Hacker Newsの意見
著者の友人によるこの一文が本当に刺さった: 「LLMで私にメールを書くくらいなら、いっそプロンプトを送ってくれ。少なくとも君が実際に何を言おうとしていたのかは分かるから」
だからといって、コミュニケーションに少しの礼儀や専門性を加えることが無意味だという話ではない。ただ、伝えたい核心はプロンプトにあり、そこに前置きと署名だけ付ければよいということだと思う
私たちは人間として会話すると同時に、直接コミュニケーションしている。誰かがAIの返答を送ってくると、誠実さがないように見えて、少し侮辱的に感じられる
人が書いていない文章を読まされるのなら、差出人を「Claude」や「gpt-5」のような名前にして、意味のある入力をしたふりをしないほうがいい
AIの助けを借りることはできても、それは明確に示された添付物であるべきで、本文は人間が書くべきだと思う。PRの説明も同様で、AI生成の内容は別の領域に置き、残りは人間が意図を明確に書くべきだ
ところが今は、AIが人間のふりをする世界で、しかもどんどん悪化している
実際に送ったものこそが言いたかった内容だ。考えと発話の区別は常に重要だったし、相手が送らないと決めた私的な思考に直接アクセスすべきだという発想は間違っていると思う
手紙を受け取って「本当の意図」を見るために私的なメモを要求するのに似ている。ほとんどのコミュニケーションには交渉や説得が混ざっており、思考は本質的に私的なものだ
ただし、AI生成メールは、書くのにかかる時間と労力と、読むのにかかる時間と労力のバランスを変えてしまうので、その懸念はもっともだ
人は世界を認識するうえで微妙な誤りを犯し、相手も同じような誤りを犯すので、礼儀という構造的なルールがその害を減らしてくれる
AIはプロンプトの内容をもっと多くの言葉で言い換えるだけなので味気ないことはあるが、生のプロンプトを送るよりは平均的にはましだろう。友人が本当に望んでいるのは、「短いプロンプトよりも、もっと時間をかけて私とコミュニケーションしてほしい」という意味に見える
返品したいAmazonの注文3件とそれぞれの理由を伝え、詳細を調べて保証サービス依頼のメールを作らせたところ、すばやく確認してコピーして送るだけで、15分かかる作業が5分で終わった
それが繰り返されれば差は大きくなる。ただし、いつ近道を使ってはいけないのかは分かっていなければならない。良い日には、ヤクの毛を刈る240ボルトのバリカンのような道具だ
LLMが一般化する直前に引退したので直接は経験していないが、同僚・同格・友人同士の1対1または1対2のメールは、もともとできるだけ短く直接的だった
LLMが今日作りそうな長さと構成のメールは、LLM以前でもかなり奇妙に見えただろう
これまで読んだAIゴミコンテンツの定義の中で最高だったし、文章自体はその対極だった。短いが、すべての単語に意味があった
大きくても根本的な動機や理解が欠けた成果物がAIゴミを生むのであって、AIの使用そのものが原因ではない
この区別によって、AI自体ではなく継続的な誤用を責められる思考モデルが得られる。AI補助コーディングでも、継続して方向づけを行うことがなぜ重要かを説明してくれる
提供したプロンプト群の総体がソフトウェアの意図に対する首尾一貫した見方を成すなら、それは良いコードを生成するための種であり仕様になる。逆に、「だめ、やり直し」のような短いプロンプトばかり集めたら何が出てくるかは分かる
食べ物や水に入っている「化学物質」に文句を言う人たちのように聞こえ始めていた
実際の不満はAIとその使い方の特定の側面に向けられており、この文章はそのひとつを非常にうまく表現している。だからこそ、実際に議論して対処できる
要するにかなり似ている。機能的に重要な変数は意図と手間だ。人間もAIなしでゴミコンテンツを作れるし、AIで芸術を作ることもできる。AIはただ、ゴミコンテンツを産業規模で可能にするだけだ
あまりにも多くの人が、「社会への貢献」を基準に他人を非人間化することに大きなエネルギーを注いできた
就職していなければ医療保険を受ける資格がない、といった考え方だ。AIが、人の価値が労働の産出物に結びついているのかを改めて考えるきっかけになってほしい
たとえば失業者は、キャリアを通じて実質的な問題を解決し、どのVCよりも100倍生産的だったかもしれない。一方そのVCは、スタートアップで運よく成功したあと、10年間いくつかの取締役会に座っていただけかもしれない
時間があり心を開いていて、1日に何度か心からの会話を交わせるホームレスの人のほうが、今の私より社会に大きな価値を与えているかもしれない
C.S. Lewisの文章は、聖パウロに比肩するほど見事だと思う: 「平凡な人間など存在しない。あなたはただの死すべき者と話したことなど一度もない。国家、文化、芸術、文明は死すべきものだが、その命は私たちの命に比べればカゲロウのようなものだ。私たちが冗談を言い、共に働き、結婚し、無視し、搾取する相手は不死の存在なのだ。不滅の恐怖、あるいは永遠の栄光である。だからといって、常に厳粛でいなければならないという意味ではない。私たちは遊ぶべきだ。しかしその楽しみは、最初から互いを真剣に扱う人々のあいだにある種類のものであるべきだ。軽薄さも、優越感も、軽率な決めつけもなく」
難しい。最高の理想とは、もともとそういうものだ
カチカチ鳴る機械たちは、ただの巨大な機械の精霊にすぎないのだから、そのように扱えばよい
「人間には価値がある」とただ言える、という一文について、実際にはそんなふうには言えない
CEOたちはその言葉を聞けば身震いするだろう。おそらく、かつて人間だった時代の名残なのだろう。彼らにとって人は「価値の低い人的資本」であり、家畜であり、票の数にすぎない
https://fortune.com/2026/05/26/standard-chartered-ceo-bill-w...
驚いた。最近ちょっとした アイデンティティの危機 を経験していた
自分が情熱のある、悪くない開発者だとは分かっているが、AIの話があふれる中で、これが自分にとって一つの時代の終わりなのか理解しづらかった
だがこの記事を読んでいるうちに何かが腑に落ち、本当に筋が通っていると感じた。ずっと気が楽になった
人間は重要であり、人間の趣味嗜好は代替できない。まだは？ まったく？ そもそもなぜ代替したがるのか？
https://www.goodreads.com/quotes/309485-nobody-tells-this-to...
ボットやLLMよりずっと前から、メールを書くときはたいていの場合、先頭に「要約」、その次に「詳細」を置くよう自分を訓練してきた
例: 「要約: 明日の正午の昼食にブラウニーを1ダース持ってきてくれる？」
「詳細: デザートの計画が崩れて、君のブラウニーがいちばんおいしいし、君は私に借りがあるし…」
この構造は解放感を与えてくれる。正当化が必要なら相手は読み進めると分かっているので、欲しいことや必要なことを短く、ときにはぶっきらぼうに整理できる
同時に、自分が何を望んでいるのかを明確にしてくれる。ただし受信者より組織内の立場があまりに低いなら、適切ではないかもしれない
AIの能力と無関係に価値を保つ人間の産出物のカテゴリがある: 芸術とスポーツ だ
人々は創作者を重視する。出自が作品や畏敬や感情的反応を規定する
しかしその外側にあるほぼすべての産出物は、AI代替のリスクにさらされている。企業は利益を最適化する非道徳的な存在であり、必要な範囲でしか法に従わない
法は私たちの集団行動だ。私たちは社会として何に価値を置くかを形作る。機械にできる仕事をこなしながら週5日労働を守るために闘うこともできるが、私は 機械の共同所有 のために闘うほうがよいと思う
友人がAIで作った曲を共有してくれて、その品質に驚いた。制作者がSunoしか使っていないと明かしたので興味が湧き、プロ料金を払ったあと、妻と聴きたい曲を思い描きながらかなり楽しんだ
私たち二人とも自分では作れない曲だったが、思いつく過程そのものは本当に楽しかった。「作った」とは言わない。私たちが作ったわけではないからだ。妻は今でも車の中でかなり頻繁に聴いていて、新しい音楽が聴きたくなれば、また思いつけばいい
これが人間の作った音楽を学習データにしているから可能なのは分かっている。道徳性や合法性について語りたいわけではないが、議論に値する話題ではある。ただ、実際にAI音楽を好む人もいると言いたいだけだ
ひょっとすると私こそが、ハクスリーの『Brave New World』が警告したような、ああいう無邪気な消費者なのかもしれない
ボタン一つで著作権や知的財産という概念をなくせるなら、そうしたい
https://en.wikipedia.org/wiki/Free-culture_movement
ただ、その価値が本当に見る人と状況に左右されることは認める
だが、私たちの精神や身体が機械にできないことをもはやできなくなったとき、売れるものは人間性だけになる、という点には同意する
「人間には価値がある」という文は、実際には 効用 に条件づけられている
原文の筆者が、AIのせいで仕事を得られず市場価値がゼロになった人のところへ行って金を渡すわけではない
だから「人間には本質的な価値がある」という言葉は、人間が値踏みされ切り下げられていく中で差し出される、意味のない慰めにすぎない
だが、それはあまりに「社会主義」的、あるいは恐ろしい共産主義として扱われる
私たちの人生は経験の大きな寄せ集めにすぎない。人生で本当に重要な時間は、他の人たちと過ごす壁時計の分である
この時間こそが文字どおり私たちの持つすべてであり、次の1分は死ぬときに失う唯一のものだ
機械と会話することは、食卓に食べ物を並べるためにやむを得ずすることにすぎない。機械と会話した時間は記憶に残らず、価値もないので、記憶するに値しない