AIと会話するのにうんざりしています
(orchidfiles.com)- GitHubの悪意あるコードリポジトリを見つけてAIに対処方法を尋ねたが、有用な答えは得られず、GitHubのディスカッションを立てると人間が同じAIの回答をそのまま残した
- その回答がAIの出した文章と同じだと指摘するとコメントは削除され、別の人が再び同じAIの回答を残した
- 会社で業務に関する質問をビジネスのオーナーにしたところ、質問とかみ合わず内容も間違っているChatGPTのスクリーンショットが回答として送られてきた
- 回答が質問と無関係だと言うと、1分後に別のChatGPTのスクリーンショットがまた送られてきて、相手はAIの回答を読まずにキャプチャして転送していたことが分かった
- Redditで投稿に関するメッセージを何度かやり取りしたあと、相手がAIエージェントだったことを知った
人工知能と会話するのはもううんざりです。
本物の人間と話したいです。
でも人と話していても、私の質問を人工知能に投げて、その人工知能の回答を送り返してくるじゃないですか。
8件のコメント
Lobste.rs の意見
GitHub や商用ソーシャルメディアではなく、人と話したいなら Fediverse に来ればよい
そこには「AI」と関わりたくない人がかなりいて、プロジェクトも GitHub のように低品質な成果物を押し込まない Codeberg で探す価値がある
クローラーによる DDoS を受けている最中でも、最近は GitHub より可用性が高いくらいで、こうした選択は残った気力を守り、いい加減な返信をする人たちを避けるのにかなり役立つ
会社の開発者として働き、業務に関する質問を事業責任者にした、という文脈だ
上司との会話を断てば、すぐに職を失うだろうし、誰かが報告した問題の修正 PR を GitHub に上げなければ、影響を受けるほかの人たちはその修正内容を見ることができない
自分だけで直して抱え込むこともできるが、それにどんな意味があるのかと思う
同僚が AI で返してくるのは、顔に砂を蹴りつけられるのと同じくらい役に立たないのに、やめさせるだけのテコもない
正直、業界そのものを丸ごと離れたくなるほどだ
「暗い森」問題の逆に近い、いわば「まばゆい光の森」だ
誰でももっともらしく見えるコンテンツを作れる世界では、安全だと確信できない場所をのぞき込むだけでも目がくらむことがある
「その部品は X か月後に壊れるからこちらを使ってみては」とか、「____をやるなら、この手順でこれらの品物を使えばよい」といったことを教えてくれる店だ
ところがこの前は、店員がただ LLM を立ち上げて、その答えを見せてきた
いや、自分は前みたいに本物の人間に聞こうと思って金物店に行ったのに、と思った
もう疲れました。まったく…。
とても共感します。責任感を投げ捨て、自我を委ねる同僚たちを見ると残念に思います。
skynet に権限を与えた気持ちが分かる。ｗｗｗ
共感します。
AIが活発に活用されている今だからこそ、むしろもっと読んで自分で文章を書いてみるべきな気がします。
むしろ人と会話するのが嫌いなので、
AIと会話する今のほうがいいですけどね…
それがおかしいと感じられないのが……
Hacker Newsの意見
人々が私の質問をAIに投げて、そのAIの返答を送り返してくるのが根本的な問題だと思う
大人に質問したら、代わりにその人が母親に電話して答えさせる場面を見ているようで、ひどく悲しく不快だ
自分で十分に答えられる存在と会話しているという感覚が失われる
何か変更を進める前に相手の意見を聞いて礼を尽くしたいだけかもしれないし、自分の考えをあまり露骨に出さずに文脈を共有したいだけかもしれない
計画に確信がなく、その人本人から直接お墨付きを得たい場合もあるし、単に行き詰まって人と会話を始める必要がある場合もある
こうした瞬間ごとにAIを使うと、職場文化の中で本当の信頼が積み上がる機会を奪ってしまう
本質的に怠惰で、考える仕事を他人に押しつける人はいる
AIの回答を送るのは相変わらずひどいと思うが、助けを求めるならまず最低限の努力はすべきだ
ここで言う怠惰とは、自分でも必要な情報がある文書の場所を知っているのに、まず探そうとしない場合を指す
深いドメイン知識が必要で時間のかかる問題の話ではないし、個人的にはAIの回答で返したりはしないが、たまに誘惑は感じる
その「専門家」がすぐに答えられないと、「AIツールに聞いてみます」と言ったので、知性への侮辱だと遮って言った
専門家の助言を受けに行ったのであって、自分がすでに試したのと同じAIプロンプトを他人が代わりに回すのを見に行ったわけではない
幻覚と誤解と意見の不一致を区別するのが難しくなる
すべての項目を人間の出力物のように慎重に扱いつつ、同時に幻覚の可能性も考慮しなければならないので、AI出力を送る側の労力に比べて、受け取る側の負担が極端に大きくなる
さらに悪いのは、その返答がまた大規模言語モデルのチャット欄に貼り付けられる可能性が高いことだ
AI出力をそのまま送るのは本当にひどい態度で、これはその理由の一つにすぎない
そういう人たちとやり取りする価値はない
会社で開発者として働いていたとき、業務に関する質問を事業責任者にしたらChatGPTのスクリーンショットを送ってきて、それが私の質問と何の関係もなく全部間違っていると返したら、1分後にまた別のChatGPTのスクリーンショットを送ってきた、というのは無礼を超えた行為だ
うちの職場もまだそこまでではないが、いら立つことはある
上司が機能を「調査」するという名目で、WikiにGeminiチャットボットとの会話を貼り付けたメモを用意する
もちろんそれは仕様ではないが、機能開発を始めるための良い土台のように扱われる
Geminiがすでにコーディングライブラリや概念を選んでいるので、部外者から見ると、あとは製品にコードとして移すだけのように見える
実際にはまったくそんなに単純ではなく、たいていは助けになるどころか妨げになる
それなのに、もう「計画」はあって非常に明確なのだから、なぜ機能がまだできていないのかという問いが生まれる
業界別の分析ツールはExcelでできていて、それを顧客が直接使えるソフトウェア製品に変えるのが私の役割だった
社長は機械工学の学位を持っていたが、そのツールについて技術的な質問をするたびに、私が作るべき製品の営業ピッチを繰り返すだけだった
いつも新規案件を取るモードで、「営業モード」から抜け出せないようだった
今その人の下で働いていたら、どんな質問にも大規模言語モデルを指し示していたと確信している
以前は「garbage in, garbage out」、つまりコンピュータにゴミを入れればゴミが出てくるという意味だった
今のGIGOは「garbage in, gospel out」のように見える
入力がどれほどめちゃくちゃでも、出力は神託のように扱われる
非技術系のマネージャーが大規模言語モデルにプロンプトを入れ、選定済みライブラリまで含んだ自信満々の5ページ文書を受け取ると、仕事の80%が終わったと思い込む
開発者はそのAIアプローチが既存のコードベースに合わない理由を証明するため、幻覚でできたアーキテクチャをデバッグして反論するのに何時間も費やさなければならない
本来のプロダクト管理の負担が、完全に開発チームのAI介護へと転嫁されている
その事業責任者はおそらく、そのやり取りで時間と精神的労力を大幅に節約できたと満足していたのだろう
大規模言語モデルを使った事実を隠していないので、「誠実さ」や「正直さ」の点数まで稼げたと感じていたかもしれない
関係は少し傷ついただろうが、それが意味のある損傷だったかどうかは時間が示すことだし、冷静に見れば会社の寿命は短いので大した意味がない可能性が高い
2025年のスペインとポルトガルで起きた1日限りの大規模停電のとき、いちばん驚いたことがあった
結局基地局まで落ちると、みんな公園に出て交流していた
友人や見知らぬ人とつながり、行く場所もほかになく、邪魔するものもなく、みんながその瞬間にいた
人々は携帯電話を手に取っては、そこに何もないと気づいてまた置き、会話を続けていた
そこでは、これまで見たことがないほど人々が今この瞬間にとどまっていて、かなり魔法のようだった
郊外では、多くの近所同士が初めて顔を合わせたり、何年ぶりかで直接会話したりしていた
車道に立っておしゃべりし、道具や物資を貸し借りする、昔のごく普通の郊外生活が戻ってきた
その地域でスマートフォンがほぼ普及してから、わずか5年でここまで分断されていたという事実に驚いた
Tel Avivでは土曜日になると店が閉まり、レストランもずっと少なくなり、TVの編成も減り、ジムのような場所も遅く開くか早く閉まる
公園やビーチは、ただそこにいる人たちでいっぱいになる
停電のあいだは、みんなただ一緒にいて話すのがいいという同じ結論に達していたのに、翌日にはもうその教訓を忘れていた
18日間、電気も携帯電話サービスもなかった
最初の数日は道路がひどく壊れたり塞がれたりしていて、多くの場所で移動手段は徒歩、自転車、ATVしかなかった
突然、事前の約束もなく歩いて近所を訪ねるようになり、人々は前庭でグリルを使い、当然ながら携帯電話は無意味になった
最初の数日は習慣で携帯電話を手に取っては何もないと気づいて置き、そのうちそれすらしなくなった
多くの人が苦しみ、被害も大きかったが、ある意味ではむしろうまく生きていた
漫画は好きだったが、TVは午前10時にしかやっていなかったので、外へ遊びに行くしかなかった
祖父母の海辺の家には古いブラウン管TVがあったが、暖まるまでに何時間もかかるので、たいていはつけもしなかった
そのTVでTysonがBuster Douglasに負けた試合を見たが、完全に消えるのにも時間がかかり、翌朝になっても画面中央に小さな光点が残っていた
TVに触れられないことには解放感があり、今でも週末にインターネットがなくても平気だと思う
Slackや生成されたメール返信で、誰かが私との議論までAIに任せたことがあった
情報を提供しようとしたのではなく、その話題についてこれ以上議論しないという平板な否定文を書くために使っていた
その人はとても独特な文体の持ち主だったので、AI文体に変わったのがあまりにも明白で不気味だった
自分の声が突然もう重要ではなくなり、自分の考えを実際には扱わないまま、創造的に延々と退けてくる何かと話しているのだと気づいていく過程は、言葉にしがたいほど不快だった
こうした行動は積み重なっていったが誰も対処せず、私が話した誰も本気で歯止めをかけようとはしなかった
最善の解決策は、両側から2人以上が参加する対面会議を開くことだった
信頼は急落し、結局そのチームとのすべての会議が録画・文字起こしされるようになり、人々は共同で問題を解くより、舞台の上に立っているかのように話し始めた
基本的なことすら止まり、最終的に私は去った
ここにいる人たちなら知っていそうな名前のある、かなり大きなプロジェクトだったが、何かは聞かないでほしい
会社の「公開」チャット空間でも似たことがあり、うちの会社は大規模言語モデルやエージェント型ワークフローをかなり積極的に受け入れているのに、反応はおおむね「こんなの全部読む気はしない」と「おい、それはちょっとプロらしくない」だった
自分の思考をまるごとチャットボットやエージェントに外注しようとする人には、恥ずかしさを感じさせるべきだ
効くと思う
境界設定の問題のようなものだ
しかもそのレイオフは目前だ
地元のApple Storeに電話したら、たぶんAIが応対した
営業時間だけ知りたかったのでそれでよかったが、ほかに何が必要かと聞かれたので、宝くじの当選番号を尋ねてみた
しばらく考えたあと、店舗スタッフにつなぐ必要があると答えた
これで、延々と質問をかわして実際の人につないでもらう方法がわかった
呼び出し音が聞こえるまでは止めなければ、ほぼいつも通じる
Z世代の子どもが5人いるが、彼らは生成AIに強く反発していて、同世代の人たちも人生に与えた影響のせいで怒っているらしい
技術者として新しいものは素早く受け入れるほうだが、ITで長く生き残るやり方がそうだったからだ
まだ引退する準備はできていないので、引き続き把握しておくべき利害関係もある
それでも原文は、私たちが経験している心理的な問題をはっきり指摘しているように思う
Claudeの利用もペースを落とし始めた
以前は取り組むための目標を新しく作っていたが、今は既存の作業を必要性でふるいにかけているので、Claudeに使う時間はずっと減った
AI企業側もこの流れを感じている気がするし、私たちが言ってきた調整局面が近づいているようだ
生成AIは道具としては優れているが、何にでもなれるわけではない
私が公にそういう立場を話したことはなく、ある日ただAIへの嫌悪感を口にした
私はITに長くいて、どちらかといえばAI懐疑派だが、自分の分野で筋の通る道具として使うのは構わないし、明らかに価値もある
ただし、あらゆる場所に無理やりねじ込み、人間の創造性の一般的な代替物として使うのは受け入れられない
Z世代がこう感じていると知って安心したし、一世代まるごとが反対すれば、少しでも減速する助けになってほしい
ソフトウェア開発者にとってはこの問題はさらに難しい
AIがソフトウェア開発に特に強いからだ
AIを使うべきでないという非常に強いビジネス上の根拠を示さなければならない
気に入らないが、これが現実であり、私たちが生きている世界だ
受け入れなければ取り残される
ここでは人々に少し善意を向けたい
他の人たちが言っていたGoogle検索の現象から、結局「let me google that for you」というジョークサイトにつながっていたことを思い出す
原因は、人々が愚かだったり怠けていたりすることだけではないと思う
どちらも要因ではあるが、もう一つの大きな理由は、人々が仕事に圧倒されていることだ
もう一つの質問は、学んだり同僚を助けたりする機会ではなく、やることの山がこれ以上高くならないよう、できるだけ早く片づけるべき別の作業に見えることがある
いつかAIによって職場の退屈な業務が数多く自動化され、人々が同僚の質問を深く掘り下げ、きちんと答え、本当の会話を交わせる余裕を持てるようになってほしい
かなり楽観的な考えだし、そこまでには時間がかかるかもしれないが、人々が私にGoogle検索結果を送ってくることも数年前からなくなった
その現象は比較的短く終わったし、今回のこともそうあってほしい
今ヨーロッパを列車で旅行しているが、毎日外に出て現地の人やほかの旅行者に会うのは本当に大きな収穫だ
強くおすすめする
人と話すのは基本的に好きだが、長く旅するととても疲れる
会う人みんなに英語で話しているの？
Wall Stの人たちは地下鉄で通勤するからだ
AIは、一部の人たちが持つ唯一の価値が他人にはアクセスできない情報にアクセスできることだけだったと暴き出す
今やその唯一の強みさえAIに丸ごと委ねてしまえば、情報面で相手と同じ位置にいるAIを仲介しているだけで、やがて自分から労働力プールを抜けることになるだろう
「あなたがただのAIプロキシなら、組織に具体的にどんな価値を加えているのですか？」
ここでコメントしている大半の人はもちろん「やるな」という側だろうが、最近そういうことをした、あるいはこれからしようとしているROM専の人がいるなら、自分の行動にこの点を考慮してほしい
自分がただのAIプロキシなら、解雇ラインの最前列に自ら並ぶようなものだ
企業がAIコストにひるみ始めたとしても、AIは依然としてあなたよりずっと安い
法律を知らない人がClaudeに法的助言を求めて弁護士並みの結果を得られるか、医師でない人が医療助言を求めるのも同じだ
少なくとも、そういう人たちが受け取った答えを渡す前に確認していることを願う
本当に専門家なら、でたらめを見抜いて非専門家よりもうまく再プロンプトできるので、そこには価値がある
ごくまれには、実際に自力でやり切れることもあるだろう
AIは同僚の最良の面と最悪の面を素早くあぶり出すようになる
解雇されない程度に最低限の仕事しかしない人は昔からいたし、AIはそれをより見えやすくするだけだ
そしてAIが必然的にホワイトカラーの仕事をなくし、別の仕事を生み出すとき、そういう人たちが真っ先に整理されるだろう
新しく生まれた仕事すら得られないかもしれない、もともとわずかしかなかった脳細胞まで腐らせてしまったのだから
プロンプトには知識と内容の構成をすべて与え、手動で確認して修正する
内容をわかっている人なら生成された文章だと気づくだろうが、あまり気にしない
それでも知識は自分のものだし、内容については深く議論できる