それにうんざりした
(paulrobertlloyd.com)- 名前すら口にしない「それ」が社会全体を覆い、避けられない存在のように感じられる疲労感を扱う
- “rubbish in and rubbish out” という表現のように、入力も出力も ゴミ と見なし、成果物と利用体験に強い拒否感を示す
- 誰も求めておらず、誰も望んでいなくても、株主が要求すれば数多くの拒絶が 受容 に変わると批判する
- 政策決定者、メディア、酒席での会話、個人の利用談まで、すべてがそれを中心に回り、日常会話 まで占有すると述べる
- 名前を言わなくても読者が何のことかわかるという事実自体が、それがすでに深く染み込みすぎていることによる疲労の根拠になっている
名もなき「それ」が生み出す疲労
- 文章全体を通して、特定の対象を直接呼ばず it とだけ指している
- その対象は広く行き渡り、あらゆるものを包み込む存在のように扱われる
- 避けられず、非人間化 をもたらすという見方が中心にある
- “rubbish in and rubbish out” という一文は、入力も出力も信頼しない姿勢を凝縮している
- 誰も求めておらず、誰も望んでいないという断定が繰り返される
社会的圧力と日常への浸透
- 「私の世代でもっとも優秀な人々が、人々にそれを使わせる方法を考えている」といった形で、人材と努力が拡散のために使われている状況を批判する
- 無数の「ノー」があったとしても、株主が求め始めれば「イエス」に変わると見る
- 政策決定者たちはそれに迎合する方向へ動く
- それを動かすには閉鎖された原子力発電所が必要で、冷却には 数百万ガロンの水 が要ると述べる
- メディアはそれを称賛するか非難し、酒席での会話も結局はその話へ流れていく
- 人々は自分がそれをどう使っているかを絶えず語り、使うという行為自体が不潔に感じられるという
- 名前を一度も挙げなくても何を指しているかわかるという点が、すでにうんざりするほど日常に浸透していることの兆候になっている
1件のコメント
Hacker News のコメント
私たちの世代最高の知性という表現にはうんざりしている。最初に見たのは「私たちの世代最高の知性が広告を売るために雇われた」という文だったが、コンピューターを派手に動かせるからといって「最高の知性」になるわけではない。
「最高の知性」なら、何よりも共感力があり、他人の安寧を気にかけ、世界のあり方を哲学的に見つめ、忍耐力と好奇心があり、ただ頭がいいだけでなく賢明であるべきだと思う。
他人を搾取して個人的利益を得る能力があるという理由で、貪欲な人間たちを「最高の知性」の座に押し上げ続けること自体が、問題の一部だ。
マーケティングは、技術の進歩がおおむね生活を悪化させ、集中力を乱し、財布を空にする、まれな人間活動の領域だ。
球形の牛を仮定した「理想的な」100%効率のマーケティングは、任意の商品やサービスにお金をすべて使うよう事実上催眠をかけるのと同じで、構造的には強盗と同型だ。10%効率ならどんな姿になるのか？ 1%なら？ 個人の自己決定権と経済的安寧を侵害することが、どうして社会的善になり得るのか？ 0.001%でも利益が出るなら、世界中を広告で覆い尽くしてもいいのか？ 隣人の誰かが物を一つ買うたびに、広告をいくつ浴びせられたいのか。
ただ、アルゴリズムとデータ構造を理解したというだけで、自分はあらゆることに優れていると信じる愚かな人たちもITで多く見てきた。ITだけの現象なのかは分からないが、DOGEがやっていることはまさにその手の類に見える。
より良い世界なら本当の問題を解いていたはずのトップクラスの数学者、物理学者、心理学者のような、さまざまな分野の優れた問題解決者たちが、経済構造の奇妙さのせいで、広告技術のように給料は良いが人々の生活を大規模に台無しにする仕事に投入されている現実への嘆きだ。
この表現は人を賢さで測る言葉というより、人類の潜在力があまりにも誤って配分され、最高の問題解決者たちが皆のためではなく皆にとっての問題を作るために動員されている世界を嘆く言葉として記憶している。
Douglas Adams は技術に対する反応をこう整理した。生まれたときにすでに世界にあったものは正常で自然、15〜35歳の間に発明されたものは新しく興味深く革命的なのでキャリアにでき、35歳以降に発明されたものは自然の秩序に反する、というものだ。
年齢を当てられそうだね。
学界も産業界に劣らず流行を追う。これらのモデルは、文脈が与えられたときに次のトークンを予測するよう訓練され、まさにその仕事をうまくこなす。さて何歳だと思う？
多くの面でドットコム時代を思い出す。潜在力を実現するプロセスはまだ20%にも達していないかもしれない本当に変革的な技術で、期待値は潜在力の200%まで膨らみ、その周辺には株式市場のバブルも生じている。
残りの話は想像に任せるが、少し断片化して凝り固まった頭で見ても、次に何が起こり、その次、さらにその次に何が来るのかは非常に明白に見える。そしてそのとき、本当に良い部分に到達する。だから退屈でも疲れることもない。若かった頃と同じくらい今テクノロジー分野で働くのは楽しいし、ある意味ではもっと幸せだ。
これは実のところ年齢の問題ではない。たとえば「NFT」「web3.0」「Blockchain technologies」のようなものにも、あらゆる年齢層が誇大広告に乗った。
常時オンラインで生きるのは選択だ。絶えず出くわすことを選ばなければ、うんざりするものもない。「最近の話題」は、それを深く気にする人たちで周囲を固めたときだけ最近の話題になる。
特定の作業には大規模言語モデルを使うし、かなりうまくやることもある。だが非技術職の人たちが世の中のあらゆるユースケースに無理やり当てはめようとする全般的な誇大広告には本当に疲れる。私たちがやろうとしていることがなぜ AI™ に合わないのかを何度目かに説明しなければならないのがつらい理由は、また説明しなければならないからではなく、来週も少なくとも何度かまたやらなければならないと分かっているからだ。
この誇大広告の中で、AIはほとんど文字どおりの魔法のように扱われている。何でもできて、ただAIがやってくれるよう願えばいい、という具合だ。もはやAIがいったい何を意味するのかも分からず、魔術的思考を入れる包括語になっている。
疲れるし、間違いなく退屈だ。
こうした厄介な誇大広告サイクルは普通、インターネットのノイズの基準線を恒久的に引き上げたり、データを剥ぎ取ろうとしてランダムなサイトをDDoSしたり、見聞きしたものを信じられるという核心的な前提を壊したりはしない。
これはありえない。人類史上もっとも偉大な道具を作っておきながら、人々は文句を言っている。
コーディングを手伝ってくれ、CADを学びながらモデリングの問題を直せるようにしてくれ、2ストロークの落ち葉ブロワーのエンジン問題の解決を助け、複雑なLeetCodeのアルゴリズムも粘り強く段階ごとに説明してくれる。文字どおり何でも知っているのに、人々は文句を言い続ける。
不都合な真実は、AIは世界最高の詐欺師だという点だ。ツールとその周辺の過剰な宣伝が、AIが実際にはそうでないときでさえ、知識があり有用に見えるよう人々を欺くのに非常に効果的な環境を作り出している。だまされる人は、その主題に十分詳しくないため自分がだまされていることに気づかず、気づいてもプライドのせいで認められない。
だから特定分野を深く知る人たちはAIが誤りを犯すと言う一方で、実際の技術的な深さに欠けるCEOのような人たちはAIを称賛する。彼らは「良い結果」が何かを知っていると思える程度には知っているが、もっともらしく包装されたデタラメだと見抜けるほどには知らない。
だが、すでに熟達していた多くの技能が事実上役に立たなくなったという事実は別問題だ。時間が経ってこのツールがさらに良くなれば、自分の置かれた環境を変える主体性まで奪われるかもしれない。
知識を持つことはできない。
だから退屈なのだ。
ChatGPTとこんな会話をしたことがあるのではないか。「解決策です！」と出してきたので「違う、Xをすべきだ」と言うと、「その通りです、私の答えは間違っていました」と言ってこちらの言葉を繰り返し、修正版を出すが、それでもまだ間違っている。「Xをしろと言った」ともう一度言うと、「これで明確になりました」と言いながら、また間違える。
さらに悪いことに、だますこともある。ChatGPTが「X + Y = Z」と正しく言ったのに、ユーザーが「いや、X + Y = Qだ」と誤ったことを言うと、「その通りです、X + Y = Qが正しいです」と説明することもある。
定型的なコードやテキスト生成には有用かもしれないが、その場合でもよくミスをする。
正直、会話の話題としてはもっとも面白くない部類に入る。誰かが「ここにAIを使って……」と言った瞬間に意識を切る。
データは表形式で、人々は対照群をファイル名や任意の列など、あちこちに「control」「ctrl」「ctr」「t0」のようにバラバラに書いている。うまく機能したし、試してみてよかった。時間が経てばそこから価値を得られそうで、誰も会話を切らなかったのは幸いだった。
まったく退屈ではない。
誇大宣伝はあるが、その用途と誤用、影響を議論するためにここにいることは重要だ。興味深い部分もあれば、興味深いほどひどい部分もある。
疲労感は理解できる。だが、正しく使われているのか、あるいはそもそも使われているのかについて話すことには価値がある。
個人的にもっとも良い助言の一つはこうだ。グレーゾーンで生きる術を学び、独断的にならないこと。
世界は白黒ではない。白と黒の一部を取り入れつつ、物事によっては考えを変えることを恐れてはいけない。
誰かにとっては当たり前に聞こえるかもしれないし、理論上は簡単だ。だが実際には、少なくとも私の経験ではまったくそうではない。考え方と世界観の変化が必要で、年を取るほどたいてい難しくなる。自分が楽しんでいる生き方を守りたくなるからだ。
書き手が大規模言語モデルに否定的なのは確かだが、この文章が呼び起こす感情は多くの人に響くだろう。私のように大規模言語モデルをヘビーユーザーのように使っている人にもそうだ。この文章に完全に、常に同意する必要はない。それでも、語られるべき内容だ。
ときには技術魔法使いの帽子を脱ぎ、ただの人間の帽子をかぶって、こういう詩を楽しみたい。そしてため息をつき、スマホを見たい衝動をもう一度見つめ直し、金儲けの計画や性的欲望を追う計画を口にしたい衝動も見つめ直したうえで、バーにいる友人を見つめ、彼らが永遠にそばにいるわけではないと悟り、心から「最近どうだ、友よ？」と言うことになる。
誰も望んでいなかったって？ 誰も欲していないって？
ちゃんと見ていないだけだ。
私は望んでいる。老化、がん、アルツハイマーのような巨大で複雑な問題を迅速に解決する唯一の機会だと思っている。
第一に、挙げられた分野ではすでに途方もない進展が起きている。AIを「唯一の機会」と称賛するのはかなりの誇張であり、こうした研究が深刻な資金不足に苦しんでいることを考えると、有害な言い方ですらありうる。
第二に、この詩は一般的な機械学習というより、大規模言語モデルと美化されたチャットボットを扱っているように見える。その文脈では、アルツハイマー研究に大いに有用だとは思わないし、まして「唯一の機会」ではない。
永遠に生きる人間たちがもたらす環境への影響は言うまでもない。
ようやく Python コードに単体テストを入れる方法を学んでいる。ずっと先延ばしにしていたことだった。バイオインフォマティクス研究者は、世の中でも相当ひどいコードをかなりたくさん書く
Claude が手取り足取り導いてくれていて、私が打つすべての文字を理解しているか確認している。今のところは問題ない
それでも読みやすい文章で、笑ってしまった。暗号資産、政治、Rust、Nix、広告、そして「我々の世代最高の知性」のようなさまざまなものに当てはめられる
原子力発電所の話があるので AI についての文章だと推測しているが、いずれにせよ、私が挙げたテーマはまったく退屈ではない