次のトークン予測は私たちにとって何を意味するのか？
(pop.rdi.sh)- 次のトークン予測をめぐるAI楽観論は、技術進歩を超えて、人間の創造性・専門性・労働が無価値になる状況を楽しむ部族主義に近い
- AIの初期の約束は、気候・病気・貧困の解決から労働削減へと急速に移り、企業は労働者が持つ交渉カードを奪うために数十億ドルを費やしている
- 「AIとともに」というスローガンとは裏腹に、企業が望む最終的なコスト構造はトークンコストだけを残すことであり、人間は検証が難しい速度で成果物を吐き出すノードになる
- 学習データは、ウェブ・書籍・写真・映像が基本的に含まれるオプトアウト構造に近く、ラベリング労働・データセンター費用・個人情報の入力まで社会が負担している
- AIラッシュは生産手段の集中と国家安全保障フレームを強化し、人類の集団的産出物で作られたシステムに対して、今後も賃料を払い続ける構造を残す
AI楽観論の部族主義と階級問題
- LLMを「次のトークン予測器」や「確率的オウム」と呼ぶ表現は、一部のAI極大主義者には侮辱のように受け取られ、彼らは「アニメーションは解決した」「Hollywoodは終わった」「コーディングは解決した」といった言い回しで、産業や職務の終焉を祝福する
- こうした態度は単なる技術進歩の描写を超えて、人間の創造性・専門性・労働が役に立たなくなる状況を楽しむ空気を生み、オンライン政治陣営の争いに似た部族主義へとつながる
- 機械が思考できるという想像は古くから文学的・集合的な題材であり、「いつ」「何が可能か」のグラフが急上昇する現在には、創造の傲慢さと「砂から搾り出した知性」という原初的な魅力が横たわっている
- AI熱狂者の一部が人間の才能や労働を軽蔑しているように見えるのは、ユニバーサルベーシックインカムと余暇中心の未来への楽観、あるいは安全網を持つ階層的な立場と結びついている
- 世界の半分以上は、まともに機能する政府や社会的安全網を持っておらず、科学技術は教育を受けられる位置にいた人にのみ参入と恩恵を許す構造を長く維持してきた
- 安全網や緩衝装置は永続的ではなく、労働を取り除いて利益を得る企業に課税するような対応がなければ、AIによる経済的衝撃は支持者にも跳ね返ってきうる
「救済」から労働削減へと変わったAIの約束
- AIが気候、病気、貧困、紛争といった難題から人類を「救済」するという初期の大義名分は急速に弱まり、フロンティア研究所は、より日常的で歪んだ動機である労働削減を前面に出している
- 最も搾取される層にさえ程度の差はあれ「必要とされる労働力」という交渉カードがあったが、企業はそのカードを奪うために数十億ドルを費やしている
- AI企業のCEOや支持者は、労働という交渉カードがもはや有効ではなくなるかのように語る
- Anthropic CEOのDario Amodeiはこうした発言で知られており、OpenAI CEOのSam Altmanは、AIはより個別化された方法でより上手く教えられるため大学の学位は無価値になったと語っている
- VCたちは、今後5年以内に特定の職務群が「解決」されるだろうと語り、こうした表現は資本を持つ人の話し方として洗練された形で現れる
資本主義の約束と経済的効用の喪失
- 資本主義の約束とは、懸命に働けばルーレットテーブルで一度くらいは機会を得られるというものであり、労働者はAmazonの倉庫でボトルをトイレ代わりに使うような環境でも、経済的な上昇移動を期待してきた
- 数十億人にとって上昇移動のほぼ唯一の経路は、子どもが学位を取得して仕事を見つけることだったが、AIはその経路自体の価値を弱める方向に働きうる
- AIは、CEOたちが無用にしたいと望む能力を「民主化」すると主張するが、学んだことやダッシュボードを作る能力は市場で売れなくなるかもしれない
- 夢が完全に実現するなら、AIは生産手段の集中を裕福な少数の手に集めるという資本家の理想に近い
- この理想は、$200のサブスクリプション料金、強力なGPU、オープンウェイトモデルを公開する研究所の善意の背後にある
- AIは人間の産出物の上限を引き上げる一方で、参入障壁も同時に高める
「AIとともに、AIによってではなく」の限界
- 知識労働者の間の「AIとともに、AIによってではなく」というスローガンは現実逃避のようにも見え、企業は$250kとトークンコストを払う代わりに、東南アジアで$30kとトークンコストで人を雇おうとするかもしれない
- こうした労働アービトラージも一時的であり、最終的に企業が望むコスト構造はトークンコストだけを残すことである
- 手仕事や職業の中で感じていた喜びと満足は、スループット最大化の論理の中で消え、人間は入力を受けてAIで出力を作るノードになる
- 労働者は、自分で見直したり検証したりするのが難しい速度で作業フローを押し出さなければならず、そうしない人は企業から見れば低パフォーマーになる
- 追加コストを払えばレビューや補助を別のエージェントに任せられるという構造は、人間をさらに深くAI作業パイプラインの中へ押し込む
数学、発見、計算資源の格差
- Fields賞受賞者のTim Gowersは、ChatGPT 5.5 Pro 使用体験を書き、入力100万トークンあたり$30、出力100万トークンあたり$180というコストに言及している
- Gowersは、数学を通じて何らかの不滅性を得ようとしているなら、それは長く可能ではないかもしれず、「あなただけでなく誰にとっても」そうなりうると語る
- 「AIとともに」というスローガンとは異なり、研究所や企業はエージェントが別のエージェントを監視しながら、解法や発見を無差別に探索するようにできる
- 個人は無制限の計算資源や特化モデルを持てないため、同じ方法では競争できず、平均的な人が億万長者になるのが難しいのと似た構造的障壁としてのゲートキーパー構造が生まれる
- 労働能力はもはや所有物ではなくライセンス対象となり、交渉カードはTSMCが製造しNvidiaが販売するチップに置き換えられる
管理職にとって魅力的な、不平を言わない労働者
- コードを一行も書いたことのない非技術系の中間管理職は、自分と偉大さの間にある最大の障害が消えたと感じるかもしれない
- ウェブページの色、サイズ、breadcrumbスタイルを変えるために、もうプログラマーへ依頼する必要はない
- プログラマーが「悪いUX」だとか、「無意味に派手な機能のわりにコードの複雑さが正当化されない」と抗議するプロセスも消える
- AIは不平を言わず、組合を作らず、抗議もしない
- AIはユーザーの話を聞き、何気なく口にしたことに対してさえ「本当に印象的だ」「そう考える人をあまり見たことがない」と言うことができる
学習データはどのように作られたのか
- あらゆるウェブサイト、書籍、文章、制作物、写真、映像は、基本的に学習コーパスに入るオプトアウト構造になっている
- ウェブサイト運営者は
robots.txtに1行追加すれば礼儀正しいスクレイパーは防げるが、自身を識別しないスクレイパーも多く、スクレイプされたコンテンツの闇市場が存在する可能性もある - ウェブサイトではないコンテンツには、事実上抜け出す方法がない
- 数千人が低賃金でデータセットをラベリングし、精製し、最適化している
- データセンターが急速に建設されることで、多くの人がより高い公共料金を支払う構造に組み込まれている
- データセンターの騒音問題は、Communities Are Raising Noise Pollution Concerns About Data Centersでも扱われている
AIラッシュと資本主義
- AIの機械装置には莫大な金額が投じられており、収益の約束なしにこうした投資が行われることはない
- 収益の約束がなければ、同じ資金は気候変動の巻き戻しやカメの保護のような場所に使われていたかもしれない
- その代わり、AIがそうした難題を解決しながら同時に収益ももたらすという物語が付け加えられる
- 多くの点でAIラッシュは資本主義のポスターケースに近く、別の仕組みではこの規模で起こるのは難しかったように見える
国家安全保障フレームと軍事利用
- 世界の指導者たちは、AI競争で先行しなければ破局が訪れるという形の圧力と説得を受けている
- 研究所はデータセンター建設への監督を減らすために、AIを国家安全保障問題にし、防衛分野に不可欠なツールとしても提示している
- 国家安全保障になると、再びオプトアウトは消え、人々はデフォルトでそのコストを負担させられる
- AnthropicはLLMを擬人化することに長けており、「soul」文書、給与を受け取る哲学者、聖職者との会議といった活動を行ってきたが、そのモデルは米国の国防部門でも高い需要を得ている
- 科学者やエンジニアが、自分の仕事が爆撃や殺害に使われるという事実を受け入れるには、高度な区画化が必要に見える
個人情報、学習データ、閉じた循環
- 人々はクッキーとは何か、そしてなぜブラウザに小さな文字列を保存することへの同意が必要なのかを長年学んできたが、今では自分や他人の個人情報や物語を、取るに足らないテキストボックスに自発的にも非自発的にも入力している
- OpenAIはAPI提供においても平均的なユーザーにはゼロ保存ポリシーを提供しておらず、会話を明示されない期間保存している
- 学習データが不足しつつあるというインフォグラフィックが出回る状況で、研究所が熾烈な競争やLLM Arenaの順位で先行するためにユーザーとの会話を使わないと信じるのは難しい
- 人々は金銭とデータでコストを支払い、交渉カードを差し出し、幼少期に見出した、あるいは偶然適応パターンとして身につけた手仕事の喜びまで失っていく
- この循環は自ら閉じ、人々は庭の中に閉じ込められながら、収穫からは排除される
- 次のトークン予測が残す場所とは、人類が数世紀にわたって生み出してきた集団的産出物で作られた何かに対して、際限なく賃料を払い続ける構造であり、階級にかかわらず個人にとって良い位置ではない
1件のコメント
Hacker Newsの意見
LLMは、私たちがすでに深く知っていた重要な真実を明らかにしている。このような認知の外部委託が起きると、私たちを突き動かしていた関心事は意味を失い、摩擦が消えれば欲望・喜び・憧れ・障害物・要求も消えてしまう
そうした理想に到達する前から、この種の約束だけがあふれているが、もしかするとその理想自体が貧しくなっているのかもしれない。「AIが私たちを愚かにする」という認識が支配的なら、金持ちだけがAIを使えるほうがむしろ良い、という結論にまで至る
欠乏・恥・死、そしてそれに対応する肯定的なものを経験してきたあとでも、私たちが最終的にエントロピーを克服できないとは思わない。私たちは適応するだろうし、それが私たちが根本的に知っていることのすべてであり、できることのすべてだ。努力なしに与えられたものは人を変えられない
会社のCEOはコード品質は重要ではないと露骨に言い、ただ速く出して反復すればいいと見ている。本当に悲しいし、何かを失っている。以前のように働くと時間を無駄にしているという圧力を感じる
こうした転換を経験する最初の生物ではないだろうし、普通は自然選択による大きな遺伝的変化や、特定の環境での絶滅といった悪い結果を早めるのではないかと心配している。都市の近くのホタルのように
「エントロピーを克服する」という言葉も意味が曖昧だ。努力なしに与えられたものは人を変えない、というのも正しくない。愛情深い親を持つ子どもは、その愛が無条件で、自我の感覚が生まれる前から存在していたとしても、明らかに影響を受ける
日光のある惑星に住んでいるという事実も私たちを大きく変えており、私たちは太陽を灯すために何の努力もしていない。使わない筋肉が衰え、脳や「心」もそうだというのはその通りだが、人生最高のものは無料という言葉もまた真実だ
非技術系の中間管理職が、一生コードを1行も書いたことがないのに、今や自分と偉大さの間にある最大の障害が取り除かれたと感じている点が興味深い。これはAIがもたらすとされる民主化とほとんど地続きだ
AIが特定の技術的能力を「民主化」する一方で、別の面では人々を完全に代替可能な存在にし、個人の交渉力を失わせるという悪い方向に働いている。非技術系の中間管理職にこの能力が与えられると、ジュニアソフトウェアエンジニアは固有の貢献と発言権を失う
可能ならAIをボイコットしようという文章を読んだことがあり、そうしたい気持ちもあるが、目標が私の提供する固有の貢献をすべて取り除くことなら、ボイコットによって何を奪えるのか疑問だ
コンセントの設置はそれほど難しくはないが、失敗する要素が多いので、普通は電気工事士を呼ぶ。地域によっては免許がなければ設置できず、自分の家だけ可能だったり、検査官の確認が必要だったりする。逆に、まったく気にされず、あらゆる損害を自分で負うだけの場所もある
電気工事士はある程度代替可能だが、職業として存在し、生計を立てている。いつか顧客データを保存したり決済を処理したりするWebサイトを更新するには、免許を持つソフトウェア開発者でなければならないというルールが一部の地域で生まれるのか、そしてそうしたルールが私たちの職業をどう変えるのか気になる
インターネット時代には、コーディングや他の創造的な技術は、学ぶ意志さえあればすでにかなり民主化されていたし、無料の資料も見つけやすかった。AIが「民主化」しているものなどなく、実際には技術そのものの価値を0に押し下げて、技術のない人が金で凡庸さを買えるようにしようとしているに近い。その金が熟練した人に移転するわけでもない。そこに民主的なものは何もない
AIはその学習や理解を容易にするのではなく、ただ飛ばせるようにしているだけだ。それは民主化ではない
もっと憂鬱な仮説もある。階級の問題も一部あるだろうが、この技術の含意を最後まで考え抜く批判的思考力が、驚くほど多くの人に欠けているように思える
管理職層の中には、AIが自分たちが金を払って雇わなければならない厄介な人間を置き換えるとは考えていても、まさか自分の地位にまで及ぶとは思っていない人が多かった。社会全体が主人公症候群に陥っていて、機械は他のあらゆる職業を代替できても、人間の知識をすべて吸収したうえでなお「ドメイン専門性」を持つ自分とは競争できないと信じているように見える
富が自分を守ってくれると信じる冷笑的な人たちでさえ、失業率が50%を超えたら社会が安定して維持され、自分たちも安全でいられると見なしている点を見落としている。こうした終末シナリオが実際に起こるとは思わないが、それを応援している人たちは、自分が何を応援しているのか真剣に考えるべきだ
医者や配管工のようにある程度守られている人たちも、二次効果のリスクをよく分かっていない。顧客の半分が一文無しになったらどうなるのか。皆が一夜にして再訓練を受けたとしても、2008年の金融危機より大きな規模で住宅ローンの債務不履行が起こりうる。これは数多くの破壊的結果の一つにすぎないのに、不思議なことに誰も語らない
数か月前よりは気持ちが楽になった。依然として何かが欠けていて、それを実装するのは難しそうだ。人間はかなり長い間必要とされるだろうと思う
今日の西側でも同じことが起きていると思う。エリートは国家の富をさらに搾り取り、政府を中身のないレント抽出装置に変えながら、同時に我々の苦しみはすべて不法移民のせいだと言う腐敗した政治家を後押ししている
AI技術の利用に反対する理由が一つあるとすれば、それは政治的理由だと思う。残念ながらソフトウェアエンジニア層は、地球上の大多数より恵まれているからか、階級問題や不平等にあまり関心がないように見える。だが機械は彼らのところにもやって来るのであり、問題は「来るかどうか」ではなく「いつか」だ
タイトルがやや誤解を招く。次トークン予測の最終状態、つまりこれでAGIに到達できるのかといった話を示唆しているようだが、実際の内容は全面的に生産手段と階級闘争に関するものだ
そうしたことが起こる可能性はあるが、これが最も起こりやすい結果かどうかは明らかではなく、あくまで最も悲観的な結果にすぎない。描写された未来の状態にまで進むのなら、私には別の結末はないように思えるので、いっそ「人類の終末」まで含めてもよかったかもしれない
ほとんどのプロパガンダは、性別・人種・性的指向の境界に沿った分断を深めることに集中しているように見える。人々を内輪もめに縛りつけ、上を長く見られないようにするためだ。自分が過度に急進化しているだけかもしれない
人々は兵役を通じて交渉力を持つ。その仕事さえAIに奪われれば、残された人々には本当に何の手段もなくなる。これはYuval Noah Harariが語ってきた問題意識と通じている
狩りの最後の瞬間は今やほぼ自動化されており、そのおかげで殺傷率がかなり上がっているように見える
私が見たデータでは、米国や欧州諸国は中国や発展途上国よりもAIに対して否定的に見ている。経済的安定のある人だけがAIを支持するという前提とは一致しないように思う
https://www.visualcapitalist.com/survey-how-21-countries-vie...
https://www.ipsos.com/en/conflicting-global-perceptions-arou...
https://www.mexc.com/news/161986
一方、中国の第15次五カ年計画には、職業再訓練プログラムの拡大や、データセンター向け電力供給のための新たな再生可能エネルギーインフラ整備とともに、経済全体へのAI統合が含まれている。中国人力資源社会保障部は、短期的にはAIが600万〜1000万の新規雇用を生み出すと見ており、長期的には人口構造上不足していく労働力を補うために使う計画だ
中国の人々が西側よりAIをより前向きに見ている大きな理由は、指導者たちがAI導入の負の外部性を緩和する明確な計画を持っており、私たちにはそれがないからだと考える
そのため中国の人々は、原子力、太陽光、風力、AI、造船、宇宙計画、鉄道、EVなどに熱狂し、それらを得るためならスモッグのかかった都市もある程度受け入れる。一方で西側諸国は、すでに持っているものの中で暮らしたがり、変化があるとしても過去の世界に近づくことを望みながら、きれいな空気と水は引き続き享受したいと思っている
個人的には、石炭採掘がかつて大きな開発の飛躍を生んだのだから、今も石炭採掘が偉大な飛躍をもたらしてほしいと願うのと似ていると思う
AIは知識を資源の問題に変えて、この線を円にする。天然資源と製造業の多い中国のような、より発展度の低い経済は、欧州のように知識基盤の比重が大きい経済よりリスクが小さい
興味深い現象だ。私の周囲の例では、雇用面で「安全だ」と感じている人は中立か賛成で、そうでなければ否定的だった
彼は危険な人々がAIで悪いことをする例を挙げていたが、底流ははるかに複雑だと思う。特に所有階級の観点ではなおさらで、これは OpenAI の当初の構想ともつながっている。あるモデルの完全な能力に対して大衆が平等にアクセスできるべきだという構想だったが、所有階級はそれを許容できない
権力と秩序の形態は情報に大きく依存してきたため、開かれた情報と競争するには、既存秩序を維持するためアクセス権の重要性をはるかに高めなければならない。法制度もその例だ。弁護士を雇うとき、結局のところ情報とアクセス権に金を払っているのであり、実際の結論はモデルが事件結果を計算した値よりも人間関係に大きく左右されることすらある
言い換えれば KYC は、歴史的に金がなければ情報を得られなかった構造を復元しようとするものだ。そう見るなら、ここにも 階級闘争 の層がある
AIはすでに多くの労働者を代替したが、終末論的な宣伝とは違って、まだ AIが運営する企業 は存在しない
お金とは何かについて誤解があると思う。お金は価値のベクトルであり、価値は人々の仕事から生まれる。働ける人が減ればデフレにつながり、資本家たちはそれを避けようとするだろう。しかしAIはハードウェアとエネルギーであり、そこにはより多くの労働者が必要だ。トークン価格は電気代とGPUハードウェア費用を払うものであって、AI科学に回るのは一部にすぎない
開発者はコードモンキーより建築家に近づくべきだろうが、それが悪いことなのかはよく分からない。また、LLM技術はすでに停滞期に入るという反対意見もある。LLMはAGIへの道ではない。仕組みを見れば、そこから革新はできないと分かる。モデルはインターネット知識の圧縮版のように動作してそれを吐き出しているだけだが、すでにかなり優秀ではある
しかし近いうちに LLM からまた別の飛躍的イノベーションが出るとは思わない。結局 OpenAI も偶然起きた出来事だ。将来は、今日の最先端AIをノートPCで動かして生活を自動化するようになるだろうし、まだ発明すべきものは多い。LLMは競争相手というより 可能にしてくれる道具 に近いと思う
筆者は事情をよく知らないようだ。D.O.W. を Anthropic のファンと見るのは難しい
私たちは皆、崖から押し流されているようなものだ。他の人は知らないが、私は パラシュート を身につけようと必死だ
こういう不満は結局のところ、「以前の体制でいい位置にいたが、それを失うのが怖い」と言っているだけではないのかと思う。すでに多くの人は使い捨てのように扱われ、価値ある存在と見なされてこなかった
その体制はあなたには良かったのかもしれないが、多くの人にとってはそうではなかった。価値ある技能があり、その技能を使う分野で働くのが好きだと言うが、90%以上の人にとって仕事はそういうものではない。大多数は、そもそも手にしたことのなかったものを失うと嘆いているようなものだ。現在のあり方の何がそんなに素晴らしくて、新技術 から守られるべきなのか?