- 個人Web、暗号資産、広告プラットフォーム、生成AIを貫く共通点は、実際の価値よりも価格グラフ・広告表示・もっともらしい出力を前面に押し出す Whatever文化 だということ
- Bitcoinは仲介者なしで金を送る手段として期待されたが、日常決済ではなく 投機エコシステム と複製可能なコイン・NFTへと拡散した
- Webは個人サイトの多様性から巨大プラットフォーム中心の構造へ移行し、広告収益モデルは エンゲージメント最大化、クリックベイト、SEO用filler、推薦アルゴリズムを強力に押し進めた
- LLMはStar Trek風のコンピュータというより「もっともらしいテキスト」を吐き出す Whateverマシン として批判され、検索・動画・天気アプリのAI要約は実際の情報を押しのけるノイズになっている
- プログラミング・音楽・画像・文章で、ボタン一つで成果物を受け取るやり方が基準線になると、学んで自分で作る行為の価値が削られるため、Do things. Make things. が最後のメッセージとして残る
PayPalの限界とBitcoinに託された期待
- 2000年代の米国では、任意の相手にインターネットで金を送る現実的な選択肢は事実上 PayPal しかなかった
- PayPalは銀行でもないのに金を保管し、ルール違反と判断すればアカウントを凍結して金を6か月間拘束できた
- 作家へのコミッションや小規模な個人販売者にとって、PayPalは事実上唯一の仲介者であり、何を売れるかまで制限する立場にあった
- 2010年ごろ、Bitcoinは仲介者なしで金を送る新しい方法に見えた
- Webサイトの投げ銭ボタンや、ブラウザ内の少額チップのような可能性が期待されていた
- 実際にマイナーを1日ほど動かしたがコインは採掘できず、当時はそれ以上やることもなくBitcoinのことは忘れた
通貨ではなくグラフになった暗号資産
- Bitcoinが一般に知られるようになった後も、「誰にでも簡単に金を送れる」という期待は実現しなかった
- 最近、Bitcoinで実際に物を買える例として聞いたのはgray market estradiolくらいだった
- 今でも任意の相手に金を送る最新の手段はPayPalで、Stripeも加わったが、Stripeもやはり制限を設けている
- Patreon、Itch、Ko-fiはStripeとPayPalに依存している
- 暗号資産は通貨というより 一攫千金エコシステム に変質した
- 参加者の多くは対象そのものより、「グラフが上がれば金持ちになれる」という点に関心を向けている
- コイン、NFT、その他のWhateverはすべて時間軸とドル軸のグラフを共有し、実際の対象はタイトルにだけ残る
- Bitcoinはオープンソースなので、誰でも複製して自分のコインを作れるし、NFTは「コレクティブル」と呼ばれるWhateverファミリーを作れる
- 重要なのは芸術・技術・トークンの結び付け方ではなく、他人に買わせられるかどうかだ
- こうした構造が、Twitterで無数の詐欺師が互いによく似たWhateverを売りさばく空気を作ったと見ている
個人Webから広告プラットフォームへ固まったWeb
- Webは誰でも何かを載せられる巨大な掲示板のような空間で、昔はISPが個人Webサイトも提供していた
- 今でもGitHubのような場所で小さなWebサイトをホスティングできる
- 昔のWebには、人が作った小さなサイト、色のあるデザイン、Twitterプロフィールの背景画像のような多様性があった
- 個人Webサイトが多いと、更新を追いにくく、返信も送りにくく、サイトを自作するには学習が必要だった
- WebはRedditやTwitterのような 巨大プラットフォーム を中心に凝集していった
- 巨大プラットフォームは数億人規模の相互作用を提供するため、ホスティング費用も大きくなる
- 広告はWebサイト運営費を賄う伝統的な方法であり、プラットフォームはより多くの広告表示のため エンゲージメント を最優先するようになった
- ユーザーが不幸でも居続ければよく、広告がうっとうしくても見えさえすればよい構造だ
- このモデルはスマホのソフトウェア、動画、Windowsにまで広がったと批判されている
「Content」と広告周辺のWhatever
- 創作物を「content」と呼ぶことに強い拒否感を示す
- 「content」は、レイアウトを設計するときにまだ何が入るか分からないページ内容や、自動車のトランクの雑多な荷物を指す言葉として使われる
- マーケターにとってcontentとは広告の周りに置かれるものだ
- 広告中心モデルは、クリックベイト、誇張されたサムネイル、赤い矢印、Wikipediaを読み上げる動画エッセイ、推薦アルゴリズム、長いレシピブログ、SEO向けゲーム攻略記事を生んだ
- ゲームサイトが「青い鍵は川辺の岩の下にある」という情報を長々と引き延ばし、広告の間に段落を増やす例が出てくる
- TikTok式の終わりなきストリームも同じ流れに含まれる
- 以前は一般的なWordPressテーマとGoogle広告を貼り、少し曖昧なテーマの無味乾燥な記事を量産して、検索流入による広告閲覧を狙う一攫千金の手法があった
- 今ではこの generic filler もコンピュータが代わりに書ける
LLMに向けられる核心的批判: もっともらしいノイズ
- 2025年にStar Trekのコンピュータのようなものを手に入れていたらうれしかっただろうが、実際に手にしたのは sparkling autocomplete に近いチャットボットだ、という評価だ
- LLMは投資家や熱心な支持者が語る機能を根本的に果たせず、統計的にもっともらしいテキストをつなぎ合わせているだけだと批判される
- 新しい進歩が出るたびにPh.Dレベルだという宣伝が現れるが、出力は相変わらず banal sludge にしか見えないという
- Google製品群に組み込まれたLLM出力は、体験を悪化させる例として扱われる
- Google SearchのAI summaryはデスクトップ画面の高さの3分の1を占め、上位検索結果の要点を言い換えるだけだったり、間違った内容を出したりする
- YouTubeのAI summaryは動画タイトルをもっと多くの語で繰り返す
- Pixelの天気アプリのAI summaryは「今週は暑くなりそうです」のような内容を表示し、気温グラフを画面の下へ追いやる
- 最近のPixel phoneでは、System > Apps > Show all apps > 3点メニューの「Show system」 > 「AICore」を探して無効化すると、こうした出力を切れるという
- Android 16では関連要素が統合されたようだとも付け加える
- 以後、LLM出力らしきものを見なくなったという
Ren’Pyの事例: 存在しないAPIを作り出したLLM
- Ren’Pyの問題をLLMに尋ねたところ、モデルは関連するformatting tagを自信満々に提示したが、そのタグは 一度も存在したことがなかった
- 追加の文脈を入力すると、謝罪したあとでまた別の偽タグのセットを生成した
- 組み込みの方法もなく、過去の事例もなかったため、モデルは根拠ではなくもっともらしいものを作ったのだと解釈される
- この失敗は、質問に答えられなかったことより悪かった
- 偽のAPIを見落としたのか確認するために時間が無駄になった
- 人間なら分からないと言うか、複雑な回避策を提案できるが、LLMは存在しそうなAPIのような答えを生成する
- 実際の問題は、文の間に半角スペースを2つ入れ、それをRen’Pyにレンダリングさせることだった
- Ren’Pyは文字列をパースするときに空白を1つに畳み込むため、formatting tagでは解決できなかった
- 結局、parserを monkeypatch して解決した
Copilotの事例: Microsoftが選んだサンプルの欠陥
- 2024年12月にVisual Studio CodeのWebサイトを見たところ、その大半がLLMコード補完サービス Copilot に割かれていた
- フロントページのサンプルはWebサービス呼び出しコードだったが、フォームデータをエンコードしていなかった
- コードは必要以上に長く、Webサービスの証明書が3年前に失効していてHTTPS Webサイトでは動かない問題もあった
- 最新APIがフォームデータのエンコードをサポートしていないのではなく、Copilotがそれを使わなかっただけだった
- Copilotの答えは使い捨ての disposable な出力なので、他の誰かが「フォームデータのエンコードを忘れている」と直す構造がない
- このサンプルは、最も人気のあるコードエディタ、Microsoft、最新のLLM統合の前面サンプルだった点で、なおさら問題だ
プログラミングツール比喩への反論
- LLMを table saw、calculator、screwdriver、digital camera のような道具と比較する主張に反対する
- table saw は直線を素早く切る道具であり、ときどき波線を切ったり無作為に別の作業をしたりはしない
- calculator は算術を代行するが、ユーザーはどのボタンを押すべきか知っていなければならない
- 普通の道具の例外ケースは周辺にあるが、LLMの例外ケースは どこにでも あり、同じ入力を同じモデルに与えても時間によって変わりうると見る
- 道具は調整やカスタマイズができるが、LLMのカスタマイズ事例の大半は「顧客に話すように答えよ」のような段落を前に付ける程度に見えたという
- したがってLLMは単純な自動化ではなく、ほとんどどんな入力にもWhateverを出してくる新しい種類の機械として区別される
「もっと良くなったら?」という問い返し
- まず「better」という言葉が何を意味するのか自体が曖昧だ
- 発表資料の小さな注記には「Mississippi」の文字数を正しく数えられるようになった、といった改善が載るが、それでも出力は依然として crap だという
- 答えがないときにもっともらしい虚構を作り続けるなら、有用性はない
- LLMと生成AIへの不満は、知的財産権や環境負荷のような大きな論点よりも vibes are bad で要約される
- その口調は我慢しがたく、嘘を fallback にする点が不快だという
- 広告は、誕生日カードやその他の作業を自分で気にせずやり過ごせるかのように宣伝する
- 資金提供者や推進者は、人間の入力をできるだけ機械に置き換えようという発想に熱狂していると批判される
音楽・画像・宿題に現れる基準線の問題
- 誰かが3.5時間でアルバムとアルバムアートを作ったと言った事例をめぐり、誰でもそうできるなら、なぜその音楽を聴く必要があるのかと問う
- アルバムを聴くだけでも3.5時間のかなりの部分を使うので、どれほど手作業が入っているのか疑問が残る
- コンピュータが独力でできることは 基準線 になると考える
- 写真品質の画像生成を改善しようとする動きには強い反感を示す
- すでに嘘だけで代替現実を作る保守系「ニュース」の領域があるのに、偽写真や偽動画を作るための機械をなぜ提供するのかと問う
- そうした機能がスマホのカメラアプリに入ってくることにも反対する
- 学生がLLMで学校を切り抜ける事例は、批判的思考力への懸念につながる
- 「As a large language model...」のような痕跡がコメントや課題に残っているのは、自分の名前で提出した言葉すら読んでいないことを意味すると見る
Enough of Whatever
- Facebookが自社Webサイト上でLLMベースの偽アカウントを運用しようと提案していた件を思い出す
- 偽の人間がWhateverについて偽の投稿を作り、ユーザーはさらに多くの広告を見るという構図だ
- Midjourney生成アートを使ったゲームをSwitch shopで見ることにも恥ずかしさを覚えるという
- こうした流れは、mediocrity を広範に称賛しているように見えると表現する
- 自分でプログラミングし、文章を書き、何かを作って「自分が作った」と感じる喜びを強調する
- 曖昧な説明を入力し、十分によく見えるWhateverが出るまでリロードすることには喜びを感じない
- Stable Diffusionが「芸術を民主化する」という言い方は間違っていると見る
- 芸術を許可する King of Art などおらず、誰でも今すぐ描けるが、学ぶには努力が必要だ
- コンピュータが努力なしで賞賛を与えるため、人々が技術を学ぶ難しさに文句を言うのだという批判だ
- 売られているのは、すべてをやってくれると約束する機械であり、それを売るには「何かをする行為には価値がない」という考えを売らなければならない
- 何かをすることに価値があるなら、ボタンを押してほぼコストなしでWhateverを受け取ることより良い行為であるはずだ
- 結論は Do things. Make things. であり、作ったものをWebサイトに載せてほしいという呼びかけで終わる
まだコメントはありません。