GLM 5.2と迫りくるAI推論マージンの崩壊

• GLM 5.2は、**オープンウェイト（open weights）**モデルがOpus・GPT級のエージェント作業に近づき、クローズドなフロンティアモデルの高い推論マージンを圧迫し得ることを示している
• AIコストの論点は、一度きりの学習費用よりも需要に応じて増える推論コストであり、$25/MTok水準のAPI価格には高い粗利率が含まれている可能性が高い
• 品質はOpusと見分けがつきにくい水準だが、多く「考える」特性のために速度とトークン使用量が増え、ビジョン非対応・弱いWeb検索が弱点として残る
• Z.aiとFireworksのOpenAI・Anthropic互換エンドポイントにより、Claude CodeとCodexではbase URLとAPI keyを差し替えるだけで試せる
• GLM 5.2の価格は約**$4.40/MTok**で、Opus小売価格の20%未満、GPT5.5の約15%水準であり、サービングスタックの最適化とAMD活用でさらに下がり得る

---

コスト構造：学習費用より推論費用がマージンを左右する

• DeepSeek R1の当時、市場はV3モデルの学習費用が600万ドル未満だったという報道に反応し、モデル学習用の大規模設備投資は終わったと解釈したが、これはAIのコスト構造を読み違えた例に近い
• 学習費用には大きな資本が投じられるが、基本的には前払いの固定費という性格が強い
  • フロンティアラボは競争力を維持するために新しいモデルを学習し続けるため、完全な一回限りの費用ではない
  • それでも、顧客の利用量に比例して増える推論費用とは性質が異なる
• 推論費用は需要とともに増え、実際の限界費用を生む
• AnthropicとOpenAIが推論に$25/MTokを請求する場合、コンピュートコストに対して約90%の粗利率になっている可能性があるという試算がある
  • OpenAIの流出した財務資料は売上ベースで約60%の粗利率を示唆しているが、ここにはサポート、決済処理、その他サービス費用が含まれている可能性がある
• フロンティアAIラボの事業モデルは、高価な人材とコンピュートでモデルを学習した後、収益性の高い大量の推論でその費用を償却する構造である

GLM 5.2の品質と使用体験

• Z.aiのGLM 5.2は、OpusとGPTに対抗する初の本格的なオープンウェイト競合モデルと見なせる
  • 執筆時点の最新GPTはGPT 5.5として言及されている
  • 今後のモデルがこの水準を超える可能性があるという留保も付いている
• 実際の利用では、日常的に使っているOpusと見分けがつきにくいほど品質が高かった
• 最大の欠点は体感速度の遅さである
  • バックグラウンドのPRレビューのように時間感度が低い非対話型エージェント作業では大きな問題ではない
  • 対話型の利用では、注意を保ち続けるにはやや遅い
  • 遅さはサービング自体よりも、主にモデルが多く「考える」ことから生じる
  • FireworksのGLM 5.2はtokens/sec基準では高速にリリースされたが、実際の速度にはややばらつきがあった
• より多く考える特性のためにトークン使用量が増え、費用対効果が一部低下する

ビジョンとWeb検索の弱点

• GLM 5.2はビジョン（vision）対応がない
  • Opus 4.7の高解像度ビジョン機能以降、画像ベースのPDF、スクリーンショット、デザインファイルを読む利用が増えたため、体感上の弱点は大きい
  • フロンティアラボと比べた重要な弱点として残る
• Web検索機能の欠如または品質の低さも、エージェント作業を制約する
  • ほぼすべてのエージェントセッションが項目を調べるために多くのWeb検索を行う
  • Z.aiはWeb検索用の代替MCPを提供しているが、遅く品質も低かった
  • FireworksはWeb検索機能を提供していない
• 一時的な回避策として、エージェントにddgrのようなCLIベースのWeb検索を使うよう指示できる
• 優れたサードパーティWeb検索APIは、オープンウェイトモデル提供者がまだ埋められていない大きな空白を埋められる
• Web検索能力は多くのエージェント作業に不可欠であり、検索インデックスを作る主体と適切なパートナーシップ・接続作業が整えば、時間とともに解決され得る

移行コストが低いオープンウェイトモデル

• フロンティアラボにとってより脅威となるのは、オープンウェイトモデルへの移行難度が低い点である
• Z.aiとFireworksはいずれもOpenAI互換およびAnthropic互換のエンドポイントを提供している
  • Claude CodeとCodexでbase URLを推論プロバイダーに変更する
  • API keyを設定する
  • 使用するモデルをGLM 5.2に指定する
• Anthropicがclaude -pの非対話型エージェント利用にAPI料金を課すと発表した後に撤回した状況では、多くのユースケースはGLMに置き換え可能である
• 対話型利用でも、ビジョン非対応と遅い速度を除けば、Claude Code内でOpusではないモデルを使っていることにはほとんど気づきにくかった
• この移行は、MicrosoftやSalesforce式のロックインのように何年も計画すべき移行ではない
  • 移行コストは低い
  • フロンティアラボのポリシーや規約変更に追随するコストより低い可能性がある
  • Claude Codeが今後サードパーティ提供者の利用を難しくする可能性はある
  • CodexやOpenCodeを含め、優れたオープンソース代替が多い

企業導入：データ保護とデプロイの選択肢

• 企業でよく出る懸念はデータプライバシーとセキュリティである
• Z.aiの公式APIとサブスクリプションは、弱い規約と中国本土との深い結びつきのため、企業にとっては選択肢になりにくいと見られる
• オープンウェイトモデルでは別の提供者を選べる
  • 市場には、より適切な契約条件を持つ提供者が多い
  • 必要であればオンプレミスホスティングも可能である
• オンプレミス展開により、どの第三者にも送れなかったより機密性の高いデータまで、Opus水準のエージェントワークフローに使えるようになる

価格とマージン圧迫

• GLM 5.2の現在価格は約**$4.40/MTok**水準である
  • Opus小売価格の20%未満
  • GPT5.5費用の約15%
• 同じ作業でGLM 5.2はより多くのトークンを使うため、完全な同条件比較ではない
• それでも、ほぼすべてのワークフローで同等の品質を50%以上安く提供できる可能性が高い
• Z.aiはAnthropicとOpenAIのプランに似た「coding plan」サブスクリプションを提供し、より高い利用上限を掲げている
  • ただし、学習とデータ保持に関する緩い規約は、プロフェッショナル用途での販売を難しくする可能性がある
  • フロンティアラボが価格を大きく引き上げる場合、予算を重視するユーザーにとって信頼できる選択肢になり得る
• GLM 5.2のコストは、今後数カ月でサービングスタック最適化により大きく下がると予想される
  • Waferは、AMDハードウェアでGLM 5.2を実行した内容をまとめている
  • AMDで推論を実行すると、Nvidia Blackwell比でトークン当たりコストが2.75倍安いと示している
• FireworksはGLM実験用の無料クレジットを提供していた

[GN⁺]

Hacker News のコメント

• 原価そのものがそこまで重要だとは確信できない

  1. クラウド登場以降、コンピューティングコストは大きく下がったが、ハイパースケーラーはいまだに高いマージンを維持している
  2. オープンソースのオフィススイートは多いが、G Suite や Office の普及度には対抗できず、GitHub や Slack も同様
  3. Windows と macOS には無料の代替が昔からあったにもかかわらず、家庭用デスクトップを支配している
  4. Redis や Elastic Search のように以前はオープンソースだったインフラ構成要素にも Apache 系の代替はあるが、いまだに良いマージンを出している
     マージン崩壊の論理は理解できるが、歴史的に似た事例があまり見当たらない。企業はサービス保証、統合、そして訴えられる相手に高い金を払うのだろうし、結局「IBM を買ってクビになった人はいない」が繰り返されているように見える
  • この例えはそこまで明確ではないと思う。第一に、LLM は入出力がテキストなのでロックイン効果がほとんどなく、簡単に移行できる。第二に、企業が受け取っている請求額の大きさを過小評価しているように思うし、財務部門は補助金が大きい現状でもすでに支出抑制を指示されている
    第三に、米国の戦略は強力なモデルへのアクセスを人為的に制限する方向に見えるが、中国が今の流れを続ければ、6か月以内に Fable と同等のモデルを出し、囲い込むこともしないだろう。より安く、より良いモデルがオープンになっていれば乗り換える誘因は非常に大きく、中国はシェアを取れているなら価格を上げる動機がずっと弱い。David Sacks と米国政府の AI 戦略は非常に近視眼的で、逆風を受けることになりそうだ
  • 歴史的な類似事例を考えるときは、生存者バイアスが大きい。マージンが崩壊し、競争によって産業がコモディティ化した場合、当時の大きな独占的な名前はもう残っていないからだ
    1980年代にはメモリチップのマージンが崩れ、Intel はメモリチップ事業から完全に撤退した。当時の Intel は、マイクロプロセッサ企業というよりメモリチップ企業として知られていた。高級ワークステーションのマージンも、安価な IBM PC 互換機と MS Windows ソフトウェアの爆発的増加を前に崩壊し、SGI、Sun、Symbolics、Lucid、LMI などが消える直接のきっかけになった
    HP-UX、IRIX、AIX、SCO Unix のような独自 UNIX 系は事実上消え、より安価な独自 OS である Windows と MacOS、または Linux と BSD というオープンソースの後継に置き換えられた。Oracle、dBase、Sybase、FoxPro、Microsoft の SQL Server や Access のような商用データベース企業も PostGres、MySQL、SQLite から強いマージン圧力を受けた。Oracle は巨大なインストールベースと法務チームのおかげで、Microsoft は OS と Office の独占からクロス補助できたため生き残ったが、dBase、Sybase、FoxPro は消えた
  • これらの例と違って、LLM の乗り換えは安くて簡単だ。3か月ごとに新しいモデルが出ると、人々がすぐにそれを使い始めるほどだ
    提供者が違ってもユーザー体験は同じで、プロンプトを送れば答えが返ってくる。他の事例ではサポートを失ったり、困難な移行期間を受け入れたりする必要があったが、LLM はそもそもサポートがほとんどなく、移行も現在のハーネスが別のモデルを認識するように更新する程度だ
    より適切な比較は AMD の台頭に近いと思う。市場支配まではできなかったかもしれないが大きな傷を負わせたし、AMD x86 が Intel x86 とかなり近く互換性がありながら、はるかに安かった点が大きかった
  • 彼らは単に良いマージンが必要なのではなく、数年以内にほぼ1兆ドルを回収しなければならない。Elastic Search や Redis と比較するのはあまり適切ではない
    ハイパースケーラーが成立するのは、無料の代替に比べて実際の価値があり、プロバイダーの乗り換えコストが非常に大きいからだ。Windows と macOS も他のものに替えるコストが非常に高く、不可能な場合も多い。Office も互換性の問題と従業員の再教育のため、移行コストが大きい
    結局の核心はロックイン効果だが、これまでのところ LLM にはそれがないように見える。だから前述の論点はここにはあまり当てはまらないと思う
  • オープンソースのオフィススイートが G Suite や Office の普及度に対抗できないのは、コラボレーションの解決が難しいからだと思う。コラボレーションがなければ、G Suite/Office が提供するものはほとんどない
    Mac OS も無料ではある。ビールのようにタダという意味でだ
    企業がサービス保証、統合、訴えられる相手に高い金を払うという点は正しいが、大枠では米国企業は途方もなく裕福なので、合理的な支出者の良い例ではないと思う

• 先月 Claude Pro のサブスクを解約し、その20ドルで Openrouter のクレジットを買った。知識探索系の質問の大半は Gemma4 で答えられるし、基本的なコード編集は Qwen3.6 27b で十分で、本当に難しい作業も GLM5.2 が持ちこたえてくれる
  AI をそれほど多用するほうでもないので、作業の複雑さに応じて可能な限り最小のモデルを使う API クレジット方式のほうが、むしろ節約になっている

• 逆方向から同意。AIはC/C++のシニア・システムソフトウェアエンジニアである自分の仕事をどんどん吸収しているが、数カ月間 gpt-5.5/5.6 と codex を使っても数百ドルしか使っていない。
  みんなが何をしてそんなに多くのトークンを燃やしているのか分からないが、自分にとっては笑えるほど安く、毎日新機能を発見している。コストが上がろうが下がろうが、得られるものに比べれば安すぎるので気にしない。

  • 私たちは小売の消費者価格、つまりサブスクリプション料金を払っているから。同じトークンでも企業向け課金では数千ドルかかる。
  • エージェント型ワークフローは多く消費する。自動化されたエージェントループが目標に向かって動き続ける場合だ。
    LLMを自分の作業補助として使うならトークンはそれほど使わないが、複数のエージェントを独立して作業させ、互いの作業をレビューさせると、予算は本当にあっという間に燃え尽きる。
  • 無知、悪いコード衛生、下手なプロンプトのせい。ほとんどコーディングできない立場から言うと、エージェント以前の時代に Gemini IDE の使用制限がほとんどなかったころ、バイブコーディングで作った古いプロジェクトがあり、ファイルは数千行以上に膨れ上がり、バグのバックログが積み上がっていた。
    愚かなモデルたちはその時点で崩れ始め、プロジェクトは自分の必要にはどうにか使える程度だったのでそこで止めた。その後、エージェントコーディングと、問題を直せるほど賢いモデルが登場したが、コードベースがあまりに散らかっていたため、極めて非効率に処理していた。プロンプト数個だけで5時間分の割り当てを使い切るほどだった。
    数日かけてまともな agent.md を作り、コードベースをリファクタリングしたら、今ではトークンを少しずつしか使わない。今でも多くの人が同じ船に乗っているのだと思う。私たちの多くはベストプラクティスをまったく知らず、エージェントにどう振る舞うべきかを指示する方法も知らない。
    振り返れば、数日かけて基本を学ぶべきだったが、問題は「自分が知らないことを知らない」ことだ。企業が新規ユーザーをオンボーディングする際に、エージェントが配慮して振る舞うようプロンプトしているとはあまり信じられないし、自分のような人を中毒にしてトークンを最大限使わせるほうが彼らには得だ。不要なサブスクやティアにさらに数百ドル使ったが、当時は0から1への生産性向上に比べれば小さな金額だった。
  • 同じ経験。人々が主張するほどのトークン消費量をどうやって燃やしているのか、本当に理解できない。
  • およそ50万行規模のコード作成を主導したことがある。

• モデル自体にネイティブなビジョン機能がないため、それを補う vision MCP がある: https://docs.z.ai/devpack/mcp/vision-mcp-server
  Web検索もおおむね良かった。ZCode ハーネスを使うと Coding Plan の割り当てが増える: https://zcode.z.ai/en
  少し使ってみたが、OpenCode Desktop と Claude Desktop の中間くらいにある。OpenCode Desktop はまだ新しいが悪くなく、Claude Desktop は最近のバージョンが良い。
  モデルとしての GLM 5.2 は、最大思考モードではおおむね満足でき、Sonnet 5 と Opus 4.8 の間くらいで、DeepSeek V4 Pro よりは明らかに良い。
  価格面では、サブスクリプションは期待したほど良さそうには見えない。Pro プラン50ドルの週次上限を1日で60%ほど使い、そのうえ5時間制限ごとに20%しか使えないようになっていたからその程度で済んだのであって、そうでなければ80〜100%だったはずだ。特に狂った作業をしたわけでもなく、キャッシュヒット率約96%、並列コードレビューのサブエージェント最大3つで、2つのプロジェクトに対して長めの作業を並列にした程度だった。
  Max の100ドルサブスクなら1週間ずっと持つだろうが、Anthropic も同じ金額でそうだし、OpenAI もそうだろう。オフピーク時間はもっと良いが、現地時間の午前9時から午後1時まで親指をくわえて待っているわけにはいかない。
  本格的な節約は Max プランに年払いを付けてこそ出てくるだろうが、それは説得がさらに難しい。

  • あまりに安いので Cline pass を年払いに切り替えた。
  • GLM-5V-Turbo もある: https://docs.z.ai/guides/vlm/glm-5v-turbo

• これらの企業が談合して価格を固定できないことが重要だ。中国が競争相手としていることがそれを保証している。
  トークン経済を理解する最も簡単な方法は、今でも基本的なミクロ経済学だ。これがどうして競争市場、つまり利益がゼロに向かう市場でないことがあり得るのか。
  AやOがマージンをさらに取ろうとして何をしようとも、競合がコピーするか、より低い価格を付けることができるし、価格を下げれば学習データも集められるという利点がある。談合や価格固定以外に、トークンの売上総利益がゼロに向かうのを止められるものが何かあるだろうか。

  • 見落としているものがある。それを止めるのは連邦政府の産業政策だ。
  • 単一市場内部の条件を見るのも、やはりミクロ経済学だ。同意するが、企業がどこで市場支配力を得るのかは見えにくく、だから利益はゼロに近づくと思う。
    ただしGPUについても同じように考えていたが、Nvidia は今でもデータセンターでまともな競争相手がいないように見える。

• 好きなたとえは、AIが電気と同じくらい安くなるというものだ。
  電気を誰が供給しているか、どの発電所から来ているかを知って使っているだろうか。おそらく知らないだろう。電気は汎用品であり、大部分は定着していて、エネルギー資源も多いからだ。代替エネルギーもあり、炭鉱もある。これらはリアルタイムで行われるエネルギー需給取引の中で互いに競争している。ここで OpenRouter を思い浮かべればよい。
  結局、豊富さゆえに消費者が勝つ。
  安く無限に近い知能の豊かさを示す最大の例は GLM5.2 ではなく、入力100万トークンあたり0.435ドル、出力100万トークンあたり0.87ドルの DeepSeek V4 Pro max になると思う。

• 「学習には資本支出が大きくかかるが、固定された前払いコストであり、数億ドルを使ってモデルを学習させればそれで終わりだ」という論点が理解できない。
  競合がいて、人々が常により多くを期待するために新しいモデルを学習し続けなければならないのなら、そして改善率に対して学習コストがどんどん大きくなっているように見えるのなら、これは継続的に負担すべき常時コストではないのか？脚注はこの点を示唆してはいるが、結局はざっくり流しているように見える。
  モデルを継続的に関連性のあるものに保つための漸進的な学習コストもあるのか気になる。あるいは、モデルは学習された日までの出来事しか知らないのだろうか？

  • これらのモデルは、重みに組み込まれた知識に依存している。新しいライブラリが出て、新しい Linux バージョンが出て、何らかの新しいプロトコルが以前のものを置き換えれば、LLM にそれを知っていてほしいと思うようになる。
    もちろんコンテキストウィンドウに入れることもできるが、それはそれで問題がある。
    有望に見えるいくつかの新研究が新しい方法をもたらさない限り、学習コストは今後も資金が流れ出る穴であり続けるだろう。
    さらに、学習を止めれば、6か月後に誰かがオープンウェイトモデルを出して、今度は同じ製品を最安値で提供する競争をすることになる。
    この事業は単なる技術ツールではなく、世界の労働市場に必ず入り込まなければならない事業だという点も忘れてはいけない。1兆ドルの評価額を正当化するには、モデルははるかに良くなければならない。

• 「AI 経済で最も理解されていない、近づきつつある変化」と言っておきながら、毎日の AI ニュースに出てくる話をしている。オープンソースモデルが安くなり品質が上がっているという話を聞いたことがないのか、という感じだ。
  まず、どんな基準でも GLM5.2 は Opus ほど良くはない。
  次に、オープンソースモデルがいずれマージン圧力をかけるのは確かで、誰もが知っている。だが、今日の AI ビジネスモデルが明日も同じだと見ているのだろうか？

  • GLM-5.2 は Opus ほど良いのではなく、もっと良い。GLM-5.2 を脱抑制して、Opus が拒否するプロジェクトに投入できる。
  • 何をするかによる。複雑な作業や定義の不十分な作業なら Opus が適しているだろうが、比較的単純な作業や非常によく定義された作業では、GLM-5.2 も同じくらい良く、たいていはずっと速い。
    性格もより中立的で、Opus より対立的ではない。Opus はいつも「そこに反論するとすれば……」という感じなのに対し、GLM は「はい、承知しました！」に近い。どちらも使っていて、どちらも良いと思っているが、明日 Opus が消えても泣きはしない。GLM-5.2 だけでもすぐに適応できる。

• GLM 5.2 の Web 検索能力が悪いという話があるが、それはハーネス側の責任だと思う。
  VPS に SearXNG インスタンスを自分で立て、webfetch ツールと一緒に Pi に統合したところ、GLM 5.2 はこれまでのところ物をうまく見つけてくれている。攻撃的な広告オーバーレイのせいでパースが難しいオーストリアのオンライン新聞の最新ニュースを頼んだら、ChatGPT と Claude の標準チャットアプリはどちらも失敗した。Pi 内の GLM 5.2 は RSS フィードを検索するだけの賢さがあり、詳しい概要を出してくれた。
  ビジョンがないのは本当に残念だ。Pi に回避策を実装してあり、そこそこ悪くはないが、それほど良くもなく、全体の体験はぎこちない。

• 出力トークン中心にしか見ていない、かなり無意味な記事のように見える。
  エージェントコーディングでは、キャッシュ済み入力トークンが API「コスト」の 90% を占める。GPU 演算は不要で、DeepSeek は MLA/CSA/HCA と大量のディスクで 50〜100 倍安く処理できることを示した。これがマージンを崩壊させるだろう。

  • 米国の AI 研究所は、エージェントコーディング以外の市場を見つけようと必死になっているのではないか？
  • MLA/CSA/HCA はいずれも非可逆圧縮手法ではないのか？コンテキストサイズが大きくなるほど品質低下への不満が出る理由の一つも、それではないかと思う。
  • https://lobste.rs/s/ua1gxl/glm_5_2_coming_ai_margin_collapse の現在のトップコメントは、キャッシュ済み入力トークンを正確に指摘しているが、逆の結論に達している。
    「月額 100 ドルの料金で API 利用量 3600 ドル相当を受け取っている。これは Anthropic がモデルルーティングと入力キャッシュで賢い方法を見つけ、投資家の資金で補助し、運用マージンの損失も受け入れられるからだろう」という内容だ。
    私の解釈では、これはまさに Anthropic が皆に信じてほしい構図だ。実際には、その 3600 ドルの 90% はキャッシュ済み入力トークンであり、DeepSeek が示したように、ほぼ無料に近くできる。