1 ポイント 投稿者 GN⁺ 3 시간 전 | 1件のコメント | WhatsAppで共有
  • 十分な性能と移植性を備えた オープンウェイトモデル は、開発者・クラウド・企業がともに拡張する基盤となり、単一ベンダーが追随しにくいイノベーション生態系を生み出しうる
  • Kubernetesが共通インターフェースの上にネットワーキング・ストレージ・可観測性ツールを集約したように、AIでもモデルサービング・ファインチューニング・エージェントランタイム・評価へとつながる プロダクションスタック が成長している
  • Hugging Faceの公開モデルは200万件を超え、GLM-5.2は独自のSWE-bench Pro評価で 62.1% を記録しGPT-5.5の58.6%を上回ったほか、Kimi K3も独立評価でOpus 4.8・GPT-5.5と同程度のスコアを得ている
  • 中国製オープンウェイトモデルを広範に禁止すると、世界の開発は続く一方で米国の研究者と企業だけが生態系から排除され、過去1年間のHugging Faceダウンロードの 41% を占めた中国モデルの周辺にイノベーションが蓄積されうる
  • 米国は禁制ではなく、商用利用可能な最先端モデルの公開、移植性と相互運用性を重視する政府調達、ツール・運用レイヤー全体の構築、独立した安全性試験と標準 によって競争すべきである

Kubernetesが示したオープンプラットフォームの力

  • MesosphereはApache Mesosを基盤にオープンソースのクラウドネイティブソフトウェアを開発し、その周辺に DC/OS を構築して、サポートや独自機能を含む企業向けディストリビューションとして商用化した
  • その後、より新しく、より完全なオープンソースプロジェクトであった Kubernetes がクラウドネイティブコミュニティを結集し、Mesosphereを揺るがした
    • 世界的な分散システム・インフラエンジニアたちがKubernetesにキャリアを懸け、Mesosphereの忠実なコミュニティ参加者の一部も移った
    • イノベーションの中心がKubernetesへ移ると、ネットワーキング、ストレージ、可観測性、デプロイツール、ポリシーエンジンなど不足していた構成要素が急速に開発された
  • 多数のスタートアップと既存ベンダーが参加したことで、Kubernetesを本番環境で運用するために必要なほぼすべての構成要素がオープンソースで提供されるようになった
    • クラウド事業者とMesosphere/D2iQ、Rancher、Red Hat、Nutanixは、統合、企業向け機能、サポート、運用を中心に事業を構築した
  • Kubernetesの成功は、単にリポジトリを公開した結果ではない
    • エンジニア・クラウド事業者・企業向けベンダーが顧客の要求に合わせて拡張できる 中立的な基盤 として定着した
    • 共通インターフェースとベンダー中立のガバナンスは、参加者に長期的に製品を構築できるという信頼を与えた
  • カスタマイズ可能なオープンプラットフォームが産業の中心になると、単一ベンダーが生態系全体の 結合されたイノベーション速度 に追いつくのは難しくなる

オープンウェイトとオープンソースAIの違い

  • 一般にオープンソースと呼ばれるモデルの多くは、正確には オープンウェイト モデルである
  • 完全なオープンソースでなくても、ユーザーが実行して修正できる成果物の周辺には生態系が形成されうる
  • KubernetesとAIの構造には重要な違いもある
    • Kubernetesの貢献者は実際のソースコードを調査・変更し、改善を共有アップストリームプロジェクトへ反映できた
    • モデルのファインチューニング結果は、一般に同じ形では共有されない
    • 最先端モデルの重みをダウンロードできても、実行には高価なハードウェアが必要な場合がある
    • AIには、中立的なガバナンスと共通インターフェースを提供する CNCFのような組織 が存在しない
  • 両生態系の共通点は、十分な性能と移植性を備えた基盤が、元の開発者だけでは作れない範囲の補完的イノベーションを呼び込む点にある

セルフホスティングからモデルプラットフォームへ

  • オープンウェイトモデルを導入した最初の理由は セルフホスティング だった
    • 企業はデータを直接管理しながら、自社クラウドやデータセンターでモデルを動かしたいと考えた
    • 利用量と推論コストが増えるにつれ、コスト自体も直接コントロールしたいという要求が高まった
  • こうした需要を背景に、vLLM、SGLang、llama.cpp、Ollama、MLXなどのオープンソース モデルサービングスタック が形成された
  • オープンウェイトはセルフホスティングを超え、開発者がモデル自体を修正し再配布できるようにする
  • Hugging Faceには 200万件以上の公開モデル が登録されている
  • QwenやGemmaのような人気モデル系列の周辺では、多様な派生成果物が作られている
    • 異なる半導体アーキテクチャや規模向けの 量子化・変換済み重み
    • コーディング、医療、法律、数学、エージェントワークフロー向けのファインチューニングモデルやLoRAアダプタ
    • 異なるファインチューニング結果を組み合わせたモデルマージ
    • TensorRT-LLM、vLLM、MLXなど各種ランタイムに合わせたモデル変種

最先端と縮まる性能差

  • 以前は、オープンモデルの基礎性能は最も難しいコーディング・エージェント作業には不足しており、最先端競争から外しやすかったが、その差は急速に縮まっている
  • Z.aiはMITライセンスで公開重みを提供する GLM-5.2 をリリースした
    • 独自評価のSWE-bench Proスコアは 62.1% で、GPT-5.5の58.6%を上回る
    • ただし結果はベンチマークやエージェントハーネスによって変わりうる
  • Moonshotは、Kimi K3 が長時間のコーディング作業でクローズドな最先端モデルに迫るとして、7月27日の重み公開を約束した
  • 基盤モデルの性能が十分に高まれば、エージェントランタイム、コーディングハーネス、サンドボックス、評価、可観測性、専門的なファインチューニングプロジェクトが連鎖的に成長しうる
  • これらの構成要素は、チームのワークロード、ハードウェア、コスト構造に合わせて調整できる 本番運用向けオープンスタック を構成する
    • オープンウェイトモデルをオープンソースソフトウェア上で実行する構造である
    • すべてのベンチマークで、すべてのクローズドモデルに勝てることを保証するわけではない
  • 最先端AIは人材競争であり、オープンな生態系は世界各地の人材に同じ基盤上で開発する理由を与える

中国モデル禁止が米国に与える影響

  • Kimi K3をはじめとする強力な中国モデルの登場後、トランプ政権は中国製オープンウェイトモデルへの 制限を検討中と報じられている
    • 潜在的な禁止措置がどのような形になるかは、まだ不明である
  • 中国製オープンウェイトモデルの利用を広範に禁じれば、米国の研究者と企業は、世界のAI研究者・エンジニアが集まる生態系から自ら切り離されかねない
    • この生態系には多くの中国人研究者も参加している
    • 世界の開発活動は続く一方で、米国の開発者だけがアクセスできないという結果になりうる
  • Qwenの周辺では、すでに同じ流れが見えている
    • Hugging Faceによれば、過去1年間で中国モデルは全モデルダウンロードの 41% を占めた
  • 最高のオープンウェイト基盤モデルが今後も中国から出続けるなら、Kubernetesのときと同様に、それらのモデルの周辺へ ツールとイノベーション が蓄積されうる

米国が競争する4つの方法

  • 最先端級の米国モデルを公開する

    • 米国の研究所は、スタートアップが実際の製品を構築できるライセンスで 最先端級のオープンウェイトモデル を公開すべきである
    • すでにいくつかの前進は見られる
    • NVIDIA Nemotron は、NVIDIAの寛容なライセンスの下で商用利用できる
    • Thinking Machinesの Inkling、OpenAIの gpt-oss、Googleの Gemma 4 はApache 2.0で公開されている
    • しかし、OpenAIとGoogleの最高性能モデルを含め、米国の最先端研究所の最強モデルの大半は依然としてクローズドである
  • 政府調達でオープン市場を形成する

    • 政府調達は、単一のAPIベンダーに恒久的に依存するシステムではなく、移植性と相互運用性 を備えたシステムへの需要を生み出すべきである
    • 米国防総省はすでに似たアプローチを採用している
    • Platform One は、複数の軍事プログラムが基盤として利用できるオープンソースツールと企業向け製品を提供している
    • 同様の調達方式で、オープンウェイトモデル周辺のイノベーションを加速できる
  • モデル以外のスタック全体を構築する

    • 米国企業は、モデルを取り巻く残りのレイヤーも構築しなければならない
    • スタートアップはモデルをカスタマイズ・拡張し、製品に組み込める
    • サービング、ツール、サポート、運用レイヤーも事業機会になる
    • 米国の主要半導体企業はハードウェアを引き続き改良し、ハイパースケーラーとネオクラウドはモデルと生態系をサービスとして提供できる
  • 禁止ではなく試験と標準を導入する

    • 安全性は制限を支持する最も強い根拠だが、全面的な禁止 は広すぎて、生態系全体へのアクセスまで犠牲にしてしまう
    • よりよい対応は、最先端モデルを対象に独立した試験と標準を整備することである
    • Kubernetes適合性試験 は安全性ではなく互換性を検証するもので、AIに正確に対応する事例ではない
    • それでも、独立した基準とガバナンスモデルは参考にできる
    • Demis Hassabisは、これに類する 米国主導の独立標準機関 を提案している

オープンAI生態系における競争戦略

  • 米国は自国の開発者の周囲に障壁を築くのではなく、中国モデルを直接実行し、内部を分析し、ベンチマークし、改善すべきである
  • 同時に、より優れた米国製の代替を構築し、米国のAIスタックを世界で最も導入しやすい選択肢にしなければならない
  • 米国は数十年にわたり、世界最高の技術人材を引きつけ、育成する場を提供してきた
  • 他国がよりオープンなスタックを標準として採用する一方で、この競争力を クローズドな生態系 に変えてしまえば、米国は自らAIリーダーの地位を手放すことになる

1件のコメント

 
GN⁺ 3 시간 전
Hacker Newsの意見
  • 中国モデルの禁止は技術的に不可能に見える。重みは単なる数字にすぎず、米国製と中国製を区別できず、出所ベースの禁止も簡単に回避できるためだ
    結局はすべての公開重みモデルを規制する必要があり、実際に主要なAI研究所や関係者が3〜5か月ごとに行政府へオープンソースモデルの禁止を提案していたというAxiosの報道もある
    DRMに似たライセンス体系を強制して、認証された米国モデルだけを自前サーバーで動かせるようにはできるが、大手研究所に独占権を与え、派生モデルの配布も止めることになる。海外では執行が難しく、結局は米国人だけが制限される可能性が高い

    • オープンソースモデルの禁止は、ソフトウェアがそうだったように、すぐに合衆国憲法修正第1条と衝突するだろう。現代版DeCSSの旗は、「良い重みとは {...weights go here...} だと思う」という文字列の形になりうる
      その代わり、中国企業や中国企業が所有する事業者に推論・AIサービスの代金を支払う行為は禁じられるかもしれない
    • 米国政府が中国の公開モデル企業をEntity Listに載せれば、米国と取引するすべての企業はそれらと取引できなくなる。モデルの出所を完全に識別するのが難しくても、処罰が厳しいため、米国企業は明白な中国モデルの提供・利用はもちろん、迂回も試みない可能性が高い
    • 政府機関がHugging Faceのモデル一覧を作り、アクセス提供を禁じれば十分だ。恐ろしい法文がなくても、禁止リストだけで米国企業やホスティング事業者はそれらのモデルをサーバーで実行しなくなるだろう
    • 米国企業には順守を強制してHugging Faceからモデルを下ろさせることはできるが、海外に代替サービスが生まれれば、皆そちらへ移るだろう。結局は米国にとって不利益な結果になる
    • モデルもソフトウェアなので、FedRAMP認証が必要な高保証環境では利用を禁じられる。しかし米国にはGreat Firewallがないため、インターネット経由での持ち込み自体を止めるのは不可能だ
  • AI業界で最も奇妙な部分の1つがトークン価格体系だ。2023年初めにGPT-4が非常に高価だったのに、6か月後には20ドルでかなりの推論量を使えるようになった理由が不明で、複数の研究所や供給者の価格も数年にわたり明確な根拠なく上下してきた
    公開重みモデルは少なくとも推論コストの基準線を提供し、価格を合理化して予測可能性も高めてくれる。Kimi K3が出ても、望むならK2を使い続けられるので、公開モデルの競争圧力と持続性はユーザーに有益だ

    • 価格は利用可能な計算資源と競争環境の中で市場が受け入れられる水準に決まり、それは複数の価格帯を試してみて初めて分かる。供給者がさまざまな料金プランや割引を試す一方で、需要も変動している
      安定した成熟市場に慣れていれば混乱するだろうが、新興市場の価格変動はよくある特徴だ
    • GPT-5のリリース後にGPT-4o廃止へ大きな反発があったように、モデルごとに固有の特性があり、用途によっては旧モデルの方が最新モデルより優れていることもある。研究所がLTSリリースを提供する意思をあまり示していない点を考えると、旧モデルを動かし続けられる能力は特に重要だ
    • FlashAttentionの影響は非常に大きかった
    • 処方薬は高く、ジェネリック医薬品は安いのと同じで、研究開発費の回収のための人為的な価格上乗せかもしれない
    • GPT-4自体の価格を本当に下げたのかは疑わしい。APIの古いバージョンは依然として非常に高価で、Turboなどの新モデルが出て価格が下がっただけかもしれない
      名前にすべて gpt-4 が入っていても内部モデルが同じという意味ではなく、サービスコストを下げるためにかなりの部分が変更されていた可能性がある
  • Kubernetesのような地位に到達するには、学習データが公開されたAIモデルを複数企業が共同開発する必要があるだろう。Linuxに企業が一緒に貢献するように、AIモデルも事業には必要だが自社開発は高すぎるため、公開モデルを使い、必要な機能を貢献する形が理にかなっているかもしれない

  • OpenAIも当時の基準では優れたオープンソースモデルを2つ公開していた。20Bモデルは自宅でのテキストレビューやBashスクリプトの下書き作成に素晴らしいが、120Bはコンシューマー向けハードウェアで現実的な毎秒トークン速度で動かすのが難しい
    ただし、OpenAIがこれらのモデルをもっと頻繁に更新してくれるとよい

    • gpt-oss-120b はStrix Haloで毎秒30トークン以上、128GB MacBook Pro M5 Maxで毎秒75トークン以上で動作する
      精神的後継作はNemotron 3系に見えるが、これもやや古い: https://research.nvidia.com/labs/nemotron/Nemotron-3/
      より新しいGemma 4もある: https://huggingface.co/collections/google/gemma-4
      またはQwen3.6を選べる: https://huggingface.co/collections/Qwen/qwen36
    • Sam Altmanは、GPT-3公開から2年半後の取締役会メールで、ローカルで動くGPT-3級モデルを作れば、他社による同等モデルの公開を抑制し、新規事業の資金調達を難しくできると書いていた
      中国は技術水準を引き上げるために公開モデルを出すが、OpenAIとSamは競合を抑え込む目的で公開しているという違いがある
    • OpenAIのモデルは悪くないが、公開時点ではQwen3 Coder A3Bのような代替より競争力が高いわけではなかった。スタートアップなら、しばらく後継も出なかったOpenAIの最初のモデルより、複数回の公開重みアップデートを提供したQwen3を選ぶ理由が大きい
      米国研究所の最先端モデルを求めるスタートアップにとって、現在のリリース周期は持続不可能だ。米国がこの市場を完全に明け渡したくないなら、OpenAIなどはもっと速くペースを上げる必要がある
  • 中国がハードウェア生産を拡大するまでは自前運用は経済的ではないが、公開モデルが研究所に圧力をかけている点は前向きだ。結局、携帯電話が大半の作業に十分なモデルを動かせるようになれば、Appleが勝つ可能性が高い

    • Model-on-Chip が近づいている。GPUは汎用計算装置なのでモデル推論には大きなボトルネックがあるが、チップに焼き込んだモデルは大きく更新できなくても性能面の利得が非常に大きい。
      最先端の半導体プロセスも不要なので、コストを大幅に下げられる
    • そうなればハイパースケーラーとOracleにとっては事実上の終わりなので、その日が楽しみだ
    • バブル前の価格基準では、128GB Strix Haloは1,400ドルで約200Wを消費し、4台束ねれば1兆パラメータ級の最前線モデルを実行できる: https://www.amd.com/en/developer/resources/technical-article...
      ノード当たりClaude Codeのサブスク料金7か月分で計算すると28か月で投資額を回収でき、5年償却ベースではクラスターをほぼ損益分岐の費用で2つ用意して同時リクエストの流れを2本処理できる。
      次世代ハードウェアはすでに発表済みで、ムーアの法則2サイクル後くらいに発売予定であり、落ち着いた価格は2024年価値ベースで1,400ドル未満、しかもより高速になる可能性が高い。
      金融バブルがはじけ、研究所のデータセンター向けハードウェア購入が止まれば、ローカル推論 はサブスクより安く、非常に実用的になるはずだ。そのときUNIX Surplusがドットコム崩壊後のように推論サーバーを投げ売りするのか、それとも電力要件が家庭用には特殊すぎるのかが気になる
    • コーディング以外の作業なら、量子化モデル を一晩回すだけで大半の要件を満たせる
    • 家のデスクトップでモデルを動かし、携帯電話アプリから使っているが、モデルと用途によって毎秒60〜140トークン出る。音声対話 を維持するにも十分速い
  • 政府が特定のAPI事業者に恒久的に従属するより、移植可能で相互運用可能なシステム を調達して需要を作ろうという案には価値がある。連邦政府だけでなく、California、Colorado、Illinois、New Yorkのような州政府でも実施できる

  • 公開ウェイトモデルで エージェント型コーディング をしている実際の構成が気になる。どんな実行ツールとモデルを使い、月額コストはいくらで、Claude CodeやProのような補助金型料金プランと比べてどうなのか知りたい。
    公開モデルが安くて効率的だという話が、実際にもその通りなのか確かめたい

    • 以前は専用の実行ツールを使っていたが、ツールが良くなって構成をかなり単純化した。基盤モデルもコードの難しい部分では失敗するので、機会が合うときだけ活用している。
      Zedでローカルモデルを3つ使っている: RTX 3090を1枚使った llama.cpp で128Kコンテキストの Qwen 3.6 27B が毎秒約50トークン、Titan V 1枚と GTX 1080 Ti 2枚の llama.cpp でフルコンテキストの Qwen 3.6 35B-A3B が約30トークン、GPT-OSS 120B はCPUで低速実行している。
      Zedの並列エージェントを使って作業を切り替え、モデルが詰まったら止めてコードを修正する。このやり方で集中を保ち、保守しやすいコードを作りつつ、目標の約 80% まで到達している。
      30年の経験があり、コードの動作原理を必ず理解したいので、第三者にコード進行を依存せずに短期的な利点の大半を得ている。GTX 5060 Ti 16GBを2枚なら、広く入手できるカードで Qwen 3.6 35B-A3B で毎秒約100トークンが可能なはずだ。
      最新のクラウドモデルはドラフトトークンなどを使って一般的なコーディングには優れるが、ドメイン特化作業では性能が落ちる。ドラフトモデルのサイズは基盤モデルの10〜20%にすぎず、最上位のBlackwell GPUでも毎秒約250トークンに制限されるため、基盤レベルの性能拡張にはMoEやドラフトモデルが必要だ。
      ただし自分の用途は分布外(OOD)の問題や学習コーパスに例が少ない問題なので、こうした最適化は不利になる。Lamborghiniより ミニバンが必要な状況 に近い
    • Ryzen 5950X、メモリ128GB、RTX 3060 12GBで自前の実行ツールと qwen 3.6 35B unsloth 4 bit を使っている。
      10Kコンテキストでは生成が毎秒約40トークン・プリフィル約500トークン、100Kコンテキストでは生成約25トークン・プリフィル約400トークン出る。
      まずGPTやClaudeで詳しいステップ別計画を作り、それにQwenを従わせることが多い。経済的かどうかは確信がないが、ハードウェアはすでにあり、屋根の太陽光のおかげで電力は大きな問題ではない。
      最大の利点は、すべての処理が 完全にローカル で行われ、実行ツールがアップロードやテレメトリをしないと確信できることだ
    • Kimi K3 と OpenCode を使っており、API従量課金では連続使用時にセッション1〜2個で1時間あたり約1,000万トークンと 約5ドル を消費する。
      料金プランの制限と運用方法が嫌いなので、サブスク型とは比較していない。Fable、Opus、Geminiより目に見えて遅いが、これらのAPI料金よりははるかに安い
    • 月20ドルの Ollama Cloud プランで GLM-5.2 を使っている。同じプランで複数のAPIキーを受け取り、OpenWebUIサーバーと OpenCode、Pi 開発セッションに使っており、通常は2〜4セッションを同時に回しても上限に引っかからない。
      職場ではClaudeが提供されているが、Opusの利用料が 勤務1時間あたり75ドル だという報告を受けた
    • OpenCode で GLM 5.2 awq4 を使ったが、会社が好む Sonnet 4.8 より良く、Opus 4.8 よりはやや劣るものの、開発チームが必要とする作業の大半には十分だった。Sonnet 5 には及ばないが、トークン切れにはならない。
      一方で実行には H200を4枚 必要で、この構成でコンテキストをキャッシュできるユーザーは約3人しかいない。
      Blackwell機材が届き、Kimi 3 のウェイトが本当に公開されることを期待している。開発者が給与のかなりの部分をトークンに使う段階では、法外に高いDGXサーバーを自前で買ってラックに設置し運用するほうが、むしろ安くなる
  • 中国政府が最上位モデルの学習と公開を支援し、OpenAIやAnthropicに公開競争の圧力をかけているという解釈は信じがたい。むしろ、中国政府が承認した情報配信の方式に合うように最先端モデルを強化学習させるための手段に見える
    質問に答える不透明なシステムを信頼しなければならないのなら、中国政府が承認し大規模な補助金を出したモデルより、市場圧力を受ける米国の営利上場企業のモデルを選ぶだろう

    • 中国が他の市場で行ってきたように、製品をダンピングして競合を駆逐する戦略と一致している。トークンごとに大きな損失を出しているなら、敵対者が消費量を悪意を持って増やし、コストを膨らませることもできる
      現物のダンピングは需要が有限で環境コストも大きいが、ソフトウェア需要は事実上無限で、生産コストに比べた環境コストも低いため、AIダンピングの逆利用が可能かもしれない
    • 中国モデルの国家支援バイアスに対処するためのツールが何なのか気になる。個人がバイアスを簡単に補正できるなら、賢い戦略には見えない
  • 中国が今後も最前線モデルの重みを引き続きHugging Faceに上げるという前提が、自然法則のように受け入れられている。しかし、中国のMythosの時点は数か月先に迫っており、いくつもの報道を見ると、中国も同様に対応する可能性が高い
    中国がMythosの後継作をHugging Faceに上げ、誰もが安全装置を外せるようにすると信じるのは難しい。状況はOpenAIやAnthropicの予想どおりにも、中国の予想どおりにも進まなかった