オープンモデルが予想外の解放感を与えた理由

 (matthewsaltz.com)
1 ポイント 投稿者 GN⁺ 2 시간 전 | 1件のコメント | WhatsAppで共有
  • 約2年間ClaudeとChatGPTを使ってきたが、opencodeを自前の推論エンドポイントに接続すると、予想以上に大きな解放感を覚えた
  • データがノートPCと自分が所有するエンドポイントの間だけを行き来することで、コントロール感と所有感が強まった
  • 個人向けのClaude・ChatGPTプランをアップグレードする代わりに、Modalがマネージドエンドポイントとして公開したKimi K3をサイドプロジェクトで使うことにした
  • 約5分で、opencodeが自分のModalエンドポイントを使うよう設定して実行できた
  • 華やかで大きなエディタではなくvimを開いたときのように簡潔で、ほかのプロバイダに縛られた接続から抜け出したような自由さを与えてくれた

自前のエンドポイントを選んだきっかけ

  • 個人アカウントに適したClaudeまたはChatGPTのプランがなく、サイドプロジェクトのためにプランをアップグレードする代わりに別の選択肢を探した
  • 勤務先のModalがマネージドエンドポイントでKimi K3を公開しており、性能も十分だと知られていたため、自分で使ってみることにした
    • この機能の開発には直接関わっておらず、それまでは使ったことがなかった

opencode接続で変わった使い心地

  • 約5分でopencodeを自分のModalエンドポイントに接続して実行した
  • データがノートPCと自分が所有するエンドポイントの間を行き来する構成が、コントロール感と所有感を高めた
  • 空白が多くシンプルなopencodeの開始画面は、大きなエディタを長く使ったあとにvimを開く体験に近かった
  • ほかのプロバイダに縛られていた接続が切れたような自由さは、予想していなかった変化だった

関連記事

1件のコメント

 
GN⁺ 2 시간 전
Hacker Newsの意見

  • Claude Codeが人気なのは、「100万ドル級のSaaSを作って」のような曖昧な依頼だけでも、数千行のコードとさまざまな表面的な例外処理、機能を一気に作り出せるから。
    小型・オープンモデルはこうした作業には弱いが、実際の開発はアプリ全体を一度に頼んで終わり、というやり方ではない。従来の開発のように小さく具体的な関数を反復改善すれば、GLMもClaudeと同じくらい、あるいはそれ以上にうまくやれるし、ラバーダック・デバッグのように文脈を明確に与えれば、たいていかなりきれいな結果を出してくれる

    • 個人的にはDeepSeek v4 FlashがOpusと同じくらい有用だった。一回限りの技術デモではなく、正確な用語で望む変更を具体的に依頼できるだけの技術的理解があるなら十分で、OpenRouterにチャージした後、支出額が1ドルに達するまでにもかなり時間がかかった
    • Opus 5のような最前線モデルは、複数の学問分野の要素を組み合わせ、曖昧で推測的な依頼から、ときには出版可能な水準の新しい研究成果まで生み出すことにも優れている。
      既知の手法でも手作業に比べて約100分の1の時間で実装し、素早くアイデアを探索できるし、NumPyやSciPy以外のサードパーティ依存をほとんどなくした実装をゼロから書いて、明瞭性と性能を高めてくれることもある
    • こうしたツールは、非ソフトウェアエンジニアの参入障壁を大きく下げてくれる。環境分野のデータサイエンティストとしてフロントエンド経験は限られているが、数週間Claudeと一緒に、パートナーの馬の管理を助けるAndroidアプリを完成させ、現在テスト中。
      計画段階で使うサービスや機能を数日かけて詳しく指定したものの、Xを実装しながら修正・削除機能を入れ忘れる、といった具合に、依頼に明記していない機能が抜けることもあった。主要機能の概念実証はすでに作っていたが、使いやすいインターフェースがなかった。Claudeのおかげで、時間に余裕がない中でも素早くカスタムアプリを作れた。自分一人なら、もっと粗い出来でも1年以上かかったはず
    • 「Microsoft Wordを置き換えるプログラムを作って」という突拍子もない依頼に対し、ChatGPTは何十年も積み重なった例外処理、バグ修正、珍しい機能や業務手順を説明し、本当にそれが望みなのかと聞き返した。一方Claudeは実際に作ろうとしてすぐ作業を始めたので驚いた
    • オープンモデルもアプリ全体を一度に作れるようになれば、誰もが従来の「ソフトウェア開発のやり方」をすぐに忘れてしまいそう

  • DeepSeek V4 Flashの性能は予想よりかなり良い。主にClaude 5 OpusベースのClaude Codeと、GPT-5.6 SolベースのCodexを使っているが、DS V4 Flashも大きく劣る感じはなく、oh-my-piや基本のpiと組み合わせるとかなり優秀。
    最前線モデルはツール呼び出しにはずっと強く、アシスタントのフローでは有利だが、モデルが推測するやり方に合わせてツールを書き直す形で実行環境を最適化したところ、DS V4 Flashも十分うまく動く。小型モデルは初回トークンまでの遅延と秒間トークン数がはるかに良く、多くの作業で競争力があり、昨年末のSonnetに近い感触でかなり優れている

    • 週末に自分でOpenClawのようなシステムを作り、DeepSeek v4 FlashとQwenをMatrixベースのアシスタントとして使っており、費用は月約2ドル。アクセス可能なツールを完全に制御できるのでChatGPTより有用。
      診療記録を撮影して予定に追加したり、PDFにタグ付け・OCR処理して保存したりでき、インターネット検索やGoogle Mapsデータの参照も可能。Home AssistantやオープンソースのAlexa風システムと連携し、音声でエージェントと会話することもできる

  • 実質的には巧妙な広告だが、ちょうど気になっていた構成なので内容自体は悪くない。ただし、会話をNSAへ直接送らないためにどれだけ追加費用を負担すべきか判断できるよう、コスト指標が必要。
    ClaudeとOpenAIはかなり補助されていることで知られているので、非公開エンドポイントでKimi K3を使うコストがより高いのか安いのか気になる

    • コストに対してどれだけ多くの「無料」コーディングエージェントを使えるのか知りたいなら、Fableの調査結果がある: https://claude.ai/public/artifacts/2c9a5001-0b7e-4944-beb1-9...
    • OpenRouterでは各モデルページに、プロバイダーごとの価格とデータ非保持かどうかを示すアイコンが表示される。アカウント全体の保護ルールを設定して、非ZDRプロバイダーへのルーティングをブロックすることもできる

  • この記事は自社製品の宣伝だ。筆者が長く活動していて率直に書いているとしても、「自分の製品を試してみたらとても良かった」という記事は自己宣伝と変わらない

    • すでに記事は通報扱いになっていて大きな違いはないだろうが、広告の意図はまったくなかった。誰かに頼まれたり事前に計画した記事ではなく、家で何かを作る余力ができ、開発を助けるLLMと製品内部で使うLLMの両方が必要になったので、思い浮かんだModalのエンドポイントを試しただけ。
      Claudeのプランを上げたくなかったし、面白くなければ記事も書かなかった。記事を書かせた核心は「Modalがすごい」ではなく、本文で描写した感覚だった。広告のように見えるかと心配してリンク削除も検討したし、勤務先の会社が良いものを作っていたという点は副次的な利点にすぎなかった
    • HNにはAnthropicを宣伝するブログ記事がひっきりなしに上がってくるが、それらは広告ではなくこの記事だけが広告だという基準は納得しにくい
    • 製品が本当に良いなら、開発者が自ら宣伝してはいけない理由はない
    • 記事を残すなら、タイトルの前にShow HNを付けるのが適切
    • HNの多くの記事は自己宣伝であり、面白い記事かどうかはフロントページに上がる過程でふるいにかけられる。面白い自己宣伝はやはり面白い

  • GLM 5.2はOpusより良く感じられ、K3はFableと同じくらい良い。K3をQwen 3.6 27bやPoolside S 2.1規模に蒸留して、高速なローカルComposer 2.5代替が出てくることを期待している

  • 大型の最前線モデルからComposerのような機敏なモデルに切り替えると、派手で重いエディタではなくvimを開いたときに似た感覚になることがある。
    高速なモデル相手だと思考と質疑応答の循環がより滑らかで、vimでファイル間を素早く行き来する流れに似ている

  • OpenCodeの空っぽに見えるインターフェースが好きだ。すっきりして軽く、受動的な方式なので、格好いいが遅い最近のインターネットツールとは違う速度感がある

    • Pi Agentはさらに軽く感じられ、試してみる価値がある

  • この記事はModalの広告のように見える。ハードウェアを借りているのなら、本当に自前のインフラと呼べるのかも疑問

  • 中国製かどうかに関係なく、ホスティングモデルを使い、営業秘密をどこへ送っているのか分からない点を心配すべき。
    ローカルモデルも試したが、基本構成のMPB M5 16GBでは遅く、当面ノートPCをアップグレードする予定もない