Weave Router - プロンプトごとに最適なモデルへルーティングするエージェント向けモデルルーター

 (github.com/workweave)
5 ポイント 投稿者 xguru 4 시간 전 | 2件のコメント | WhatsAppで共有
  • Anthropic、OpenAI、Geminiを単一エンドポイントに束ねるドロップインプロキシ。リクエストごとに最適なモデルを自動選択
  • すべてのプロンプトを50ms以内に適切なモデルへルーティングし、エンドポイントを切り替えるだけでコストを40〜70%削減可能
  • プロンプトを勘や雰囲気ではなく、on-box embedderベースのクラスタースコアラーで判定し、Avengers-Proから派生した方式でターンごとにルーティングを決定
  • Anthropic Messages、OpenAI Chat Completions、Gemini native APIをすべてサポートし、ストリーミング/ツール/ビジョンに対応
  • DeepSeek、Kimi、GLM、Qwen、Llama、Mistral などのOSSモデルは、OpenRouter（またはOpenAI互換エンドポイント）経由で利用可能
  • BYOKが基本で、プロバイダーキーはローカルに暗号化して保存
  • OTLPトレースを標準提供し、Weaveダッシュボード/Honeycomb/Datadog/Grafana などでObservabilityを確保
  • インストール不要で npx @workweave/router を実行後、Claude Code、Codex、opencode、Cursor にそのまま接続可能で、on/off/status 切り替えをサポート
    • Claude Code は make install-cc で接続。/router-off、/router-on、/router-status のスラッシュコマンドを提供
    • Codex: npx @workweave/router --codex を実行すると ~/.codex/config.toml をパッチする
    • opencode: npx @workweave/router --opencode を実行すると、バンドル済みの @ai-sdk/anthropic プロバイダーをルーターの /v1 エンドポイントに指定し、Anthropic Messages API のネイティブ対応により修正なしで動作
    • Cursor: まだ初期ベータで性能は不安定。Settings → Models → Override OpenAI Base URL に http://localhost:8080/v1 を入力
  • Elastic License 2.0

関連記事

2件のコメント

 
wizmasia 3 시간 전

「wldnjs」という部分が面白いですね。
 
xguru 3 시간 전

修正しておきました