AIアプリケーションのための新しいLanguage Model Stack

 (sequoiacap.com)
13 ポイント 投稿者 xguru 2023-06-19 | 3件のコメント | WhatsAppで共有
  • Sequoiaが投資したほぼすべての企業が、製品にChatGPTのようなLLMを導入中
  • 自社ネットワーク内の企業を調査した内容をもとに、2つのAIスタックを整理

LLM API Stack

  • LLM APIs : OpenAI, Anthropic, Cohere
  • Vector DB: AWS, pgvector, Pinecone, Qdrant, Weaviate, Chroma
  • Frameworks: LangChain, LlamaIndex, Anarchy
  • Text-To-Speech: Resemble.AI, ElevenLabs, Wellsaid
  • Monitoring: DISTYL, Guardrails, Helicone, HoveHive, Autoblocks

Custom Model Training / Tuning Stack

  • Compute: AWS, Azure, Google Cloud, Foundary, Lamba, MosaicML, Modal, Fireworks.ai
  • Model Hub: Hugging Face, Replicate
  • Frameworks: PyTorch, TensorFlow
  • Experimentation: Weights & Biases
  • Monitoring/Observability: Robust Intelligence, Gantry, Arthur, arise, Whylabs
  • Hosting: Replicate, HuggingFace

キーポイント

  • ほとんどの企業がLLMを製品に組み込み中
  • 言語モデルAPI、検索、オーケストレーションに注力。オープンソースの利用が増加
  • 企業は言語モデルを自社のコンテキストに合わせてカスタマイズしたいと考えている
  • 現時点ではLLM APIスタックとモデル学習スタックは分離しているように見えるが、徐々に統合されていく見込み
  • スタックはますます開発者フレンドリーになっている
  • 言語モデルが完全に採用されるには、信頼性（品質、データプライバシー、セキュリティ）を高める必要がある
  • 言語モデルアプリケーションは今後ますますマルチモーダル化していく
  • まだごく初期段階

関連記事

3件のコメント

 
gcback 2023-06-19

現在の開発環境の状況がよく理解できますね。
ところで、韓国国内の場合はどの程度のレベルなのでしょうか？
 
bigbreadguy 2023-06-19

ベクターDB一覧の Seaviate は、Weaviate というベクターデータベースの誤記のようですね！
 
xguru 2023-06-19

急いで直しました（笑）