Tabby: セルフホスト型AIコーディングアシスタント
(github.com/TabbyML)-
Tabby の紹介
- Tabby は GitHub Copilot の代替となる、セルフホスト可能な AI コーディングアシスタント。
- DBMS やクラウドサービスを必要としないスタンドアロン構成を採用。
- OpenAPI インターフェースを通じて既存インフラに容易に統合可能。
- コンシューマー向け GPU をサポート。
-
新機能
- 2024年12月6日: Llamafile デプロイ統合と改善された Answer Engine のユーザー体験が Tabby v0.21.0 に追加予定。
- 2024年11月10日: Answer Engine で複数のバックエンドチャットモデルを切り替える機能が Tabby v0.20.0 でサポート。
- 2024年10月30日: Tabby v0.19.0 はメインページに共有された最近のスレッドを追加し、可視性を向上。
- 2024年7月9日: Codestral 統合を発表。
- 2024年7月5日: Tabby v0.13.0 は開発チームの内部データを統合し、信頼できる回答を提供する Answer Engine を導入。
- 2024年6月13日: VSCode 1.7 はコーディング体験全体にわたって多様なチャット体験を提供。
- 2024年6月10日: Tabby の強化されたコードコンテキスト理解に関するブログ記事を公開。
- 2024年6月6日: Tabby v0.12.0 は Gitlab SSO、セルフホスト版 GitHub/GitLab などとのシームレスな統合を提供。
- 2024年5月22日: Tabby VSCode 1.6 はインライン補完で複数候補を提示し、自動生成されたコミットメッセージをサポート。
- 2024年5月11日: v0.11.0 は GitHub および GitLab 統合、アクティビティページ、Ask Tabby 機能を含む主要なエンタープライズ向けアップグレードを提供。
- 2024年4月22日: v0.10.0 はチーム別分析を提供する最新のレポートタブを導入。
- 2024年4月19日: Tabby はコード補完のためにローカル関連スニペットを統合。
- 2024年4月17日: CodeGemma および CodeQwen モデルシリーズが公式レジストリに追加。
- 2024年3月20日: v0.9 はフル機能の管理者 UI を強調。
- 2023年12月23日: SkyPilot の SkyServe を通じて Tabby をクラウドにシームレスにデプロイ可能。
- 2023年12月15日: v0.7.0 はチーム管理とセキュアアクセスを提供。
- 2023年10月15日: RAG ベースのコード補完が v0.3.0 で有効化。
- 2023年11月27日: v0.6.0 をリリース。
- 2023年11月9日: v0.5.5 は UI の再設計と性能改善を含む。
- 2023年10月24日: VSCode/Vim/IntelliJ 向け Tabby IDE プラグインに大規模アップデート。
- 2023年10月4日: Tabby がサポートする最新モデルをモデルディレクトリで確認可能。
- 2023年9月18日: Apple の M1/M2 Metal 推論サポートが v0.1.1 に追加。
- 2023年8月31日: Tabby 初の安定版 v0.0.1 をリリース。
- 2023年8月28日: CodeLlama 7B の実験的サポート。
- 2023年8月24日: Tabby が JetBrains Marketplace に登録。
-
はじめに
- ドキュメントでインストール、IDE/エディタ拡張、設定方法を確認可能。
-
コミュニティ
- Twitter/X、LinkedIn、ニュースレターを通じて TabbyML とつながることが可能。
1件のコメント
Hacker Newsの意見
あるユーザーは、良い製品かもしれないが採用面接の過程がひどかったと述べている。複数回の面接を受けたものの、最後の面接の後は何の説明もなく連絡が途絶えたという。ブログ記事を書いた後も数か月間連絡がなく、継続的に問い合わせた後になってようやく返答があったという。すべての面接が課題形式で、合計10時間以上を費やしたとしている。
GitHub Copilotの代替をうたうものがVS2022で動作しないと述べている。自分はVS2022で使えるセルフホスト型AIアシスタントを求めているという。VS2022はプラグインをサポートしているのに、なぜ代替がないのかと疑問を呈している。
ホームページのfindMaxElement関数補完デモが、現在または将来の例だと述べている。提案された6行のPythonコードは
return max(arr)に置き換えられるという。提案されたコードは初級レベルだと評価している。自動補完機能を盲目的に使う人々が、技術レベルの面で停滞することを懸念している。ストーリーポイントは稼げるかもしれないが、実際にスキルが向上しているのかは疑問だとしている。TabbyプロジェクトがHNのトップページに載るとは想像もしていなかったと述べている。Tabbyはリリース以降かなり進化し、コード補完とコードベースチャットを特徴とする包括的なAI開発者プラットフォームになったという。Tabbyのユーザーは、セルフサービスのオンボーディング体験を提供する唯一のプラットフォームとしてTabbyを見つけたとしている。性能も市場の他の選択肢に匹敵するという。興味があれば試してみることを勧めている。
ローカルAIに慣れていないユーザーがTabbyを試してみたいと述べている。"run tabby in 1 minute" がChatGPTの無料4o-miniと比べてどうなのか気になっている。中程度のスペックのMacBook ProでDockerコマンドを実行して、高速で有能なAIを使えるのかと質問している。M1/M2の計算能力は限られており、個人利用にしか向かないだろうと述べている。チーム向けの共有インスタンスが必要なら、CUDAまたはROCmとともにDockerホスティングを検討することを勧めている。
Community EditionではIDE/Extensionsのテレメトリーを無効にできないと述べている。このテレメトリーデータに何が含まれているのか気にしている。
すべての例がライブラリで見つけられるコードだと述べている。一部のコードは品質に疑問があるという。LLMがコードベースにおけるスパムボットになり得るのではないかと懸念している。
大企業にデータを送らず、TOSを信頼できるというアイデアは良いと述べている。コーディングアシスタントの効果はコンテキスト長に比例し、コンピュータ上で実行できるオープンモデルは通常より小さいという。より複雑なコードベースでの有用性を定量化した資料を見てみたいとしている。
職場でセルフホスト型AIソリューションを調査中だと述べている。この会社がどのように収益化しているのか気になっている。無料/コミュニティ/オープンソースの選択肢があり、「最大5ユーザー」がどのように監視されるのかと質問している。5人を超えるユーザーがいる場合どうなるのかも気になっている。
Tabbyは単一GPUの使用しかサポートしていないと述べている。複数GPUを使うには、複数のTabbyインスタンスを起動し、CUDA_VISIBLE_DEVICESまたはHIP_VISIBLE_DEVICESを設定する必要があるという。NVLinkで接続された2つのGPUの利用はサポートされていないのか、それともNVLinkが2つのGPUを1つとして扱うため事情が異なるのかと質問している。