- 128KコンテキストウィンドウをサポートするGPT-4 Turboモデル、Visionを含むGPT-4 API、Assistants API、DALL-E 3 API、新しいGPT-3.5 Turboなどを公開。
- GPT-4 Turbo
- 128Kコンテキストウィンドウ（Context Window）をサポートし、2023年4月時点のデータで学習済み。
- GPT-4と比べて、入力トークンは3分の1、出力トークンは2分の1の価格。
- 特定の形式で応答する指示によりよく従い、JSON応答が保証されるJSONモードもある。
- seedベースで再現可能な出力をサポートし、出力に対する対数確率を返す機能も追加予定。
- GPT-3.5 Turboもあわせて更新。
- Assistants API
- コードインタープリタ、検索、関数呼び出し機能を持つ特定用途向けAI。
- スレッドベースで状態を管理し、無限に長い内容も処理可能。
- コードインタープリタ - サンドボックス環境でPythonコードを記述・実行可能。
- 検索 - ユーザーが提供した文書など、モデル外部の知識を検索して応答。
- 関数呼び出し - ユーザー定義の関数を適切に呼び出し、応答に結果を含められる。
- そのほかの新API
- GPT-4 Turboに画像認識機能が追加。
- DALL-E 3がAPIとして提供開始、画像生成1回あたり0.04ドル。
- TTS APIを追加。
- モデルのカスタマイズ
- GPT-4ファインチューニングモデルが実験的アクセスとして提供予定。
- 大規模組織向けに、カスタムモデルを制作するための専用モデルサービスを提供。
- 数十億トークン以上の独自データセットによる学習など。
- 価格引き下げ
- GPT-4 Turbo 128Kは入力トークンあたり0.01ドル、出力トークンあたり0.03ドル。
- 従来と比べて入力トークンは3分の1、出力トークンは2分の1の価格に。
- GPT-3.5 Turbo 16Kは入力トークンあたり0.001ドル、出力トークンあたり0.002ドルで提供。
- 従来と比べて入力トークンは3分の1、出力トークンは2分の1の価格となり、4Kモデルと比べても入力トークンは33%安価。
- GPT-3.5 Turboのファインチューニングモデルは入力トークンあたり0.003ドル、出力トークンあたり0.006ドルで提供。
- 従来と比べて入力トークンは4分の1、出力トークンは約2.7分の1の価格に。
8件のコメント
昨日から GN⁺ にも GPT-4 Turbo を適用したのですが。
確かに回答が速くなり、指示もよりよく理解してくれます。
指示したとおりにうまく要約して、成果物もきれいに出してくれますね。
もともとは英語のプロンプトを混ぜて使っていましたが、今では韓国語のプロンプトだけでも見事にしっかりした回答が得られます。
AIにはあまり詳しくありませんが、価格低下のスピードはますます速くなっていくのでしょうね。本当に1、2年後の世界は予想がつきません。
上記のトークンあたりの価格は、1000トークンあたりの価格です。ご参考までに。
そして128Kトークン……。これで今私が使っている用途では、たいていコンテキストの問題はなくなりそうですね。
あ、この内容を投稿しようと整理していたんですが、遅くなってしまいました 泣
Anthropicが100Kモデルを公開したときもすごいと思いましたが、再びGPT-4が128Kトークンを公開して、先を行っている感じですね。
価格も全体的に何倍も下げましたし、OpenAIの技術力はいったいどこまで行くのか……。
とにかく大歓迎です。
GPT-4は何気に高かったのですが（特に16Kを使うと）、トークンサイズも大幅に増えたのに本当にかなり安くなりましたね。 +_+
それとAssistants APIも気にはなるので、一度使ってみようと思います。
検索に埋め込みを使わなくてもよいとのことなので、さらにメリットがありそうでもあります……？
HNスレッドのAI要約。
ハルシネーションがありますね。
価格はすべて書かれています。