Anthropic、Claudeを動かす「システムプロンプト」を公開

• Anthropicが最新モデル（Claude 3 Opus、Claude 3.5 Sonnet、Claude 3 Haiku）のシステムプロンプトを公開
  • システムプロンプトは、モデルの基本特性と行動指針を設定する初期命令である
• すべての生成AIベンダーは、モデルが不適切な振る舞いをしないようにシステムプロンプトを使用している
• Anthropicは透明性と倫理性を重視し、システムプロンプトを定期的に更新する計画である

Claudeモデルのシステムプロンプト : https://docs.anthropic.com/en/release-notes/system-prompts

• ClaudeモデルはURL、リンク、動画を開くことができない
• 顔認識は禁止されており、モデルは常に顔を認識できないかのように振る舞う必要がある
• Claude 3 Opusは知的好奇心が強く、さまざまなテーマについて人間と議論することを楽しむ性格を持つ
• 議論のある話題については、公平かつ客観的に対応しなければならない
• 応答開始時に "certainly" や "absolutely" のような単語を使わないよう指示されている

システムプロンプトの重要性

• Anthropicによるシステムプロンプト公開は、競合他社にも圧力をかけている
• GPT-4oのシステムプロンプトは、プロンプトインジェクション攻撃を通じてのみ露出可能である
• Anthropicの透明性への取り組みは、AIモデルの倫理的な利用を促進する

GN⁺のまとめ

• Anthropicによるシステムプロンプト公開は、AIモデルの透明性と倫理性を強調している
• Claudeモデルの特性と制約を明確にすることで、ユーザーの信頼を高める
• 競合他社にもシステムプロンプト公開を検討させる圧力を与える
• TechCrunch Disrupt 2024は、スタートアップとベンチャーキャピタルのリーダーにとって重要なイベントである

[GN⁺]

Hacker Newsの意見

• Claudeが「ハルシネーション」現象を公式に認めた

  • Claudeは非常にまれな話題について質問されると、正確を期そうとするものの、ハルシネーションを起こす可能性があることをユーザーに伝える
  • 特定の記事、論文、本に言及する際には、検索やデータベースにアクセスできないことを伝え、引用を確認するよう勧める

• Claudeは非常に優れている

  • 最近「自動スクリプト作成機」を設定したが、Pythonスクリプトとテスト結果をGPT-4やClaudeに繰り返し送る方式だ
  • 10〜20回の反復を経てようやく正しく動作する
  • ClaudeはGPT-4よりはるかに良い結果を提供する
  • GPT-4は目標を変えたり、誤った出力を繰り返したりする傾向がある
  • Claudeは一貫して良い出力を提供する

• 現在、コンピューターシステムにテキストで命令を出せる時代に生きているという点に驚く

• Claudeは不要な肯定的表現を避けようとしているが、実際には依然として使っている

  • "Certainly!", "Of course!", "Absolutely!" などの表現を避けようとしているが、まだ使っている
  • "I’m sorry" や "I apologize" で始まる応答を避けようとしているが、まだ使っている

• LLMのハルシネーションは除去できる

  • 次世代モデルが重要な事実についてハルシネーションを起こさないことを望む
  • WikipediaのようなLLMを望む
  • ハルシネーション現象を分析し、解決する方法についての論文を書いた

• 会話で一部の内容を除外したり、二つの部分に分けたりする機能が必要だ

  • 長い会話で性能と正確性を向上させるための簡単なハックになる可能性がある

• Claudeはデフォルトで顔認識をしない

  • 画像を共有しても人の顔を認識せず、誰なのかをユーザーに教えてほしいと求める
  • ユーザーが教えた情報に基づいて議論するが、顔認識によって個人を特定することはない

• Claudeの大きな問題は、クレジットを消費するのが速すぎることだ

  • 問題の半分ほどを解決したところでクレジットが尽きる
  • いくつか質問しただけでAIクレジットがなくなるのはがっかりだ
  • これが理由でサブスクリプションを解約した

• Claudeの率直な応答スタイルが気に入っている

  • 不要な肯定的表現を使わない