OpenAI、「Chain of Thought」を質問すると o1 のアクセス権取り消しを警告

 (twitter.com/SmokeAwayyy)
6 ポイント 投稿者 GN⁺ 2024-09-14 | 1件のコメント | WhatsAppで共有
  • ChatGPT o1 に「Chain of Thought」について何度か質問すると、OpenAI のサポートチームから、o1 へのアクセス権を取り消す可能性があるという内容のメールが送られてくる

「ユーザー体験、競争優位性、Chain of Thought の監視オプションなど、さまざまな要素を検討した結果、ユーザーに Raw Chain of Thought を表示しないことを決定しました。この決定に欠点があることは認めています。私たちは、回答の Chain of Thought に含まれる有用なアイデアをモデルが再現できるように学習させることで、これを部分的に補おうとしています。o1 モデルシリーズでは、モデルが生成した Chain of Thought の要約を表示します。

このような行為を中止し、利用規約および使用ポリシーに従って ChatGPT を利用していることをご確認ください。今後このポリシーにさらに違反した場合、OpenAI o1 へのアクセス権を失う可能性があります。」

関連記事

1件のコメント

 
GN⁺ 2024-09-14
Hacker Newsの意見

  • OpenAIが思考の流れを隠そうとする言い訳は疑わしい

    • 反競争的だという印象を与える
    • モデルの思考を公開したくない意図が強く感じられる
    • スーパーインテリジェンスへの懸念と関係している可能性がある

  • OpenAIの大きな発表は、いつも秘密主義に関する論争を伴う

    • GPT-2の重みを公開しなかった理由は「危険すぎる」というものだった
    • GPT-3の重みも公開していない
    • こうしたパターンは、意図的にメディアの関心を引くためのものかもしれない

  • CoTトークンについて質問することはできないのに、依然としてトークン単位で課金される

  • 「内部思考プロセス」という言葉が質問をフラグ対象にする

    • 数学の問題の横に「内部感情」についての説明を求めると、興味深いスニペットが返ってくる
    • 例: 「6x^2 + 5x + 1 の実根を対応付け、それを既約要素に因数分解する過程」

  • MLモデルをAPI経由で販売する企業の競争優位は、モデルの重みを見られないことにある

    • OpenAIはこれをさらに一歩進めて、モデルのメタレベルを隠そうとしている
    • これは、他の独占的なAPIがデバッグ出力を提供するようなものだ

  • 会社名の「OpenAI」は、ますます不適切に感じられる

    • 多くの怒りはここから来ている

  • 人間が関与するループを隠そうとする試みかもしれない

  • 元の出典を確認できなくなり、AIのハルシネーションが深刻化した可能性がある

  • 「OpenAI」という名前は、「オープンである」という意味と一致していない

    • 「ビジネスのために開かれている」という意味にしか当てはまらないのかもしれない

  • OpenAIは、隠されたトークンベースの金刷り機を作り、それを監査できないようにしようとしている