OpenAI、ByteDanceが独自AIモデルの訓練にGPTを使用したとしてアカウントを停止

• OpenAIがByteDanceのアカウントを停止
• ByteDanceはGPTを使って中国で独自の競合モデルを訓練していたとされる
• OpenAIの広報担当Niko Felixは、API顧客は技術を善良な目的で使用すべきだと述べ、ByteDanceのAPI利用は少量だったものの、調査のためにアカウントを停止したと発表
• ByteDanceはGPTの利用の大半をMicrosoftのAzureプラットフォーム経由で行っており、MicrosoftがOpenAIと同様にByteDanceのアクセスを停止するかどうかはまだ不明

GN⁺の見解

• この記事は、人工知能技術の利用に関する倫理的問題と知的財産権の重要性を強調している。
• ByteDanceの行為は、技術分野における競争とイノベーションが、ときに法的・道徳的な境界を試すことがあることを示している。
• この事件は他の企業にも警鐘を鳴らしており、AI技術を利用する際には明確な利用ポリシーとライセンス条件を順守すべきだという点を改めて示している。

[GN⁺]

Hacker Newsの意見

• 著作権侵害に対する二重基準

  あるユーザーは、OpenAIが他人の著作権のある成果物を使っておきながら、自分たちの成果物については同じ機会を否定するのは偽善的だと指摘した。法的知識がないことを前提に、道徳と法律の違いについて混乱していると述べている。

• 著作権の極端なバージョン

  OpenAIは世界中の画像やテキストを学習データとして使えるのに、そのシステムの内部では競合がそれを使えない点を指摘し、これは想像し得る限り最も壊れた著作権の形だと批判している。

• 独占禁止法上の問題提起

  著作権以外にも独占禁止法上の問題が提起されている。裁判所は一般にリバースエンジニアリング禁止条項を支持するが、インターフェースの複製は市場の代替品を促進するため、より歓迎される。OpenAIが顧客に明確に開かれているツールの出力利用を制限できるかどうかは新しい問題である。また、これはデータベースのライセンスが顧客による比較出版を妨げるのと似ており、反競争的である可能性がある。独占禁止政策は主に、あるプレイヤーが市場を支配する成熟市場で動機付けられる。しかし、成長市場でも同じ分析が当てはまるのか疑問がある。市場が急成長しているなら、支配力が不確実であるため懸念は和らぐかもしれない。一方で、市場が特に囲い込みに弱いなら、初期のリーダーにはより多くの注意が必要かもしれない。ただし、独占の一次的な効果としての競争減少への影響だけでなく、二次的な効果として競合への投資減少を招き、反競争的な結果をもたらす可能性もある。こうした懸念は市場の初期段階で最も高いかもしれない。関連する弁護士ブログがあるのか気になっている。

• 競合遮断とドイツ最悪の新聞との協力

  OpenAIが競合を遮断し、ドイツ最悪の新聞と協力し、さらにMSがOpenAIの取締役会に席を持っている点を指摘している。Altmanの復帰が本当にうまく進んでいることを示唆している。

• API利用ポリシーと「善良な」技術利用

  ByteDanceがOpenAIのAPIを最小限しか使っていなかったにもかかわらず、OpenAIが追加調査のために彼らのアカウントを停止したことに触れている。OpenAIは、すべてのAPI顧客が技術を「善良な」目的で使うよう利用ポリシーを順守しなければならないと強調している。「善良」という言葉は多くの人には良く聞こえるが、他の人には悪と見える灰色の領域が常に存在すると指摘している。

• 社内コミュニケーションプラットフォームでの不正利用の議論

  ByteDanceの従業員が、社内コミュニケーションプラットフォームであるLarkで「証拠を薄める方法」について議論しているのを見たという。Project Seedの従業員が定期的にAPIアクセス上限に達するほど、不正利用が蔓延しているとも述べている。他のモデルがGPT-3.5には急速に追いついているように見えてもGPT-4を超えられないことに疑問を抱くとき、彼らが単にGPT-3.5の出力を学習しているだけではないか、あるいは嘘をついているのではないかを思い出すべきだと助言している。

• 大手プレイヤーのモデルを利用したブートストラップ

  IBM Watsonが新しく注目されていた頃、大手プレイヤーのモデルを使って自分のモデルをブートストラップするのがどれほど簡単か気になっていたという。OpenAIが登場したことで、もはやその必要はなくなると思われたが、彼らがモデルを公開しない方針を決めたとき状況は変わった。しかし、Llamaや多くの他の存在がそのたいまつを引き継いでいる。モデルを改善する興味深い方法に見えるとしている。

• モデル抽出防止の不可能性

  ByteDanceであれ他の誰であれ、OpenAIのモデルを抽出しようとする十分な動機があれば、それを防ぐことはできないと指摘している。他人にデータ収集を委任することもできる。

• APIを通じたモデル学習と複製方法への質問

  あるユーザーは、APIアクセスしかできない既存モデルであるChatGPTを使って自分のモデルを学習し、どうやってその側面を複製できるのか説明してほしいと求めている。あらゆる知識を扱うプロンプト一覧をどう始めればよいのか、そして有用な出力と無意味なハルシネーションをどう見分けるのかについて、直感的な理解が欠けていると述べている。記事やリンクでは説明されていない重要な詳細を見落としている気がするとしている。

• OpenAIがByteDanceのアカウントを停止した理由への風刺

  OpenAIが、GPTを使って独自のAIモデルを学習させたByteDanceのアカウントを停止した件について、これは菓子店で飴を盗んだ子どもが、自分の弟や妹がその飴を盗むことに文句を言っているようなものだと風刺的に表現している。