- Elon Musk氏は、Sam Altman氏、Greg Brockman氏、OpenAI関連法人を相手取り、契約違反など5つの請求を行い、陪審裁判を求めている
- 訴訟の核心は、OpenAIが2015年に非営利AGI研究所として出発し、「人類の利益」のために技術を公開するという Founding Agreement を結んだという主張にある
- Musk氏側は、GPT-4が内部設計や学習情報が公開されていないクローズド技術となり、事実上Microsoftに帰属しており、OpenAIの当初の使命から逸脱したとみている
- GPT-4が初期AGIである可能性があるというMicrosoft研究者の公開発言を根拠に、2020年のMicrosoft独占ライセンスは pre-AGI 技術にのみ適用されると主張している
- 2023年11月の取締役会騒動後、新たな取締役会がAltman氏とMicrosoft寄りになり、AGI判断を独立して行うのが難しいとして、OpenAIに Founding Agreement の遵守を強制しようとする訴訟である
訴訟当事者と請求範囲
- Elon Musk氏は、San Francisco County の California Superior Court に、Sam Altman氏、Greg Brockman氏、OpenAI, Inc. および複数のOpenAI関連法人を相手取って訴訟を提起した
- 請求原因は次の5つである
-
契約違反
- 禁反言
- 受託者義務違反
- Cal. Bus. & Prof. Code §§ 17200 以下に基づく不正競争
- 会計処理
- 被告には OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC および Does 1 through 100 が含まれる
- 訴状上では、OpenAI, Inc. は非営利法人または非営利部門を指し、「OpenAI」は関連するOpenAI法人全体を指す表現として区別されている
AGIリスク認識とOpenAI設立の背景
- AGIは、人間のように多様な作業で知能を発揮する汎用人工知能システムとして扱われている
- Musk氏は、AGIが人類に重大な実存的脅威となり得ると以前から認識しており、Stephen Hawking氏やBill Joy氏の懸念と同じ文脈にあったと主張している
- 2014年にGoogleがDeepMindを買収したことでAGI競争の先頭に立ち、Musk氏はクローズドな営利企業であるGoogleがAGIを支配する状況を特に危険視していた、という論理である
- Google/DeepMindの発表も引用されている
- AlphaZeroは強化学習により、チェス、将棋、囲碁で24時間以内に超人的水準へ到達した
- 各分野の世界チャンピオン級プログラムに勝利したと紹介されている
Founding Agreement と初期OpenAI
- Altman氏が2015年、Musk氏に対し、Googleとは反対の形の非営利AI研究所を一緒に作ろうと提案したというのがMusk氏側の主張である
- Musk氏、Altman氏、Brockman氏は、新しい研究所が次の条件を備えることで合意したという論理を展開している
- AGIを営利企業の株主利益ではなく、人類の利益のために開発する
- 安全上の反対理由を除き技術を公開し、独占的な商業上の理由でクローズド化・秘匿化しない
- OpenAI, Inc. の2015年12月8日付法人設立証明書には、成果技術が公共に利益をもたらし、適用可能な場合には公益のために技術をオープンソース化し、特定個人の私的利益のために組織されたものではないという文言があると示されている
- Musk氏は、Founding Agreement を信頼して初期数年間のOpenAI資金の過半を提供し、研究方向を助言し、Ilya Sutskever氏を含む科学者やエンジニアの採用で中核的役割を果たしたと主張している
- 初期のOpenAI研究は、設計、モデル、コードへの無償公開アクセスを提供する形で進められ、Transformerベースの自然言語モデル公開後には、オープンソースおよび商用コミュニティが拡大したと説明している
MicrosoftライセンスとGPT-4争点
- Altman氏は2019年に OpenAI, Inc. のCEOとなり、OpenAIは2020年9月22日にMicrosoftとGPT-3に関する独占ライセンス契約を締結した
- GPT-3については、内部構造や学習データを説明した詳細な論文が公開され、コミュニティが類似モデルを作成できたとMusk氏側は主張している
- 訴訟における核心的な解釈は、MicrosoftライセンスがOpenAIのpre-AGI技術にのみ適用され、MicrosoftはAGIに対する権利を取得していないという点である
- 2023年3月に公開されたGPT-4については、次の性能が示されている
- Uniform Bar Examで90パーセンタイル
- GRE Verbal Assessmentで99パーセンタイル
- Advanced Sommelier試験で77%
- Musk氏側は、GPT-4の内部設計がOpenAIおよび、情報と信念に基づけばMicrosoftを除いて完全な秘密に保たれていると主張している
- GPT-4設計を説明する科学論文はなく、性能を宣伝するプレスリリースしかないという指摘も含まれる
- GPT-4はOpenAIとMicrosoftの独占的な商業利益のためにクローズド化され、事実上Microsoftの proprietary アルゴリズムとなって Office ソフトウェア製品群に統合されたという主張である
2023年取締役会騒動と訴訟の目的
- Musk氏側は、GPT-4がAGIアルゴリズムであり、Microsoftの2020年独占ライセンスの範囲外にあると主張している
- Microsoft研究者らが、GPT-4の能力の範囲と深さを考慮すると「初期段階ではあるが、なお不完全なAGIシステム」と合理的にみなせると公に述べたことを引用している
- OpenAIが Q* または Q star として知られるモデルを開発中であり、このモデルはAGIだという主張をさらに強く裏づける内容も含まれている
- 2023年11月17日、OpenAI, Inc. の取締役会は、Altman氏が「取締役会に対して一貫して率直ではなかった」ことを理由に彼を解任した
- その後数日の間に、Altman氏とBrockman氏がMicrosoftとともに、MicrosoftのOpenAIに対する影響力を利用して取締役会の多数派に辞任を強要した、というのがMusk氏側の主張である
- Altman氏は2023年11月21日に OpenAI, Inc. のCEOへ復帰した
- 新しい取締役会メンバーはAltman氏が直接選び、Microsoftが承認したもので、AGI到達の有無を独立して判断するためのAI専門性に欠けると主張している
- Musk氏側は、OpenAI, Inc. がMicrosoftという世界最大級の技術企業のクローズドな事実上の子会社へと変質し、新たな取締役会の下でMicrosoftの利益を最大化するためにAGIを開発・改善しているとみている
- 訴訟の目的は、OpenAIに Founding Agreement を順守させ、個々の被告やMicrosoftの利益ではなく、人類の利益のためにAGIを開発する使命へ戻すことを強制する点にある
1件のコメント
Hacker News の意見
OpenAI が非営利へ移行した際に、定款へ「成果となる技術は公益に資するものであり、該当する場合は公益のためにオープンソース化を追求し、いかなる個人の私的利益のためにも組織されない」と書いていたのなら、現在やっていることが当初やると言っていたことと大きく異なると示すのは、それほど難しくなさそうに見える
オープンソース企業に投資したのに、その会社はソースを公開せず、誰もが利益を得られる技術の代わりにすべてを閉じたまま独占的アクセス権を売った。OpenAI がこうした行為を弁護するのは難しそうで、追いつくために投資家たちが使った資金について、多額の損害賠償請求が可能に見える
この文言だけを見ると、OpenAI がもともと言っていたこととまったく違うことをしていると見るのは非常に難しい。掲げられた目的は AI 技術の研究開発に資金を出すことであり、その技術が大衆に「属する」のではなく「公益に資する」とされており、公開も「該当する場合」と限定されている
非営利団体が営利子会社を持って収益を上げることも違法ではない。多くの非営利団体は年間収益のかなりの部分を営利活動から得ており、その営利子会社や活動は所得税の対象になる。その収益が非営利の親団体へ行き、非営利目的に使われればよく、今もそう見える。私的利益の問題は、理事や職員が市場水準を超える給与・福利厚生など過剰な利益を受け取る場合にこそ生じる
混同を避けるために言うと、第127項ではなく第126、132、135項のことを言っている。訴状には、被告の違反により原告は現時点では金額不明だが、裁判所の管轄最低額である35,000ドルを大きく上回る損害を被っており、必要なら裁判で立証すると書かれている
この訴訟が却下されないとしても、最終的な結果は OpenAI が原告らに原告の投資額相当を支払い、和解する程度かもしれない。この訴状によれば、私たち全員が創業時合意の第三者受益者だということだが、実際の和解で私たちが補償を受けると信じるのは難しい。原告らは明らかに金を取り戻したがっており、返金のために「大衆」を第三者受益者として持ち出すことにためらいがないように見える。現実には「大衆」への関心は疑わしい
Altman が投資家に対して行った虚偽表示についての SEC 調査結果があれば、この原告らの助けになる可能性もある
理由が何であれ、早すぎる段階で船を降りて機会を逃したことへの恨みであれ、人類を代表しようとしているのであれ、公に扱われるべき内容が含まれており、法廷はそれを扱うのに最適な場所のように見える
Microsoft は協業を、他社が知的財産にアクセスできないよう阻止する用途にだけ悪用している感じがする。すでに必要なものはすべて手に入れ、協業は必要ないとも言っていたのだから、協業を維持する理由もなさそうだ
Microsoft が協業をこのように悪用するなら、Mistral の新しい協業も良くは見えない。無制限のコンピューティング資源を得て、モデルをオープンソース化する自由が残っているとしてもだ
今では Mistral Large がオープンソースモデルではない点も苦々しく感じる。この訴訟が、彼が Windows 11 を調べた理由だったのかも気になる
AI に関する公の発言を見ると、かなり前から予告されていたことのように思える。OpenAI に投資した目的は AI 開発を間近で監視することであり、公の発言を信じるかどうかは別として、Elon の AI に関する発言にはある程度の真剣さがあると感じる
モデルを公開して API を売ることもできるが、Google/Microsoft/Amazon のようにクラウドのユニットエコノミクス、GPU 価格、カスタム推論チップで有利な企業ほど安くサービスするのは難しい
モデル自体を売るには、無料で出すことはできない。オープンソースコードと違い、今のところサポートのような追加販売市場はまだ形成されていないように見える
いずれにせよ、営利部門が金を刷る機械になるとは思っていなかったのだろう
訴状の要旨は、Musk が Altman、Brockman とともに OpenAI, Inc. を設立し資金提供したのは、AGI が営利企業ではなく人類の利益になるようにするという創業時合意に依拠したからだが、2023年になると彼の貢献は被告らと世界最大企業の利益になるよう歪められた、というものだ
比喩も強い。アマゾン熱帯雨林を保護するという非営利団体に寄付したところ、その非営利団体が寄付の成果として営利の伐採会社を作り、森を切り倒すようなものだという主張だ。また、OpenAI が公益のために安全なオープンソース AGI を作ることへ不可逆的に専念するという条件で、数千万ドルと時間、リソースを提供したのに、その後その「不可逆的な」非営利ミッションを捨て、公開情報の提供をやめたまま、AGI アルゴリズムを世界最大の営利企業に独占提供・ライセンスしたという主張だ
OpenAIの独特な企業ガバナンスと構造について調べていたところ、興味深い資料を見つけた
OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
AI is Testing the Limits of Corporate Governance 研究論文 - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...
OpenAIの核心的な論点は、構造的にデータ収集とモデル学習のコストが非常に大きく、前世代のソフトウェア＋物理事業モデルであるUberやAirbnbでさえ、比べると運営費が安く見えるという点だ。そのためOAIは、コンピューティングのためにクラウドプロバイダーへより依存するようになる
また、防御的な堀やネットワーク効果も、ユーザー生成コンテンツというより間接的な供給に依存している。上の記事の一部が主張するように、非営利の地位には、知的財産を学習に使ううえで利点があるのかもしれない
この訴訟は「創立時の合意」違反を主張しているが、実際のFounding Agreement文書はなく、その一部だと主張されているメールがあるだけだ
法律の専門家ではないが、定款がある以上、これらのメールが今どれほど大きな意味を持つのかは疑問だ。訴状には定款も出てくるが、メールで示唆される「創立時の合意」のほうがより多く言及されている
また、GPT-4がAGIだと言う部分はやや誇張に見える。Elonは寄付を募るメールで特定の目的を掲げておきながら、その後それが変わったという理由で寄付金の返還を受ける範囲では勝てそうに見える
しかし、この訴訟の狙いは明らかに「OpenAI」の「Open」を復活させ、GPT-4とその後のモデルに関する情報をより共有させ、Microsoftの独占ライセンスをなくすことだ。このような訴訟でそれが可能かどうかは、結局のところ定款の解釈にかかっているように思う
メールではある形で回答しておきながら反対の行動を取ったという理由で、法的文脈で責任が認められたケースも確かにあったはずだ
定款が中核的な法的文書になるだろうが、創立時の合意は当事者たちの本来の意図と動機を示すうえで重要だ。そうして初めて、Altmanが会社を別の方向へ向けさせた何かがあったという事件の土台が作られる
Altmanが会社を操ったと言うのが不当だとは思わない。Altmanの解任は反Microsoft寄りの取締役会メンバーをあぶり出すための戦略で、彼らが特定されると、Altman復帰後に簡単に排除されたように見える。Altmanが操っていなかったなら、解任後に再雇用される理由がない
[1] https://www.youtube.com/watch?v=0hWZJg_nda4
訴状には、GPT-4 は推論能力を備えているだけでなく、平均的な人間よりも推論が得意で、弁護士の Uniform Bar Exam で90パーセンタイル、GRE の Verbal セクションで99パーセンタイル、Advanced Sommelier 試験で77%を取ったと書かれている。
しかし、これらの試験に共通しているのは 記憶力をテストしている点だとも見られ、GPT-4 の平均以上の成績が必ずしも推論の証拠だとは限らない、と主張できる。つまり GPT-4 は「理解」ではなく、非常に速い読解速度と保持力、すなわち記憶力を持っているだけかもしれない。
上記の試験対策が暗記に大きく依存する一方で、ほかの試験は推論と理解をより重視することもある。GPT-4 が落ちる試験も間違いなくあるはずだが、GPT-4 の試験成績は良い結果だけが報告されている。
https://freeman.vc/notes/reasoning-vs-memorization-in-llms
数年前なら、機械がこうした試験で2桁の点数を取るだけでもばかげていると思われていただろう。機械がこれらの試験のどれか一つにでも合格できるという事実自体が驚きだ。
すでに一部の職業に入るための試験で合格点を取ることが大したことではない状況になっているなら、正直少し期待外れだ。GRE Verbal 99パーセンタイルは2010年の自然言語処理研究者には衝撃だったはずだが、今それを「推論ではない」と言うなら、推論の基準を動かし続けていることになる。
Advanced Sommelier 試験は、ほかの試験や課程を含むプロセスの一部であり、GRE の Verbal セクションは通常ほかの GRE セクションと合わせて受け、プログラム入学に使われ、その後さらに数年の学習が必要になることもある。UBE も通常、認可された課程で数年学んだ後に受ける。
原告らは GPT-4 が AGI だと主張しなければならない。OpenAI を作ったという問題の合意は、単なる巨大言語モデルの開発と改善ではなく、AGI を中心にしていたからだ。OpenAI がまだ AGI を達成していないなら、その合意は現在行っていることには適用されないと見ることもできる。
ただし自信だけは満々だ。
OpenAI が創業当初に意図していたものとは別の存在になったのは明らかだ。その変化は良い理由で起きたのかもしれないが、変化があったという事実自体は疑いにくい。
公平に言えば、そうした期待も、何らかの形の AGI を開発するという公開目標を達成する期待と結びついていたのだろう。
Google が社是から「Don’t be evil」を外したとして訴えるのと似て見える。
Musk が主張するよりも、もっと些細な理由で怒っているのだろうと今でも思っているが、それでもこの訴訟を起こしたことは本当に歓迎している。
OpenAI は地球上で最も危険で無責任な企業の一つに大きく売り渡されたのは明らかで、組織の規模を考えると、責任追及の可能性だけでも作るには、このくらい資金のある誰かが訴訟を起こす必要があった。
ただ、彼が些細な理由で飛び込んだ可能性が高いという評価には同意する。
有能な弁護士なら、Musk を証言台に立たせて、AI の危険性についての彼の見解を改めて述べさせるだろう。
技術が本当に危険なら、より閉じておくことが公益にかなうと主張できるし、OpenAI も以前にそうした理由を示してきた。
クローズドソースが公益だと同意するわけではないが、悪意ある行為者が追いつく速度を上げるのは望ましくない、という主張は十分に可能だ。
実際のリスクを知り、対応するための最善の情報を得るには、開かれていなければならない。そうでなければ、同じことを閉じた形で行う誰かが悪用するときに、より有利になる。
ただし、裁判所が公開と非公開のどちらがより安全かを判断する可能性は非常に低い。創業時の合意は、安全のために公開するという意図がかなり明確だ。裁判所は契約違反かどうかを判断するのであって、その違反が哲学的に良いことだったかどうかを判断するわけではない。
名前が示すように 公開という目標を追求するか、さもなくば最初の構造そのものが不適切だったかのどちらかだ。
New York Times の記事によると、Musk は OpenAI が営利企業になったと繰り返し批判してきたが、2017年に Altman と他の創業者たちから AI 研究所の支配権を奪い、Tesla など自身の他の会社と協力し、より強力になっていくスーパーコンピューターを活用する商業運営へ変える計画を立てていたという。
その支配権掌握の試みが失敗したため OpenAI の取締役会を去ったという説明で、この内容なら OpenAI の弁護士たちはこの訴訟を非常に長く引き延ばせそうに思える。
非営利がやるべきことをきちんとやっていたなら、彼が支配権を奪おうとする必要もなかったはずだ。
こういう訴訟では損害を立証しなければならないのではないか。OpenAI が実際に契約に違反したとして、Musk 個人が被った損害とは何なのか。
もちろん、これは契約に書かれた投資の詳細と関連法に左右されるし、そのどちらにも詳しいわけではない。
https://www.courthousenews.com/wp-content/uploads/2024/02/mu...