- OpenAIの著作権訴訟で潜在的な証言・資料保有者とみられていた元研究員 Suchir Balaji が11月26日、サンフランシスコの自宅で死亡しているのが見つかり、当局は死因の態様を自殺と判断した
- Balajiは死去前、OpenAIがChatGPTの学習過程で 米国著作権法 に違反しており、学習データの利用はフェアユースに当たらないと公に批判していた
- New York Times側は11月18日の連邦裁判所提出書面で、Balajiを訴訟に役立つ「unique and relevant documents」の保有者として挙げた
- ChatGPT公開後、作家、プログラマー、報道機関は、OpenAIが著作権資料を違法に学習へ使用したとして訴訟を提起しており、Mercury Newsと7つの姉妹媒体、New York Timesも加わっている
- OpenAIは自社の取り組みが フェアユース に基づいて合法だと反論し、ChatGPTのようなAIツールが出版社と読者の関係やニュース体験を強化できるとみている
Suchir Balajiの死と当局の判断
- 元OpenAI研究員 Suchir Balaji は26歳で、11月26日にサンフランシスコのBuchanan Streetのアパートで死亡しているのが発見された
- 警察は当日午後1時ごろ、Lower Haightの住居に出動した
- サンフランシスコ警察と首席検視官事務所は今週、死亡の事実を確認した
- 検視官事務所は死の態様を 自殺 と判断した
- 警察は現在、犯罪の疑いを示す証拠はない と述べている
- Balajiの母親は息子の死を悼む中で、プライバシーの尊重を求めた
OpenAI著作権訴訟における位置づけ
- Balajiが持つ情報は、サンフランシスコに拠点を置くOpenAIに対する訴訟で重要な役割を果たすと期待されていた
- New York Times側の弁護士は11月18日の連邦裁判所提出書面で、BalajiをOpenAIに対する訴訟に役立つ「unique and relevant documents」の保有者として挙げた
- 彼は証言手続きを前に、この事件に有用な資料を持つ人物として裁判所文書に名前が載った少なくとも12人のうちの1人だった
- その多くはOpenAIの元社員または現職社員だった
ChatGPT学習データへの問題提起
- Balajiの死は、彼がOpenAIがChatGPT開発中に 米国著作権法 に違反したと公に批判してから3カ月後に起きた
- ChatGPTは世界中で数億人が利用する生成AIプログラムで、2022年末に公開された
- 彼は10月23日に公開されたNew York Timesのインタビューで、OpenAIがChatGPTの学習に使われたデータの元の権利者である企業や創業者に損害を与えていると主張した
- Balajiは「自分が信じることを信じるなら、会社を辞めるしかない」と述べ、「インターネット生態系全体にとって持続可能なモデルではない」と語った
- 10月末には個人サイトに分析文を掲載し、ChatGPTの学習データ利用は フェアユース に当たらないという論を展開した
- 彼は、ChatGPTの学習データ利用についてフェアユースに有利に働く要素を見つけるのは難しいと書いた
- ただし、この論拠はChatGPTだけに限られず、さまざまな分野の生成AI製品にも同様に適用されうると付け加えた
OpenAI在籍時と見方の変化
- BalajiはCupertinoで育ち、UC Berkeleyでコンピューターサイエンスを学んだ
- 当時の彼は、AIが社会にもたらしうる潜在的な利益を信じており、病気の治療や老化防止のような可能性にも期待していた
- 2020年にOpenAIへ研究員として加わった
- 2022年から彼の見方は否定的に変わり始めた
- 特にGPT-4プログラムのためにインターネットからデータを収集する業務に懸念を抱いた
- このプログラムは、AI学習のためにほぼインターネット全体のテキストを分析したと伝えられている
- Balajiは、この慣行が既存出版物の利用を規律する米国の フェアユース 法と衝突するとみていた
OpenAIと報道機関の訴訟
- ChatGPTが2022年末に公開されて以降、OpenAIに対する訴訟が相次いでいる
- 作家、コンピュータープログラマー、ジャーナリストは、OpenAIが著作権資料を違法に持ち出してプログラム学習に使用し、企業価値を1,500億ドル超へ押し上げたと主張している
- Mercury Newsと7つの姉妹ニュース媒体は、New York Timesを含む複数の新聞社とともにこの1年の間にOpenAIを提訴した
- 報道機関は、OpenAIとMicrosoftが記事を剽窃し盗用して ニュースのビジネスモデル を弱体化させたと主張している
- 訴訟文書には、MicrosoftとOpenAIが、地域社会が頼りにするニュースを生み出す記者、コラムニスト、編集者らの成果物を、法的権利を考慮せずに持ち去っているとの主張が含まれている
- MicrosoftはOpenAIと事業関係にあり、Mercury Newsの訴訟対象にも含まれている
OpenAIの反論と生成AIの拡大
- OpenAIは関連する主張を強く否定している
- 同社は、自社のすべての取り組みが フェアユース 法に基づき合法だと強調している
- OpenAIは訴訟提起時、ChatGPTのようなAIツールには出版社と読者の関係を深め、ニュース体験を向上させる大きな可能性があると述べた
- 生成AIプログラムは、インターネット上の膨大なデータを分析した後、ユーザーのプロンプトに応答したり、テキスト・画像・動画を生成したりする仕組みで動作する
- ChatGPTの公開は、エッセイ執筆、アート制作、コード生成に取り組む企業の業界を急速に拡大させた
- 世界で最も価値の高い企業の多くがAI分野で事業を行うか、そのプログラム実行に必要なコンピューターチップを製造している
- OpenAIの企業価値はこの1年でほぼ2倍に増加した
危機支援情報
- 抑うつ感や自殺衝動で苦しんでいる人は、988 Suicide & Crisis Lifeline で無料の24時間支援、情報、援助資源を受けられる
- 電話またはテキストメッセージで988に連絡でき、988lifeline.orgのWebサイトでチャットも可能
1件のコメント
Hacker News のコメント
Berkeley の CS の授業（オペレーティングシステム）で Suchir とプロジェクトのパートナーだったが、本当に賢く、謙虚で、いい人だった。
将来きっと大きなことを成し遂げる人に見えたのに、あまりにもひどい出来事だ。
このスレッドにはかなり冷淡なコメントが見える。
Suchir はまだ26歳で、Berkeley を卒業してから3年しか経っていなかった。個人サイトは https://suchir.net/。
卒業して数年しか経っていない人が、世界最大級の企業の一つが行っていると考えられる不正に立ち向かったのは、かなり勇気のあることだと思う。同じ立場でそうできる人がどれほどいるか分からない。
ご家族のことを思うと胸が痛む。間違いなく才能あるエンジニアで、LinkedIn に載っている競技プログラミングの受賞歴も印象的だ。HN のアカウントも持っていたのではないかと思う。
内部告発者の定義や暗殺説を書く前に、自分や友人が同じ立場だったら、そういう投稿が出てほしいかを少し考えてみてほしい。
静かに自ら命を絶ったのなら、静かに過ぎ去ってほしいと思うだろうが、記事を読む限り、この人が迫る訴訟でどれほど重要な存在だったのかは明確ではない。
「彼が持っていた情報は、サンフランシスコ拠点の会社に対する訴訟で重要な役割を果たすと見込まれていた」という文がある。
それが彼の公的な遺産になってしまったのは本当に残念だ。彼は間違いなく優れた人物で、あと数十年生きていれば、世界をより良い方向に変える大きな助けになっていただろう。
ただ、暗殺説は文字どおり仮説にすぎず、厳密な意味では「仮説」と呼ぶのも強すぎる表現だ。実質的には伝聞レベルで、手繰れる手がかりがないので、その方向は生産的ではなさそうだ。
どんなインターネットフォーラムにも野暮な言葉はいくつか必ずあるが、そうしたものはすでに下の方に沈んでいる。
ご冥福をお祈りします。
ここで「内部告発者」という表現は少し分かりにくい。実際に、公開されていなかった何かを公開したのだろうか。
彼は「フェアユース」かどうかに同意せず、会社の内部者だったため注目されたように見える。事実関係そのものはずっと知られていたし、OpenAI が公開された著作権付きテキストデータで学習したことも知られていた。反対者、あるいは内部の批判者くらいと呼べるのではないか。
自分の業務の合法性に関する社内コミュニケーションも持っていた可能性が高く、その問題を上司たちに公然と質問していた。
http://suchir.net/fair_use.html
Suchir Balaji の記事、生成AIはいつフェアユースに該当するのか
彼は NYT の記事でフェアユースと生成AIを扱い、多くの生成AI製品で「フェアユース」が説得力のある抗弁になりにくいと考える理由をブログ記事（https://suchir.net/fair_use.html）に詳しく書いたと説明している。
OpenAI に約4年在籍し、そのうち最後の1.5年は ChatGPT に関わっていた。最初は著作権やフェアユースをよく知らなかったが、生成AI企業に対する訴訟を見て関心を持つようになったという。さらに調べた後、学習データと競合する代替物を作れるという根本的な理由から、多くの生成AI製品ではフェアユースの抗弁はかなり難しいと結論づけたという。
法律家ではないが、法律家でない人も法律の条文と、その法律がなぜ存在するのかを理解することが重要だと考えており、この問題が ChatGPT や OpenAI だけへの批判として読まれることは望んでいないとも述べている。機械学習研究者は著作権をもっと学ぶべきで、Google Books のように頻繁に引用される判例も、見かけほど有利ではないかもしれないと強調している。
法律家でない人としては非常に洞察に富んでいるように見えた。ご冥福をお祈りします。
第一に、作家たちは実際には著作権料で収益を得られず、結局は広告収入に依存することになり、それはサービス低下につながる。アーティスト、コピーライター、ミュージシャンが著作権料だけで生きようとすれば飢え死にするだろう。
第二に、著作権はますます少数の企業の手に集中しており、実際の作者や読者に大きな利益をもたらしていない。
第三に、新しい創作物の競争相手は実のところ AI ではなく、過去25年間にウェブに蓄積された古い創作物たちだ。
必要なのは、より制限的な著作権ではないと思う。人々はすでに受動的な消費からインタラクションへ移行しており、テレビ・報道・ラジオよりもゲーム・ソーシャルネットワーク・検索エンジンを好む。インターネットが生み出した流れなので、元には戻せない。
今は Wikipedia、GitHub、Linux、オープンソース、パブリックドメイン、オープンな科学出版、共有とコメントのための制限の少ない環境がある。
著作権保護を極限まで押し進めれば、表現だけでなく抽象的なアイデアまで保護しなければならないという結論になる。生成AIは表現を容易に迂回できるからだ。しかし、抽象の再利用を阻めば創作にとっては災厄になる。著作権は今や事実上、死にゆく制度だと思う。
警察は現在、自殺と結論づけたと述べている
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchirは信念のある人物で、その立場のためにOpenAIのオプションを手放さざるを得なかった可能性が高い。OpenAIの退職契約は非常に制限的だったと報じられている [1]
「退職者が生涯にわたって元雇用主を批判できないようにする。NDAが存在するという事実を認めることさえ違反となる。
退職者が文書への署名を拒否したり違反したりすると、在職中に取得し、すでに権利確定している持分をすべて失う可能性があり、その価値は数百万ドルに上る可能性が高い」
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
内部告発者の死因まで公開されると伝染するとでも思っているのか、というほどだ。
OpenAIが批判をこれほど恐れているのは本当に滑稽だ。思い通りにならないと駄々をこねる子どものように振る舞っているが、年齢だけ見れば、とにかくこの仕事をしているのは大人たちなのだという点を常に思い出す必要がある
従業員が退職合意書や非中傷合意書に署名したかどうかに関係なく、すでに権利確定した持分は取り消さない。
元従業員は非中傷義務から解放された。
OpenAIは現・元従業員の双方に対し、「すでに権利確定したユニットを取り消したことはなく、今後も取り消さない」と通知した。
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
「笑える」と言ったのは、企業が小さな条項を押し通そうとして後で謝罪することはあるが、生涯縛られていると言うのはコメディの域だからだ
ご家族にお悔やみを申し上げる。彼はとても思慮深く、信念のある人物だったように思う
本当に悲しい。Suchirは私と同じ高校の出身で、私たちはどちらもBerkeleyに通っていた。彼は間違いなく非常に賢く、大きく成功するか、興味深いことを成し遂げるだろうといつも確信していた。
この記事を読んでつらい思いをしているなら、あなたは一人ではないと言いたい。今はそう感じられなくても、世界は心からあなたの幸せを願っている。
道は開かれている: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
彼の両親は自殺という結論を疑っており、2回目の独立した検視を依頼している: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
本当にあまりにも悲しく、Suchirの家族や友人のことを思うと胸が痛む
10年以上テック業界で働き、自殺念慮と闘ってきた立場として、ベイエリアのテック業界の狂った文化が一因だったのではないかと考えてしまう
極端なハッスルカルチャーだけでなく、人をおかしくさせかねない無邪気な技術楽観主義もある。法律を破っても構わないと考え、安価な技術サポートのために発展途上国の労働者を搾取しながら、それでもスマートキッチン機器を売って世界を変えていると信じる人たちに囲まれる。自分のコンドミニアムの外で薬物過剰摂取の被害者たちの横を通り過ぎながら、それでもそうなのだ
こうした考え方があまりにも広く浸透していて、共感や正義感を持つ自分のほうがおかしいのではないかと疑ってしまう
特に事情を知っているわけではないが、Berkeleyの明らかに優秀な学生からOpenAIのような苛烈なスタートアップへ移るのは衝撃的だったのではないかと思う。人生をかけて努力して達成した目標に到達したのに、自分のしていることが自分の道徳や価値観から完全に外れていると知るようなものだ
問題を起こした雇用主が積極的に報復しなくてもそうであり、同業界の人事部門同士がブラックリストを共有するような報復まであるなら、見通しはさらに暗い
あらゆるキャリア段階と能力レベルのエンジニアにインポスター症候群が強く見られる。エンジニアリング自体のプレッシャーもあり、そこに人々がストレスや重圧を感じるほかの理由、ベイエリア特有の増幅要因が加わる
どれほど多くの優秀で有能な人たちが崩れていったかを知れば驚くはずだ。もし一人だと感じている人がいるなら、そう思わないでほしい。周囲の人が皆幸せで自信に満ちているように見えても、思っているよりはるかに多くの人が苦しんでいると断言できる
そのうちの1社は現在、FTCから大規模な違反の疑いで訴追されている。従業員の快適さから顧客に対するあからさまな違法行為まで、あらゆるものを犠牲にして勝とうとする不道徳な考え方が本当に嫌だった