OpenAI退職者たち：元従業員が語れない理由
(vox.com)- ChatGPTは語れても、OpenAIの従業員はそうではない
- 批判禁止契約に署名しており、契約に違反すると持ち株を放棄しなければならない
OpenAIの新しいChatGPT 4oのリリース
- OpenAIが新しいChatGPT 4oをリリース
- 2013年にスパイク・ジョーンズが監督した映画『Her』で、スカーレット・ヨハンソンが声を演じたAIアシスタントに似た声を持つ
- OpenAIのCEOであるサム・アルトマンがその映画に言及するツイートを投稿
OpenAIの主要人物の辞任
- ChatGPT 4oリリースのニュースは、OpenAIの共同創業者でチーフサイエンティストのイリヤ・サツケバーと、スーパーアラインメントチームを率いていたヤン・ライケの辞任ニュースにかき消された
- 昨年Future Perfect 50リストに選ばれたヤン・ライケもあわせて辞任
- 辞任自体はそれほど驚くべきことではない
- サツケバーは昨年、CEOサム・アルトマンの一時的な解任を主導した取締役会の反乱に関与していた
- アルトマンがすぐにCEOに復帰した後、サツケバーは自らの行動を公に悔い、アルトマンの復帰を支持した
- しかしその後、OpenAIの政策・アラインメント・安全チームの他のメンバーが去るなかで、サツケバーは会社にほとんど姿を見せていなかった
元従業員の沈黙をめぐる憶測
- 元従業員たちの沈黙が憶測を呼んでいる
- サツケバーはありふれた辞任メッセージを残した
- 「OpenAIが安全で有益なAGIを作ると確信している。今後が楽しみだ」と述べた
- ライケは単に「辞任した」とだけ述べた
- 数日後、OpenAIが安全重視の文化から離れてしまったことへの懸念を理由に辞任したと説明した
- 元従業員が沈黙している理由についてはさまざまな憶測がある
- 強制的に追い出されたのか、昨年秋のアルトマン一時解任の余波なのか、それとも秘密主義で危険な新プロジェクトへの抗議として辞任したのか、など
元従業員が沈黙する理由
- 元従業員が沈黙する理由は明らかにある
- 極めて制限の厳しい退職契約には、元雇用主を生涯にわたって批判しないという条項が含まれている
- NDAの存在そのものを認めることさえ違反となる
- 退職した従業員が文書に署名しない、または違反した場合、在職中に得た持ち分をすべて失う可能性がある
- その価値は数百万ドルにのぼる可能性が高い
- ダニエル・ココタジロという元従業員は、NDAに署名せず、その結果として多額の持ち分を放棄して退職したことを公に認めている
- 彼は「AGI時代にOpenAIが責任ある行動を取るという確信を失ったからだ」と述べた
競争の激しいシリコンバレーにおけるNDA慣行
- 競争の激しいシリコンバレーで、NDA自体は珍しいものではない
- しかし、すでに得た持ち分を拒否や違反によって危険にさらすのは異例だ
- OpenAIのようなスタートアップの従業員にとって、持ち分は給与よりはるかに大きい重要な報酬である
- 人生を変えかねないこのお金を脅かすことは、元従業員を黙らせる非常に効果的な方法である
OpenAIの公開性と透明性をめぐる矛盾
- OpenAIは当初、強力なシステムを透明かつ責任ある形で構築することに尽力すると宣伝していた
- しかし今では、安全上の懸念を理由にモデルをオープンソースで提供するという考えを捨てている
- 安全チームの中でも最も経験豊富で尊敬されるメンバーたちを失っている
- これは、安全が本当にOpenAIが非公開化した理由なのかという疑念を呼び起こす
- OpenAIの広報担当者は「現職または元従業員の持ち分を取り消したことは一度もなく、退職時に署名しなくてもそうすることはない」と述べた
- これは、これまで理解されていた方針の変更を示しているという
技術界と政策界におけるOpenAIの特異な位置
- OpenAIは長らく、技術界と政策界の両方で特異な位置を占めてきた
- DALL-EからChatGPTまで、そのリリースは魅力的だが、それ自体で宗教的な熱狂を呼び起こすのは難しい
- OpenAIを特別なものにしているのは、人工汎用知能（AGI）を開発して人類に利益をもたらすという壮大な目標だ
- 従業員の多くは、10年程度（あるいはそれ以下）と数兆ドルがあればこの目標を達成できると信じている
- OpenAI自身が長らく語ってきたように、これは刺激的である一方で危険でもありうる
責任ある行為者としてのOpenAI
- OpenAIは歴史的に、商業的な誘因を超えて、皆の利益のためにAGIをもたらそうとする責任ある行為者として自らを位置づけてきた
- 開発速度を落としたり、収益機会を逃したり、外部監督を受け入れたりしなければならなくても、喜んでそうすると語ってきた
- OpenAIの独特な企業構造（非営利団体が最終的に支配する利益上限制企業）は、説明責任を高めるためのものだった
- サツケバーやライケのような人々が目立つ役割を担っていたこと以上に、OpenAIの使命へのコミットメントを強く示すものはなかった
- 彼らは安全への長年のコミットメントの歴史を持つ技術者であり、必要ならOpenAIに進路変更を求める意思があるように見えた
OpenAIの安全業務への関心の変化
- 彼らの離脱は、OpenAIが人工汎用知能を構築しようとする目標の変更を予告するものではない
- それは依然として目標のままだ
- しかしこれは、ほぼ確実にOpenAIの安全業務への関心の変化を予告している
- 同社はスーパーアラインメントチームを率いる人物を発表していない
- OpenAIの外部監督と透明性への関心は、それほど深いものではなかったことが明らかになりつつある
- 外部監督や世界が自分たちの仕事に関与することを本当に望むのであれば、元従業員に極めて制限の厳しいNDAへ署名させるのは、まさにそれに反する
OpenAIへの失望
- ここに、AIが人類にとって本当に良く有益なものになることを深く気にかける人々にとって、OpenAIが根本的に失望させる理由がある
- 会社の経営陣は世界を変えたい、その際に責任を負いたい、そしてそれを公正かつ賢明に行う方法について世界の意見を歓迎すると語っている
- しかし実際のお金がかかってくると（AI覇権競争には莫大なお金がかかっている）、彼らはおそらく、世界がそれほど多くの意見を述べることを意図していなかったことが明らかになる
- 彼らのプロセスは、元従業員、つまりOpenAI内部で何が起きているかを最もよく知る人々が世界に向けて語れないようにしている
- ウェブサイトには高尚な理想があるのかもしれないが、退職契約書には冷酷な法律用語が並んでいる
- 元従業員が「辞任した」と言うことしかできない会社に説明責任を求めるのは難しい
ChatGPTの新しいかわいらしい声は魅力的かもしれないが、私は特に恋に落ちてはいない。
1件のコメント
Hacker Newsの意見
Hacker Newsコメントまとめ要約
秘密保持契約を回避する方法
OpenAIの秘密保持契約
事態の深刻さ
法的助言の必要性
不合理な契約
AIの限界
スタートアップの株式報酬
Jan Leikeへの敬意
契約の有効性
契約の私的性質