"More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."
"The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."
1件のコメント
Hacker News の意見
追記：当たっていた
https://twitter.com/karaswisher/status/1725682088639119857
不誠実さとは無関係で、それは公式な理由にすぎない
この話をしている人はあまりいないが、ここで中心人物の2人を見ると、結局は Altman と Sutskever の衝突に行き着くように見える
Sutskever が1か月半前に投稿したツイートも興味深い
https://twitter.com/ilyasut/status/1707752576077176907
取締役会との率直な対話云々というプレスリリースは、根深い 哲学的な不一致を覆い隠すための包装である可能性が高い
解雇理由として使えそうな理由を見つけたが、その理由が実際の解雇理由を必ずしも反映しているとは限らない
Sam と Ilya はもはや同じ方向を見ておらず、gpt 4 turbo をきっかけに頂点に達したのだろう
結局、Sutskever が技術力ゆえにすべてのレバレッジを握っていた、と推測できる
Sam は典型的なビジネスパーソンなので、2人が最後に大きく衝突し、Sutskever が限界点に達してそのレバレッジを使ったように見える
テック業界に長くいると、こういう展開を何度も見てきた
代替不可能なエンジニアを怒らせてはいけない。そうすると、彼らはあなたを解雇できる。どちらの肩を持つつもりもない
追伸：私を含む大半のエンジニアは代替可能だ。Ilya はおそらくそうではない
これは筋が通らない。単なる意見の衝突だったなら、プレスリリースで実質的な言及をせず 静かなルートで処理できたはずだ
ところが彼らは、間違っていれば法的責任を問われかねないほど具体的な非難を公式声明に盛り込んだ
根拠が100%確実でないなら、Sam がほぼ確実に勝てる訴訟材料をそのまま渡したようなものだ
Swisher が新たに投稿した情報がさらにある
[出典: https://twitter.com/karaswisher/status/1725702501435941294]
ほぼ正確に予測していたように聞こえる
完全に逆に見ていると思う。取締役会は本当に必要でなければこういうことはしない
過去を思い出せばいい。たとえば Uber では、とんでもない問題が公に噴出してからようやく取締役会が動いた
これが単なる意見の衝突であるはずはなく、数百億ドル規模の価値を持つ会社を危険にさらしてまで急いで処理するには、重大な 財務的・倫理的・社会的な違法行為がなければならない
本当に単に同じ方向を見られなかった問題だったなら、なぜプレスリリースで Sam が「コミュニケーションにおいて一貫して率直ではなかった」と書いたのだろうか？
根本的に哲学的な不一致だったなら、かなり不要な表現だ。むしろ将来ビジョンの違いと言えばよかったはずだ
代替不可能なエンジニアと愚かなスーツ族という古い神話だ。Wozniak に聞けばいい
彼が Steve Jobs なしに Apple が存在したと信じているとは思えない
https://twitter.com/gdb/status/1725736242137182594
Greg からのアップデートだ
Sam と Ilya は最近 AGI について公開発言をしており、2人の根本的な不一致が表れているように見える
Sam は、大規模言語モデルだけでは AGI には十分ではないと主張している。正しいように見える
Ilya は、トランスフォーマー構造は効率面でいくつか修正すれば、実際には AGI に十分だと主張している
もちろんトランスフォーマーは現在の大規模言語モデルの中核構成要素であり、細部が重要だ
将来のモデルは今日のトランスフォーマーに似ていながらも、学習データや経験の面では動的かもしれない。だが、まだ結論は出ていない
いずれにせよ、OpenAI の今後の方向性をめぐって公然と食い違っていることは、内部により深い問題があるというシグナルかもしれない
それは技術的側面での不一致にすぎず、まともに機能している会社ならリーダーシップ内に健全な範囲で常にあるべきものだ
プレスリリースは文字どおり、彼が 嘘をついたため解雇されたと言っていた。大企業の取締役会がこんな言い方をするのは本当に久しぶりに見た
この問いは OpenAI の 非営利憲章のため、非常に大きな含意を持つ
Altman が、OpenAI が AGI の段階に到達したかどうかを取締役会に判断させまいとして事実を伏せた、あるいは公正な評価そのものを妨げようとしたのなら、彼は明らかに取締役会を重大にミスリードし、取締役会の仕事を妨害したことになる
「正しい」と？
誰にも分からない。ただ、当面の規制を避けるために反対側のことを言う利害関係のあるビジネスパーソンより、その仕事を率いる科学者の方を信頼する
この人は自分が何を言っているのか分かっている人であるべきではなかったのか？ 大規模言語モデルは 一般化できないという論文があった[0]
ChatGPT を使ったことがある人なら、欠陥があることは誰でも分かる
[0] https://arxiv.org/abs/2309.12288
どうして人々がここまで確信できるのか分からない
複雑なテーマについて、賢い2人が合理的に意見を異にしていると自分で説明しているにもかかわらず
こういうことがどう起きるのか、ものすごく頭のいいビジネス寄りの人がこのエンジニアに説明してくれないだろうか
取締役会の構成員が6人で、そのうち2人を「引きずり下ろそう」としている状況なら、その2人は参加できないのではないか？
あるいは少なくとも、自分たちに関する投票では除斥されるべきでは？
残りの4人は「秘密裏に」組織して連絡を取り合わなければならないのか？
3人が1人を追放する投票を開いて3/5の過半数を作り、そこから全員を順番に投票で追い出せない理由はあるのか？
馬鹿な質問かもしれないが、気になったので聞いている
詳細は、その非営利団体の定款と設立文書に何が書かれているか次第
501(c)3として特定の要件や制限はあるが、それ以外の部分は、法人を作り統治するために創設時の理事会が文書で定めた内容に委ねられる
通常こうした文書には、投票、承継、除斥、資格などをどう扱うかについての条項が含まれている
営利・非営利の両方の理事会で働いた経験から言うと、外部理事は助言のために外部の法律顧問を付けていた可能性が高い
理事には必ず果たさなければならない特定の義務があり、善意で十分に履行しなければ深刻な法的責任も伴う
同じ疑問を持っていたが、今では非営利ガバナンスはもともとこういうものなのだと分かった
だからOpenAIのような組織には悪いアイデアだ。営利企業なら株主が単に取締役会を入れ替えられる
投票対象はSamだけで、Gregは彼に有利な票を投じた後、その後の2回目の投票のようなプロセスで退くよう強いられたのかもしれない
これはビジネス方面とは何の関係もない。OpenAIは非営利団体なので、望むようにできる
おかしなことに、先週からSuccessionを見始めたところだった
これは現実版Successionが展開している感じだ。理事会メンバー全員が自分の立場を最適化する方法を探している
これを見ると、Greg Brockmanは決定を下した理事会の会議にはおらず、自分が理事会から退いたという「ニュース」も私たちと同じ形で知ったように見える
「ニュースを知った」に引用符を付けたが、Greg Brockmanが使った表現は「今日のニュースに基づいて」だった
それは単に結果に同意せず、その不一致を辞任で表明したという意味かもしれない
追記: 馬鹿なことに、OpenAI社員向けに書いたメモを読んでいた。ツイート自体には「今日のニュースを知った後」と書かれている。それでも、いつどこで知ったのかは依然として曖昧だ
理事会は理事に通知し参加の機会を与えずに会議を開いたり行動したりすることはできない
それはそう。自分自身の解任に関する審議には参加できなかったはず
彼は理事会議長ではなかったのか？ 当然、会議にはいたように思うが？
もっとありそうなのは、何らかの分裂があり、彼がSam側に付いたという話だ
彼が理事会議長だったのだから、残りの理事会がこれをどう実行したのか気になる
Gregはこの決定を事前に知っていたのだろうか？ そうではなさそう
OpenAIの投稿が出る1時間前に、Greg Brockmanが完全にいつもの業務のような投稿をしている: https://x.com/gdb/status/1725595967045398920
https://x.com/openai/status/1725611900262588813
これがどれほど狂った状況なのか分からない
「OpenAIの共同創業者でプレジデントのGreg Brockmanは週60〜100時間働き、時間の約80%をコーディングに費やしている。元同僚たちは彼をOpenAIで最も勤勉に働く人物だと評した。」
https://time.com/collection/time100-ai/6309033/greg-brockman...
これがMicrosoftによる買収のせいである可能性はどれくらいだろう？ 完全な推測だが、Samが障害だったのかもしれない
追記: この説明のほうがもっとあり得るかもしれない: https://news.ycombinator.com/item?id=38312868
もう一つ考慮されていない点は、Microsoftが自社ブランドをいろいろなところに付けるのを本当に好むということだ
これはOpenAIで実際に分裂が起きているという意味に見える
異なる2つの哲学が動いていたという話を聞くことになりそうだ
AltmanとBrockmanが開発の加速を望んでいると仮定すると、2人がMicrosoftの上級職に就くのも興味深いだろう
OpenAIは新しい方向に従い、MicrosoftとGoogleは素早く新しいものを作り、オープンモデル支持者は引き続き良い仕事を続けられるので、全員にとって得のように見える
不器用で慌ただしいプレスリリースを除けば、この件は必ずしも誰にとっても悪い結末になる必要はない
OpenAIのごく初期の公開APIを使って以来ずっとファンだったが、同時に豊かなエコシステムがあることもとても嬉しい
Anthropicのような他の商業プレイヤー、MetaとHugging Faceによるオープンモデル支援、自宅で簡単に動かせるMistralのような、ますます優れた小型モデルがある
Samと、知的財産を盗み続け、その過程で業界全体を破壊しようとする人々は去り、倫理的な機械学習科学者たちが残ることになる
常識チェックの観点から見ると、HintonがGoogleを去ったとき、私たちは顔の見えない企業組織が開発速度を主導すべきではなく、リスクを理解しているAIの先駆者たちが率いるべきだとして歓迎した
OpenAIでも実際に似たような不一致があり、今回はHintonに相当するIlyaが勝ったのだとすれば、祝うべきことだ