イリヤ・サツケバー、OpenAIを退社 (twitter.com/ilyasut) 1 ポイント 投稿者 GN⁺ 2024-05-15 | 1件のコメント | WhatsAppで共有 関連記事 イリヤ・サツケバー、アルトマン解任の「中心」に？ 1 ポイント · 1件のコメント · 2023-11-19 グレッグ・ブロックマン、OpenAIを辞任 1 ポイント · 1件のコメント · 2023-11-19 OpenAI共同創業者のJohn Schulman、競合Anthropicへの参加を発表 4 ポイント · 2件のコメント · 2024-08-07 OpenAI、Broadcomと共同開発した初の独自推論チップ Jalapeño を公開 6 ポイント · 1件のコメント · 7 일 전 サム・アルトマンがOpenAIのCEOに復帰、新たな初期取締役会を編成 1 ポイント · 1件のコメント · 2023-12-01 1件のコメント GN⁺ 2024-05-15 Hacker News のコメント 興味深いことに、Karpathy と Sutskever は今やどちらも OpenAI を去った OpenAI は今では Sam Altman と Greg Brockman を中心に回っているように見える 4人の中では Karpathy と Sutskever が最も印象的だったし、今後も大きなことを成し遂げてほしい 上位の科学者6人はずっと前に去っており、OpenAI は今やマーケティング、ビジネス、ソフトウェア、プロダクト化の人たちが運営する会社になった 次のディープラーニングの革新の波が世界を席巻したら、Microsoft が残ったものを持っていきそうだ 大金は稼ぐだろうが、失ったものを代替できなければ未来はなさそうに見える Karpathy は今も機械学習/AI 分野の大物で、Twitter/X で継続的にフォローする価値のある数少ない人物の一人だ Dario も十分に評価されていないと思う Karpathy が本当に好きだ 古典的な博学な学者であり、教師のような人物だ それでも Jakub Pachocki はまだ OpenAI にいる Jan Leike も退社すると明かした https://twitter.com/janleike/status/1790603862132596961 頭に浮かぶシナリオは、Google IO の前に新モデルをリリースしようとして、安全チームの反対を押し切ったというものだ いわゆる superalignment もこうして消えていくようだ Ilya、Jan Leike、William Saunders、Leopold Aschenbrenner が全員去った “Bad universal priors and notions of optimality” を書いた人物で、Hutter の MIRI プログラムに対して、Gödel が Hilbert プログラムにしたのと似たようなことをした人だ トロント大学の周辺を歩くたびに、約10年前に Ilya が Alex の隣の研究室で何かを解き明かそうとしていた光景をよく思い出す この新しい AI の波がそこから始まったとは信じがたい Ilya、Karpathy、Jimmy Ba など多くの人が、Hinton がいた時期にちょうどそこにいた 当時のトロント大学は本当にすごかった そのグループからはGPU ベースのビットコインマイニング版も生まれた 2014年ごろには Ethereum もその近くで生まれ、Queen と Spadina の近くで Vitalik が参加していた初期の Ethereum ミートアップを覚えている だが他の人が言ったように、ディープラーニングの父 Geoffrey Hinton や Ilya、Vitalik のような人物がいたにもかかわらず、私たちはそこから実質的な利益をほとんど得られなかった ところが彼らの誰もトロントでAI 企業を作らなかった カナダ人として、私たちが成功する会社を作るうえでこれほど非効率だという点には失望する あの追放の試みの後では、ほぼ避けられないように見えたし、おそらく退社の詳細を調整していたのだろう それにしても、新機能発表の翌日とは？ 「次の主要機能をリリースまで持っていけば円満に送り出す」というのが、以前の合意の一部だったのかもしれない 彼がインタビューで、理解の次の段階に行くにはエンドツーエンドのマルチモーダル学習が必要だと語っていたことを考えると、Omni は彼の仕事だったと思う しばらく悩んでいたのだろうし、リリースと同時に彼への関心が高まったことで、決断を求められたのかもしれない うまい一手かもしれない Google IO の前後に OpenAI のニュースを差し込んで Google の注目度を奪い、ちょうど大きな発表をしたばかりなので、悪いニュースの衝撃も少し和らぐ 新機能発表の後に退社のニュースが出れば、他のタイミングより人々の注目は相対的に薄れる Jakub Pachocki はすごい ポーランドのアルゴリズムコンテストで上位20位以内に入っていた https://oi.edu.pl/contestants/Jakub%20Pachocki/ 今知ったが、Jakub Pachocki は meret だった [1] まったく結び付けていなかった [1] https://codeforces.com/profile/meret 理想主義的な人たちがすごいものを作っても、権力闘争の中で経営陣に切り捨てられるという、よくある運命だ こういうことはどれほど繰り返されてきたのか？ どれほど頻繁かって、それが人類で最も成功した経済モデルの基盤だ 一部は切り捨てられないかもしれないが、無知な人々や10億ドルの財布を持つ人々を相手にする、100万ドルの笑顔をした clueless なトップに比べれば、十分な功績を絶対に認められない それでも、何かを理解して作り出す人々が我々の種の中に存在するという事実について、神や自然に感謝すべきだ 革命に必要な人と、革命後に必要な人は同じではない 「汎用 AI がすべての人に利益をもたらすようにする」という言葉は、新しい Don’t Be Evil だ 「私たちは AI を皆さんの手に渡したいのです」 持っていろって？ いや！ いったいなぜそんなことを考えたんだ、この悪党め…… OpenAI とは、厚いゴム手袋とプレキシガラス越しに手を差し出し、AI をもう一発ねだるという意味だ なぜ技術者の転職をメジャーリーグのスポーツチームのロースター変更のように扱うのか分からない この「名前だけで呼ばれる」インフルエンサーたちは賢いのか？ もちろんだ だが賢さはそれほど珍しいものではない 彼らもここにいる大多数と同じ技術者であり、特別により賢いというより、キャリアの方向性と専門化で運が良かったのだ ビジネスの天才でもなく、役割を担った人たちにすぎない リーダーシップの変化は事業に影響するのか？ ある程度はあるだろうが、AI 関係者をめぐるゴシップ的な大騒ぎから予想されるものの5%程度だろう もう十分だ 技術を見よう、実際の仕事を見よう この人たちが給料をもらう場所を変えることで職業的に影響を受ける人の数は、50%よりも0にずっと近い いや、彼らは会社を定義する人たちであり、そうしたポジションははるかに代替しにくく、自分で作り出した役割だ 次の行き先は Meta だろうか？ AI 部門に多額の資金が投じられていて、計算資源も多く、望む研究は何でもできそうだ その可能性は低い 社内政治だけでも、たいていの人をおかしくさせるには十分だ この10年をブレークスルーとなった仕事に捧げてきた人々が去ったことが重要でないはずがない 彼らの幸運が続き、この離脱が OpenAI の衰退の兆候ではないと見るのは間違いだ まだ名声に価値があるうちに現金化したほうがいいのかもしれない 新しい道を切り開くのは、別のチームである可能性のほうが高そうだ
1件のコメント
Hacker News のコメント
興味深いことに、Karpathy と Sutskever は今やどちらも OpenAI を去った
OpenAI は今では Sam Altman と Greg Brockman を中心に回っているように見える
4人の中では Karpathy と Sutskever が最も印象的だったし、今後も大きなことを成し遂げてほしい
次のディープラーニングの革新の波が世界を席巻したら、Microsoft が残ったものを持っていきそうだ
大金は稼ぐだろうが、失ったものを代替できなければ未来はなさそうに見える
古典的な博学な学者であり、教師のような人物だ
Jan Leike も退社すると明かした https://twitter.com/janleike/status/1790603862132596961
Ilya、Jan Leike、William Saunders、Leopold Aschenbrenner が全員去った
トロント大学の周辺を歩くたびに、約10年前に Ilya が Alex の隣の研究室で何かを解き明かそうとしていた光景をよく思い出す
この新しい AI の波がそこから始まったとは信じがたい
Ilya、Karpathy、Jimmy Ba など多くの人が、Hinton がいた時期にちょうどそこにいた
そのグループからはGPU ベースのビットコインマイニング版も生まれた
2014年ごろには Ethereum もその近くで生まれ、Queen と Spadina の近くで Vitalik が参加していた初期の Ethereum ミートアップを覚えている
だが他の人が言ったように、ディープラーニングの父 Geoffrey Hinton や Ilya、Vitalik のような人物がいたにもかかわらず、私たちはそこから実質的な利益をほとんど得られなかった
カナダ人として、私たちが成功する会社を作るうえでこれほど非効率だという点には失望する
あの追放の試みの後では、ほぼ避けられないように見えたし、おそらく退社の詳細を調整していたのだろう
それにしても、新機能発表の翌日とは？
Google IO の前後に OpenAI のニュースを差し込んで Google の注目度を奪い、ちょうど大きな発表をしたばかりなので、悪いニュースの衝撃も少し和らぐ
Jakub Pachocki はすごい
ポーランドのアルゴリズムコンテストで上位20位以内に入っていた
https://oi.edu.pl/contestants/Jakub%20Pachocki/
まったく結び付けていなかった
[1] https://codeforces.com/profile/meret
理想主義的な人たちがすごいものを作っても、権力闘争の中で経営陣に切り捨てられるという、よくある運命だ
こういうことはどれほど繰り返されてきたのか？
一部は切り捨てられないかもしれないが、無知な人々や10億ドルの財布を持つ人々を相手にする、100万ドルの笑顔をした clueless なトップに比べれば、十分な功績を絶対に認められない
それでも、何かを理解して作り出す人々が我々の種の中に存在するという事実について、神や自然に感謝すべきだ
「汎用 AI がすべての人に利益をもたらすようにする」という言葉は、新しい Don’t Be Evil だ
持っていろって？
いや！ いったいなぜそんなことを考えたんだ、この悪党め……
OpenAI とは、厚いゴム手袋とプレキシガラス越しに手を差し出し、AI をもう一発ねだるという意味だ
なぜ技術者の転職をメジャーリーグのスポーツチームのロースター変更のように扱うのか分からない
この「名前だけで呼ばれる」インフルエンサーたちは賢いのか？ もちろんだ
だが賢さはそれほど珍しいものではない
彼らもここにいる大多数と同じ技術者であり、特別により賢いというより、キャリアの方向性と専門化で運が良かったのだ
ビジネスの天才でもなく、役割を担った人たちにすぎない
リーダーシップの変化は事業に影響するのか？ ある程度はあるだろうが、AI 関係者をめぐるゴシップ的な大騒ぎから予想されるものの5%程度だろう
もう十分だ
技術を見よう、実際の仕事を見よう
この人たちが給料をもらう場所を変えることで職業的に影響を受ける人の数は、50%よりも0にずっと近い
次の行き先は Meta だろうか？
AI 部門に多額の資金が投じられていて、計算資源も多く、望む研究は何でもできそうだ
社内政治だけでも、たいていの人をおかしくさせるには十分だ
この10年をブレークスルーとなった仕事に捧げてきた人々が去ったことが重要でないはずがない
彼らの幸運が続き、この離脱が OpenAI の衰退の兆候ではないと見るのは間違いだ
まだ名声に価値があるうちに現金化したほうがいいのかもしれない
新しい道を切り開くのは、別のチームである可能性のほうが高そうだ