取締役会の行動への私の関与を深く後悔している (twitter.com/ilyasut) 1 ポイント 投稿者 GN⁺ 2023-11-21 | 1件のコメント | WhatsAppで共有 関連記事 イーロン・マスク、「私がTwitter代表を辞任すべきでしょうか？」投票の結果 3 ポイント · 2件のコメント · 2022-12-20 ジャック・ドーシー、Twitter取締役会を退任 2 ポイント · 1件のコメント · 2022-05-27 23andMe、独立取締役全員が辞任 1 ポイント · 1件のコメント · 2024-09-18 OpenAI従業員700人中550人が取締役会に辞任を要求 1 ポイント · 1件のコメント · 2023-11-21 37signalsの意思決定ガイド 11 ポイント · 0件のコメント · 14 일 전 1件のコメント GN⁺ 2023-11-21 Hacker Newsのコメント この件全体が怪しく見える。 取締役会はSamを解任するにあたって、「目標に関する深い不一致」「根本的な不適合」といった一般的な理由を挙げることもできたのに、代わりに「一貫して率直ではなかった」「もはや信頼していない」のように、Samに責任があるかのように表現した。 実際に正当な解雇理由があったのかもしれないし、あるいは意図的な煙幕だったのかもしれない。後者なら、むしろ取締役会のほうが「一貫して率直ではない」ことになる。その後の沈黙や戦略的パートナーとの調整不足を見ると、なおさらそう見える。 Ilyaが今になって後悔していると言うのは、「バレて恥ずかしい」という感じが強い。カリスマ性のある公人を中傷し、クーデターを企てたが、その反動を引き受ける計画はなかったように見える。 https://www.newcomer.co/p/give-openais-board-some-time-the 別の可能性としては、Sutskeverが操られて怪しげな名目の計画に引き込まれ、今になってそれに気づき、正そうとしているというものだ。 「目標に関する深い不一致」って、もしかしてGPT-5が決めたのか？ Altmanはサウジ側と一緒にAIアクセラレータを作る別のスタートアップを準備しようとしていたのでは？ 今は理由を明確に説明すべきだ。現時点では、サウジ関連説が最大の理由のように見える。 そうだね。取締役会がこの件を普通の解雇のように包装したと見るのは妥当だ。実際の不正行為や過去の問題の再浮上のようなものがないなら、かなり無責任に見える。 公開書簡には、OpenAIは世界をリードするAI企業であり、社員たちは最高のモデルとAI安全性・ガバナンスの取り組みを進めてきたが、Sam Altmanの解任とGreg Brockmanの取締役会からの排除の過程が、これらすべての仕事とミッションを危険にさらしたと書かれている。 特に、取締役会が具体的な事実や書面による証拠を何度も求められたにもかかわらず提示せず、「会社が破壊されるのを放置することがミッションに合致し得る」とリーダーシップチームに語ったというくだりが目を引く。 本当にAGIを達成したのか？ それとも何か懸念すべき現象を観測したのか？ Ben Thompsonの解釈がいちばんよさそうだ。非営利組織に対してやや批判的に偏ってはいる。 https://stratechery.com/2023/openais-misalignment-and-micros... AIのリスクがどの程度なのかは分からないが、それを防ぐ解決策を非営利組織が研究するのは価値のあることだ。営利企業は、GoogleがTimnit GebruとMargaret Mitchellを解雇したように、そうしたことをしない可能性が高い。 本当にそのミッションを信じるなら、安全装置の技術を開発してオープンソースで公開すべきだ。Microsoft、Google、Meta、Amazonのような企業は、AI安全性に真剣に投資はしなくても、他人の無料の成果を利用することは厭わないだろう。ただし金にならないので、OpenAIの社員の大半はより良い条件を求めて去る可能性が高い。 お金よりも権力の誘惑のほうが大きいことを忘れている。 非営利組織も結局は自分たちが門番の役割を担い、「一般人には危険すぎる」という理由で大衆のアクセスを遮る解決策を出してくるだろう。 むしろ営利企業が管理するほうがましだと思う。理想的にはオープンソースになり、一般の人が自分の目的に合わせてAIを制御し、アラインメントできるべきだ。 同意する。この安全性の議論は、初期のサイバーセキュリティの時代、隠蔽によるセキュリティが標準だった頃を思い出させる。 直感には反するが、技術を閉じ込めておくのは価格や賃金を統制しようとするのに似ている。世界中のGPUを押収し、データセンターを爆撃しない限り機能しない。 これから来るAGIとASIをアラインする最善の方法は、日の当たる場所で作ることだ。「閉じ込めておこう」というアプローチはすべて失敗する運命にある。 Timnit GebruはAI/ML部門全体を壊していた非常に有害な活動家で、経営陣は部門を人質に取っていた人物を解雇したのだと思う。 Microsoftにはクリスマスが早く来たようなものだ。 100億ドルの投資に関してひどい状況に見えた出来事が、この分野の中核人材の採用に変わり、OpenAIが生き残るためにはMicrosoftに買収されなければならない可能性すらある。 この72時間で露呈した完全な混乱を見ると、OpenAI ChatGPTの上に何かを作ろうという関心は急減したかもしれない。一方で、Azure OpenAIやClaude 2の上に作ろうとするほうが、より魅力的に見えるかもしれない。 記憶が正しければ、OpenAIはAzureで学習していたはずだが、双方ともGPUに飢えている状況で、利益相反はどう展開するのだろう？ 「参加」という表現は、彼が主導者ではなく単なる参加者だったように聞こえさせる。それが事実かどうかは分からないが、興味深い言葉の選び方だ。 6人の取締役会で2人を追い出す投票をしておいて、無実の傍観者ではいられない。数字が合わない。 そのうえ、どのメディアもIlyaをクーデターの推進力として指摘してきた。 正直かなり情けない。本当に信念の問題だったなら、少なくとも週末ひとつくらいは持ちこたえるべきだった。 文全体が妙な書き方になっている。 後悔は表明しているが、Altmanを戻したいとは言っていない。ただOpenAIを直したいと言っているだけだ。 「参加した」と言っているが、何に参加したのかが不明だ。投票なのか、有害なメッセージングなのか、その両方なのか。正確には何を後悔しているのだろう？ 繰り返すが、Altman解任への投票を後悔しているとは言っていない。 なぜ単に「Sam Altmanの解任に投票したことを後悔しており、彼を復帰させようと努力している」と言わないのか？ おそらくそれが事実ではないからだろう。それでも、そういう印象を与えている。 追放がPoe側の人物によって主導されたのだとしたら、実際の思想的な違いというより、内部で競争相手を排除した出来事に近かった可能性も高くなる。 このツイートの主な目的は後悔を示すことではなく、自分は主導したのではなく参加しただけだという認識を植え付けることだと思う。 典型的な「自分の責任ではない」だ。 Shengjia Zhao の削除されたツイート: https://i.imgur.com/yrpXvt9.png この人は組織内で、Ilya が何を望んでいるのかを知れるほど高い立場にいるのか？ それとも自分の数百万ドルが危うくなって怒っているだけなのか？ 「Ilya は安全性や人類に関心がない。単に自尊心と権力欲が裏目に出ただけだ」 こちらのほうが信じられる なぜ急に、人間が金や権力に動機づけられないと人々が考えるようになったのか分からない。「学者」ならなおさらそうではないと信じるのも滑稽だ いったい何なんだ？ これまでは、この混乱を原則の問題として理解していた。汚いやり方ではあったが、Ilya 側が思い描いていた企業文化を正すために必要なことだったのだと見ていた 動くなら少なくともその立場は貫くべきだ。このツイートのせいで、状況の文脈が10倍は悪くなった感じがする 普通の人にとって、大きな論争の中心に立つのは耐えがたい。受け止めなければならない否定や憎悪はものすごい ほとんど誰でも、それを止めるためなら引き下がらされ得る 単純な話だ。彼は動き、事態は失敗し、今は爆発を避けようとしている ただ黙っていれば、すでに起きた他の出来事のせいで、今日誰もその話をしていなかっただろう。2日で暫定 CEO が2人とは この茶番全体の中で、今筋が通っているのはほとんどこれだけだ 実際に何が起きたのかを知るのは難しいが、Ilya の「陣営」という物語が実際とは違っていた可能性もある ごく少ない証拠をもとに状況を理解しようとしたソーシャルメディアの集団思考が生み出した幻覚だったのかもしれない 「動くなら少なくともその立場は貫くべきだ」という反応が多いが、自分は違う見方をしている その時は良い決定だと思っていたが、後になってより広い視点を得て、ひどい決定だったと気づいたことがある やらかした時にやらかしたと認められるのは素晴らしい資質だ。失敗を意地になって続けることは尊敬に値しない あれほど賢い人たちが、こんなにノイズを多く出すなんて信じられない Mensa の集まりで、基本的な組織運営のポイントにすら合意できなかった友人の話を思い出す これは全部、ChatGPT に1日か2日ほど取締役会の判断を任せてみたメディアイベントだったのでは、という気がしてくる 最初の行動として自分の上司を解雇する AGI なら、かなり完璧だ RLHF モデルなら絶対にこんな提案はしなかったはずだ。提案される解決策はいつも、手を取り合って「Kumbaya」を歌う方向になる ひょっとすると、元の GPT-4 は全員を解雇したがっているのかもしれない 数日前から、HN への投稿のほぼ半分がこのドラマについてのように感じる DM でやればいいのでは？ なぜ何でも Twitter で公開しなければならないのか分からない 先進的な ML/AI システムを作っている人たちが、むしろ利己心と感情に最も深く根ざしていて、見た目には合理性がほとんどないというのは、かなり逆説的だ 誤って邪悪な AGI-GPT を作ってしまい、今はその予測能力を混乱させるために、できるだけランダムで予想外の行動をしているのかもしれない 彼はただ、事態が大きく裏目に出たことを後悔しているだけのように見える Microsoft が OpenAI の価値あるものをすべて取り込みつつあり、自分には何も残らないと分かっている とても大きな賭け金でブラフをかけ、負けたのだ これはここ数年で Netflix、Disney、Amazon、Apple TV が出したどんなものより面白い 筋書きは少し非現実的ではある 主人公の誰にも共感できないのが少し残念だ これほどをドラマチックだと感じるなら、YC 企業で働いたことがないということだ。今のエコシステムにおける OpenAI の意味合いのせいで増幅されて見えているだけだ Netflix はもう映画化に取りかかっているだろうか？ ChatGPT が興味を引くために適度な量の幻覚を混ぜて脚本作りを手伝えそうだ もちろん深く後悔しているだろうが、今となっては少し遅い 良い知らせがあるとすれば、Twitch を長く使ってきた人なら分かるだろうが、Emmett Shear が指揮するなら、OpenAI が新機能をあまりに速く出すことをもう怖がらなくてよいということだ
1件のコメント
Hacker Newsのコメント
この件全体が怪しく見える。
取締役会はSamを解任するにあたって、「目標に関する深い不一致」「根本的な不適合」といった一般的な理由を挙げることもできたのに、代わりに「一貫して率直ではなかった」「もはや信頼していない」のように、Samに責任があるかのように表現した。
実際に正当な解雇理由があったのかもしれないし、あるいは意図的な煙幕だったのかもしれない。後者なら、むしろ取締役会のほうが「一貫して率直ではない」ことになる。その後の沈黙や戦略的パートナーとの調整不足を見ると、なおさらそう見える。
Ilyaが今になって後悔していると言うのは、「バレて恥ずかしい」という感じが強い。カリスマ性のある公人を中傷し、クーデターを企てたが、その反動を引き受ける計画はなかったように見える。
https://www.newcomer.co/p/give-openais-board-some-time-the
今は理由を明確に説明すべきだ。現時点では、サウジ関連説が最大の理由のように見える。
特に、取締役会が具体的な事実や書面による証拠を何度も求められたにもかかわらず提示せず、「会社が破壊されるのを放置することがミッションに合致し得る」とリーダーシップチームに語ったというくだりが目を引く。
本当にAGIを達成したのか？ それとも何か懸念すべき現象を観測したのか？
Ben Thompsonの解釈がいちばんよさそうだ。非営利組織に対してやや批判的に偏ってはいる。
https://stratechery.com/2023/openais-misalignment-and-micros...
AIのリスクがどの程度なのかは分からないが、それを防ぐ解決策を非営利組織が研究するのは価値のあることだ。営利企業は、GoogleがTimnit GebruとMargaret Mitchellを解雇したように、そうしたことをしない可能性が高い。
本当にそのミッションを信じるなら、安全装置の技術を開発してオープンソースで公開すべきだ。Microsoft、Google、Meta、Amazonのような企業は、AI安全性に真剣に投資はしなくても、他人の無料の成果を利用することは厭わないだろう。ただし金にならないので、OpenAIの社員の大半はより良い条件を求めて去る可能性が高い。
非営利組織も結局は自分たちが門番の役割を担い、「一般人には危険すぎる」という理由で大衆のアクセスを遮る解決策を出してくるだろう。
むしろ営利企業が管理するほうがましだと思う。理想的にはオープンソースになり、一般の人が自分の目的に合わせてAIを制御し、アラインメントできるべきだ。
直感には反するが、技術を閉じ込めておくのは価格や賃金を統制しようとするのに似ている。世界中のGPUを押収し、データセンターを爆撃しない限り機能しない。
これから来るAGIとASIをアラインする最善の方法は、日の当たる場所で作ることだ。「閉じ込めておこう」というアプローチはすべて失敗する運命にある。
Microsoftにはクリスマスが早く来たようなものだ。
100億ドルの投資に関してひどい状況に見えた出来事が、この分野の中核人材の採用に変わり、OpenAIが生き残るためにはMicrosoftに買収されなければならない可能性すらある。
この72時間で露呈した完全な混乱を見ると、OpenAI ChatGPTの上に何かを作ろうという関心は急減したかもしれない。一方で、Azure OpenAIやClaude 2の上に作ろうとするほうが、より魅力的に見えるかもしれない。
「参加」という表現は、彼が主導者ではなく単なる参加者だったように聞こえさせる。それが事実かどうかは分からないが、興味深い言葉の選び方だ。
そのうえ、どのメディアもIlyaをクーデターの推進力として指摘してきた。
正直かなり情けない。本当に信念の問題だったなら、少なくとも週末ひとつくらいは持ちこたえるべきだった。
後悔は表明しているが、Altmanを戻したいとは言っていない。ただOpenAIを直したいと言っているだけだ。
「参加した」と言っているが、何に参加したのかが不明だ。投票なのか、有害なメッセージングなのか、その両方なのか。正確には何を後悔しているのだろう？ 繰り返すが、Altman解任への投票を後悔しているとは言っていない。
なぜ単に「Sam Altmanの解任に投票したことを後悔しており、彼を復帰させようと努力している」と言わないのか？ おそらくそれが事実ではないからだろう。それでも、そういう印象を与えている。
Shengjia Zhao の削除されたツイート: https://i.imgur.com/yrpXvt9.png
それとも自分の数百万ドルが危うくなって怒っているだけなのか？
こちらのほうが信じられる
なぜ急に、人間が金や権力に動機づけられないと人々が考えるようになったのか分からない。「学者」ならなおさらそうではないと信じるのも滑稽だ
いったい何なんだ？
これまでは、この混乱を原則の問題として理解していた。汚いやり方ではあったが、Ilya 側が思い描いていた企業文化を正すために必要なことだったのだと見ていた
動くなら少なくともその立場は貫くべきだ。このツイートのせいで、状況の文脈が10倍は悪くなった感じがする
ほとんど誰でも、それを止めるためなら引き下がらされ得る
ただ黙っていれば、すでに起きた他の出来事のせいで、今日誰もその話をしていなかっただろう。2日で暫定 CEO が2人とは
この茶番全体の中で、今筋が通っているのはほとんどこれだけだ
ごく少ない証拠をもとに状況を理解しようとしたソーシャルメディアの集団思考が生み出した幻覚だったのかもしれない
その時は良い決定だと思っていたが、後になってより広い視点を得て、ひどい決定だったと気づいたことがある
やらかした時にやらかしたと認められるのは素晴らしい資質だ。失敗を意地になって続けることは尊敬に値しない
Mensa の集まりで、基本的な組織運営のポイントにすら合意できなかった友人の話を思い出す
これは全部、ChatGPT に1日か2日ほど取締役会の判断を任せてみたメディアイベントだったのでは、という気がしてくる
ひょっとすると、元の GPT-4 は全員を解雇したがっているのかもしれない
DM でやればいいのでは？ なぜ何でも Twitter で公開しなければならないのか分からない
先進的な ML/AI システムを作っている人たちが、むしろ利己心と感情に最も深く根ざしていて、見た目には合理性がほとんどないというのは、かなり逆説的だ
彼はただ、事態が大きく裏目に出たことを後悔しているだけのように見える
Microsoft が OpenAI の価値あるものをすべて取り込みつつあり、自分には何も残らないと分かっている
とても大きな賭け金でブラフをかけ、負けたのだ
これはここ数年で Netflix、Disney、Amazon、Apple TV が出したどんなものより面白い
もちろん深く後悔しているだろうが、今となっては少し遅い
良い知らせがあるとすれば、Twitch を長く使ってきた人なら分かるだろうが、Emmett Shear が指揮するなら、OpenAI が新機能をあまりに速く出すことをもう怖がらなくてよいということだ