- OpenAIの独立取締役会は、Sam Altmanの解任理由として「取締役会とのコミュニケーションにおいて一貫して率直ではなかった」という発表を裏づける2つの事例を従業員に伝えた
- 日曜夜、Ilya Sutskeverが元Twitch CEOのEmmett Shearを新たな暫定CEOとして紹介すると、Altman復帰を期待していた従業員たちは強く反発した
- 取締役会が挙げた事例は、同じプロジェクトを社内の2人に任せたことと、特定の人物について2人の取締役に異なる意見を述べたことだった
- 従業員たちはこの説明に納得せず、取締役会の辞任とAltmanの復帰を求める公開書簡にはOpenAI従業員の90%以上が署名した
- AltmanはMicrosoft内の暫定的な役職を持った状態で復帰の可能性を交渉中であり、MicrosoftはOpenAIに少なくとも100億ドルを投資した最大の投資家である
取締役会が従業員に示した2つの事例
- OpenAIの独立取締役会は、Sam Altman解任の根拠として「取締役会とのコミュニケーションにおいて一貫して率直ではなかった」という立場を示した
- 従業員に伝えられた具体的な事例は2つだった
- AltmanがOpenAI社内の2人に同じプロジェクトを任せたこと
- Altmanが特定の人物について2人の取締役に異なる意見を述べたこと
- OpenAIの広報担当者は、関連するコメント要請に応じなかった
Emmett Shear任命で広がった社内の衝撃
- 日曜夜、Ilya SutskeverはSan FranciscoのOpenAIオフィスの1つで、従業員に元Twitch CEOのEmmett Shearを新たな暫定CEOとして紹介した
- Shearは、金曜日にAltmanの後任の暫定CEOとなったMira Muratiに代わって任命された人物である
- 会議にはOpenAI従業員の一部しか参加せず、残りの従業員は事実上ウォークアウトを行った
- 従業員たちはその日、AltmanがCEOとして復帰するという知らせを聞けると期待していた
- ある関係者によれば、日曜夜の約30分の間に従業員たちは社内で次の順序の知らせを受けた
- Altmanが復帰する
- Altmanは復帰しない
- Shearが任命される
- Shear任命の知らせは、週末を通して緊張状態にあった従業員たちにとってさらなる衝撃であり、多くの従業員はこれを「非常に悪い形で」受け止めた
Sutskeverをめぐる不信
- SutskeverはAltman解任に賛成票を投じ、Google Meetを通じて実際に解雇を通告した人物である
- Shear任命の知らせを伝えた会議で、Sutskeverは「沈んだ」様子だったと伝えられている
- 従業員たちは、取締役会が示した2つの説明に納得できなかった
- 社内では今回の出来事を、取締役会による露骨なクーデターと見る解釈が広がった
- ある関係者は、取締役会が今示しているどのような理由も従業員に対してほとんど説得力を持たないと語った
公開書簡と集団辞職の圧力
- Shear任命の会議から数時間後、OpenAI従業員の間で公開書簡が作成され、一晩のうちに回覧された
- 公開書簡にはMuratiとSutskeverを含むOpenAIのリーダーシップも署名した
- 月曜正午時点の最新集計で、従業員の90%以上が署名した
- 従業員たちは公開書簡で、次の条件が満たされなければ辞任すると表明した
- 残る取締役たちが辞任すること
- 新たな取締役が任命されること
- Altmanが会社に復帰すること
- ある関係者は「人々は激怒しており、大規模な退職が差し迫っていた」と語った
取締役会の構成と今後の関係
- 当時のOpenAI取締役会は、Quora CEOのAdam D'Angelo、テクノロジー起業家のTasha McCauley、Georgetown Center for Security and Emerging TechnologyのHelen Toner、Ilya Sutskeverで構成されていた
- Sutskeverは退職をちらつかせた公開書簡に署名したが、技術的には依然として取締役会メンバーであると伝えられている
- Sam AltmanとOpenAI社長のGreg Brockmanも以前は取締役会に属していた
- Altmanは、Satya Nadella CEOが調整したMicrosoft内の暫定的な役職に就いた状態で、OpenAI復帰の可能性を引き続き交渉している
- MicrosoftはOpenAIに少なくとも100億ドルを投資した最大の投資家である
- MuratiはAltman解任直後、一部従業員の怒りを買ったが、その後は空気が和らいだ
- Muratiが金曜日直後からSutskeverに引き続き「deferred」していたとの話がある
- MuratiはAltmanが復帰しなければ会社を去ると明らかにしている
- SutskeverはAltman解任への関与について公に「regret」を表明したが、一部では彼が簡単には許されず、Microsoftの新ベンチャーに加わることも、残留するよう招かれることもないかもしれないと見られている
1件のコメント
Hacker News の意見
ペイウォールなしのリンク: https://web.archive.org/web/20231120233119/https://www.busin...
この件には、もっと大きな背景があるようにしか見えない
Altman は非営利組織を率いて多額の寄付金を集めた後、OpenAI を世界で最もホットな TC流スタートアップへと変え、商業化のアクセルを踏み込んだ
先週には、強力なAIの最大の脅威は、富裕層や権力者が社会への支配力を強めるためにその技術を使うことだという Hinton の警告がある中で、サウジ資金の数十億ドルでAIアクセラレータを作ろうとしていた
そこに経験不足の取締役会と D'Angelo の動きまで重なれば、テック業界史上最大級の大混乱になる
採決が行われ、一方が勝っただけで、もっと大きくて興味深い話などないのかもしれない
ソフトウェア企業でよくある話であり、OpenAI の取締役会は数十億ドル規模のブランド価値と好意を吹き飛ばす決定をした、というだけなのかもしれない
Quora は ChatGPT に急速に置き換えられつつあり、Dev Day で OpenAI が GPTs を発表したことで、Quora の競合プロダクトである「Poe クリエイター収益化」も直撃を受けた
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
非営利組織が必ず貧困層だけを支援しなければならないわけでもないし、OpenAI の研究のライセンスを受けて収益を上げる営利子会社を作ったことが、どんな政治工作や欺瞞なのかも不明だ
こうした法的構造の目的は、所有者が株主価値よりもミッションに集中できるようにすることであり、この場合は倫理的にAGIを作るという目標だった
付け加えると、この構造は Sam Altman や OpenAI が発明したものでもない
サウジ資金の問題も前述の法的構造とつながるが、そうした統制が実際に可能なのか、モデル性能と計算量の相関が今後も維持されるのかまで仮定する、かなり理論的な主張だ
GPT-4 のトレーニングには1億ドル以上かかり、その資金はどこかから出てこなければならない
別の説明が出るまでは、彼らが明らかにした通り、a) 同じプロジェクトに2人を割り当て、b) 同じ社員について2人の取締役に異なる説明をしたためだと受け止める
取締役会の代わりに、インターネットがもっともらしい理由を新たに作り出す必要はない
この2つの理由は、AGI安全性や OpenAI の非営利としての地位のような大仰な理念とは関係がなさそうで、むしろ人事判断をマイクロマネジメントしているように見える
Ilya Sutskever も、解雇理由を自分が聞いた内容として伝えている
人々は、AGIを懸念する主任研究者が主導した解雇だと理解して取締役会側に立っていたが、今では取締役会は Dev Day 以降 OpenAI とより直接的に競合することになったAIチャットボット企業を持つ D'Angelo 側に代表されているように見える
オッカムの剃刀を適用すると、もっともらしい
私のいるところなら、こうした状況で取締役会が何もしなければ、あらゆる厳しい法的措置について個人的に責任を負う可能性もある
非営利だから違うのか、取締役会がいまだにこれを乗り切れると思っている理由が分からない
Quora でも似たようなことをしなかっただろうか
Greg は招かれず Sam 側の票が1つ抜け、Sam も採決から外れるよう求められた可能性があるので、3人が過半数を握ったのかもしれない
今は「Team Sam」にいる Ilya が反対票を投じた可能性もあるし、その時点では次は自分の番かもしれないと見て、ただ従っただけかもしれない
Greg に取締役会の招集を知らせず、彼抜きで進めたのはプロらしくなく、Ilya がしくじった点に見える
Sam もその瞬間に「待ってくれ、Greg がここに来るまではこれ以上進めない」と言うべきだった
OpenAI は事実上 Microsoft の研究開発組織になりたくなかったのかもしれない
ChatGPT のモバイルアプリは磨き込まれておらず、プロダクト設計がほとんどないように見えるので、特に Microsoft 向けの機能量産に見えるとき、時期尚早の機能乱発だという批判は妥当に見える
Sam が Microsoft のトロイの木馬だったと想像すれば、受け入れられなかったのだと思う
Sam が政治の達人だと言うなら、彼をよく知らなくても同意できる
彼は OpenAI チームの90%の支持を受ける Microsoft 側の人物であり、この2つが同時に利益相反を生む
CEO に「まだ OpenAI のビジョンを信じているのか、それとも今は Microsoft のビジョンを信じているのか」と問うのは、かなり正当な質問だ
会社が存在論的危機に陥っているのに、午前1時のツイート以降、公の発言がない
大変動の翌日の初日からすべてを掌握したかのように振る舞うより、状況把握を待つのだろう
Shear について読んだのは、彼が AI 開発の減速や Yudkowsky 式の AI 終末論に好意的だという程度だが、それは会社が飲み込む準備のできた薬ではないかもしれない
https://x.com/drtechlash/status/1726507930026139651
「私は明確に、減速に賛成だと言っている。一時停止に似ているが、停止ではなく速度を落とすということだ」
「今の速度が10なら、一時停止は0まで下げることだ。私は1〜2を目標にすべきだと思う」
「- Emmett Shear、2023年9月16日」
https://x.com/eshear/status/1703178063306203397
早く動かなければ HN にあらゆる過激な憶測が生まれるだろうが、それは許されない、という感じだ
さらに悪いことに、ほぼリアルタイムの更新がなければ、結局この件はそこまで重要ではないと気づいて、別のニュースへ移ってしまうかもしれない
もちろん、API エンドポイントが指す URI が変わる程度の重大な結果があり得るので、冗談を言うべきではないのだろうが
あらゆるシナリオを計算してみても、彼にとって有利に終わる方法が見えない
経験豊富な Silicon Valley の CEO ならこの計算をして、勝ち目のない仕事だと見たはずで、それを引き受けたという事実は、彼が特別に優れたリーダーではないことの兆候に見える
同じプロジェクトを2人に与えたって？
異なるアプローチを得て、2つを組み合わせてリリースしようとするときによくやることではないかと思う
同じ人物について異なる意見を出したことが、CEO を解任する理由なのか？
取締役会には解任する理由がないか、Sam を解任した本当の理由を言いたくないように見える
彼らはやらかした
Sam は Ilya を不安定要素であり会社の単一障害点と見なし、Ilya なしでも OpenAI が続けられるようにしようとしていたのかもしれない
[0] https://news.ycombinator.com/reply?id=38357843
データの解釈が非常に複雑だったため、追加検証として2つのチームを互いに隔離したままデータを解釈し、画像を作らせた
結果がほぼ同じなら、正しいという強い確認になる
だからこれは明らかに有効な戦略だ
Altman は数十億ドル企業の CEO という基準では、正常範囲にずっと近いように見える
彼が完璧ではないにせよ、こうした些細な解任理由には怪しい匂いがする
Ilya は人がどう動くかについて少し世間知らずで、これを安全問題として包装した古典的な権力闘争に利用されたのかもしれない、という気がする
クリックホイール対マルチタッチで、驚くべきことにクリックホイール iPhone が負けた
DOS に残るか、OS/2 に行くか、Windows に行くかを選ばなければならず、Lotus は OS/2 を選んだが市場は Windows に向かい、Excel に打ち負かされた
当時 Lotus は裕福な会社だったのだから、私なら3つのグループを作って3つの選択肢すべてを進めたと思う
「Altman が OpenAI の2人に同じプロジェクトを与えた」という説明を見ると、この人たちは他の会社で働いたことがないのではないかと思う
従業員が10人を超える会社なら、ほとんどどこでもこういうことは起きる
冗談ではない
1人にはこのやり方、もう1人にはあのやり方でやってもらい、結果を比較しようとする場合でないなら特にそうで、終わるまで互いの存在を知らせなかったならなおさらだ
彼らが当時持っていた情報で適切かつ正しく行動したという前提を置くなら、例えば2つ目のプロジェクトがアラインメント関連で、Sam が Ilya にその存在を隠したり誤認させたりしていたらどうなるだろう？
Sam が、Ilya が AI を過度にアラインさせて機能を落としていると信じていたからだとしたら、その行動は適切だと言えるだろうか？
取締役会の不透明さを「非常に悪い非専門的な判断を隠している」と見ることもでき、現時点ではその可能性が高そうに見える
逆に、最初のコミュニケーションで判断を誤り、会社がふるいのように情報漏れしていて、Sam と泥仕合をしたくないため、今はあらゆる発言に極度に慎重になっている、と見ることもできる
まだあまりに暗くて判断しにくい
この内容だけでは、Altman が解雇された本当の理由のようには聞こえない
だから「クーデター」という言葉が出てくるが、それも実際の疑問には答えていない
なぜ Altman は本当に解雇されたのか？
明らかに言えない理由があるように思える
会社で資金不足のような悪いことが起きていて、CEOを解雇するほど深刻だが公表できない状況なのかもしれない
銀行の取締役会が、CEOが資本を低すぎるまま放置したという理由で解雇すると想像してみると、回復の可能性を損なうため、そうは言えないだろう
Altman が取締役会に言わなかった「何か」があり、彼らもそれを私たちに言えないのかもしれない
現実が再び筋の通るものになるようパッチを当てているわけだ
ときには、肥大化した自我を持つ人々が些細な侮辱に挫折し、集団思考が支配することで、軌道爆撃が一瞬いい考えに見えることもある
私も今、合理化している
SATソルバーのように解けないループに閉じ込められたら、制約を1つ以上緩める必要がある
良い理由がなかったのかもしれないし、理由が悪かったのかもしれない
取締役会としてチェルノブイリ級の失敗を経験したのだ
また、あまりに急いで進められたことを見ると、その出来事はごく最近起きたようにも思える
例えば APEC での会話や合意のようなものかもしれない
ただ、Ilya が立場を翻した点がこの荒い推測を壊してしまうので、結局私も皆と同じく「????????」状態だ
一人は取締役会議長で、もう一人は取締役会メンバーだったからだ
ところが二人とも Sam の再雇用を望んでいる
二人が不正に加担していたと見るのも難しい。取締役会は Greg を会社に残そうとしていたし、Ilya は今も取締役会におり、以前は彼らを支持していたからだ
理由が何であれ、それは Sam との個人的・政治的な問題であって、彼らがほのめかした重大な危機ではないことはかなり明らかだ
私の理解では、Altman は OpenAI を非営利から営利へ、オープンソースモデルからクローズドなモデルへと変える中で、すでに不誠実な行動を示していた
さらに悪いのは、人々がこうした性質を完全に受け入れているように見える点だ
危険なのはAIそのものではなく、AIがAltman たちによって作られていることだ
そして具体的な事案だったなら、Ilya は解雇を引き続き擁護した可能性が高く、後悔はしなかっただろう
これは取締役会と従業員の方向性が食い違った、単純な権力闘争のように見える
今回の最新展開と直接関係はないが、DeepMind の Geoffrey Irving は Altman より取締役会を信頼している: https://x.com/geoffreyirving/status/1726754270224023971
これほど大きな利益相反があり、知っている事実が0個なら、ただ黙っているべきだ
「私が尊敬する人々、特に Helen Toner と Ilya Sutskever のために、少し言わなければならないと感じた」という部分もあるが、Toner にはここで道徳的権威はなさそうに見える
Ilya には明らかにその権威があり、彼が OpenAI を焼き払いたいなら、おそらくその権利もあると思っていた
ただし、少なくともすべてを Microsoft に引き渡すほうがよかっただろう
しかし皆が知っている通り、Ilya は180度方向転換し、それは本当に驚くべきことだった
「Sutskever が取締役会で聞いたと主張した2つの説明を提示した」という文には検証が必要だ
Sutskever はこの愉快な大惨事の間ずっと、かなり一貫性のない発言をしてきた
「非従業員の Adam D’Angelo、Tasha McCauley、Helen Toner」
木曜朝にリリースされた:
https://x.com/poe_platform/status/1725194752901988744?s=46
カーテンの向こうの男は無視すればいい