Microsoft が指名した理事が必ず Microsoft 社員だという兆候はありません。もちろんそうかもしれませんが、大きな非営利組織には営利企業出身の理事がよくいます
IRS がこうしたことを大きく気にするとは思えません。OpenAI が納税している営利企業 Microsoft に利益を誘導しているという主張なら、最悪の悪意ある介入を想定しても、IRS より SEC の管轄に近い話に見えます
Sam が CEO に戻ることで、OpenAI の理事会は機能不全に陥ったことを証明したのではないかと思います。誰が理事会にいても、CEO 解任という最も基本的な権限を行使できなくなり、Sam は事実上解雇不能な人物であることを示しました
だからといって Sam が嘘をついた、あるいは今後そうするだろうと主張しているわけではありません
まったく違います。理事会が、責任を負う集団の中で最も無能なやり方で行動しただけです
適正手続きを踏み、従業員と投資家に知らせ、CEO を解任する理由を発表していれば、15分の Google Meet で処理した後に完全に沈黙するような事態にはならず、こうした怒りも起きなかったでしょう
Apple の取締役会が、Tim Cook がその年の開発者向けプラットフォーム更新と記録的な成長・販売をステージで発表した直後に、何の予告もなく解任し、数日間にわたって投資家に理由や有用なコミュニケーションを拒み、同じ週末に最初の暫定 CEO をまったく別業界出身の別の暫定 CEO に交代させたと想像してみればよいです
CEO 解任という基本権限を行使したという理由だけで、取締役会に対する株主反乱が起きなかったと思うなら、状況の一部を見落としています
人々が思っているより、これは理事会にとっては良い取引で、Sam にとっては悪い取引です。Sam、Greg、Ilya は全員理事会から外れ、D'Angelo はとんでもない行動にもかかわらず残り、新理事の選任に拒否権と大きな発言権を持つことになります
今後は誰もが Sam を警戒するでしょう。彼は以前の理事会で持っていたよりもはるかに小さいレバレッジしか持たなくなります。最終的には魅力と社交力で他の独立理事を説得して勝てるかもしれませんが、D'Angelo 側ではなく自分側に残ってもらうには、自分の行動をかなり制御しなければなりません
Sam Altman は非常にカリスマ性のある創業 CEO で、一部の人は操作的だと見ているが、多くの社員に愛されている。取締役会に追い出されたが、取締役会が誤りに気づくと復帰した
Facebook、Amazon、Microsoft、Google のような巨大成功企業の創業神話にぴったり当てはまるわけではないが、こういう人物が巨大な会社を作る可能性はまだあると思う。もちろん、巨大な会社を作ることより重要なのは、狂ったように素晴らしいプロダクトを作ることだ
結局、正確に何が起きたのかはまだ分かっておらず、おそらく今後も分からないだろう。ただ、急速な商業化側の Team Sam と、初期原則の維持側の Team Helen/Ilya の間に亀裂があったことは明らかに見える
GPT-3 以前に出た記事でも、透明性、オープン性、協業という創設時の理想が、激しい競争とさらなる資金圧力によって侵食されていると述べていた。Team Helen はパニック状態で動いたが、組織の創設原則を守っていると信じていたため、勝てると思っていたのだろう。しかし、そもそも勝ち目はなかった。一般大衆の中で AI Safety を本気で気にしている人は少数で、残りは ChatGPT が宿題を手伝ってくれることを好んでいる。取締役会が途方もなく愚かに振る舞ったことは嘲笑されて当然だが、本当に超人的 AI が近く、悪意を持って行動し得ると信じていたなら、速度を落とそうとしたのではないかという反対側の視点も考える必要がある
正直、その脅威を真剣に受け止めるのは難しいが、以前よりも深く理解したくなった。思っていたほど根拠のないものではないのかもしれない。いつか Team Helen が「私たちが止めようとしていたのはまさにこれだった」と言う日が来ないことを願う https://www.technologyreview.com/2020/02/17/844721/ai-openai...
この物語はもっともらしいが、最初に出たプレスリリースの奇妙で攻撃的な文言を説明できない
創設原則や憲章を指し示し、取締役会が Sam とその解釈をめぐって埋めがたい見解の相違を抱えていたと言い、同時にこれまでの貢献に深く感謝していたなら、状況は違っていたかもしれない。もちろん、適切な後任 CEO と、社員たちの PPU が流動化されるという保証のほうがはるかに重要だっただろうが。最初は Sam が何か犯罪でも犯したのかと思うほど、声明文がひどかった
構図はこう見ればよい。開発者一人の Ilya 対ビジネスパーソン一人の Sam では、Sam が勝つ。数百人の開発者が退職をちらつかせ、取締役会が踏みとどまると、開発者たちが勝つ
外から見ると、開発者たちが最初から力を握っていたように見えるし、そうであるべきだ
どんな会社でも 95% が同じ立場を取るのは前例がないが、いくつか理由がある
彼らは新しい Microsoft スタートアップで同様の職位と報酬を得られたので職が危険にさらされておらず、Sam がそもそも各採用を承認しており、OpenAI はより高い報酬を出せる他社より、目標を持つ非営利組織で働きたい人々を採用してきた。いずれにせよ、一緒に退職すると結集したのは良い戦略で、機能した。「OpenAI is nothing without its people」は、悪い取締役会に対する権力の牽制だった
1件のコメント
Hacker News の意見
このスレッドにはコメントが1800件以上あります。全部読みたい場合は各ページ下部の More を押すか、以下のようにページを直接開けばよいです。
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
OpenAI が引き続き 501(c)(3) 慈善団体であり続けるなら、理事会に入る Microsoft の社員には、Microsoft の事業上の必要ではなく慈善団体の使命を優先する受託者責任があります。利益相反があまりに明白なので、IRS がこの構造を好むとは思えません
実際には、理事会規定と常識に従って、必要なときは回避し、愚かなことをしない、という形で回っています
OpenAI を公益慈善団体にしたのは大きな失敗で、そうした混乱の中に入るのは気が進みません。後で民間財団の地位に傾けば、さらに面白いことになるでしょう
https://openai.com/our-structureによると、営利子会社は OpenAI Nonprofit が完全に支配し、理事会メンバーは「広く利益をもたらす安全な AGI」という使命のために受託者責任を果たさなければなりません。投資家と従業員、Microsoft の収益分配には上限があり、上限を超える残余価値は人類の利益のために非営利組織へ戻ります。また、AGI に到達したかどうかは理事会が判断し、AGI は Microsoft の知的財産ライセンスと商業条件の対象外です
IRS がこうしたことを大きく気にするとは思えません。OpenAI が納税している営利企業 Microsoft に利益を誘導しているという主張なら、最悪の悪意ある介入を想定しても、IRS より SEC の管轄に近い話に見えます
Sam が CEO に戻ることで、OpenAI の理事会は機能不全に陥ったことを証明したのではないかと思います。誰が理事会にいても、CEO 解任という最も基本的な権限を行使できなくなり、Sam は事実上解雇不能な人物であることを示しました
だからといって Sam が嘘をついた、あるいは今後そうするだろうと主張しているわけではありません
適正手続きを踏み、従業員と投資家に知らせ、CEO を解任する理由を発表していれば、15分の Google Meet で処理した後に完全に沈黙するような事態にはならず、こうした怒りも起きなかったでしょう
CEO 解任という基本権限を行使したという理由だけで、取締役会に対する株主反乱が起きなかったと思うなら、状況の一部を見落としています
今後は誰もが Sam を警戒するでしょう。彼は以前の理事会で持っていたよりもはるかに小さいレバレッジしか持たなくなります。最終的には魅力と社交力で他の独立理事を説得して勝てるかもしれませんが、D'Angelo 側ではなく自分側に残ってもらうには、自分の行動をかなり制御しなければなりません
Sam が残るとしても、OpenAI のような複雑な組織には、CEO が直接介入しなくてもきちんと回るべき何千もの暗黙のルール、関係、隠れた手続きがあります。Sam の再雇用は、今後の OpenAI が以前のかすかな影に近づいたことを意味するように見えます。彼が本当に再び居場所を固めるなら奇妙に感じますし、他の退職者のことを考えるとさらにそうです。OpenAI が死ぬという意味ではありませんが、弱い面をさらしたのは確かです
結局、この非営利構造は見せかけで、うまく機能しないだろうということを皆わかっています
なんとなく Coke/New Coke fiasco を思い出します。結果的には Coke Classic を以前よりも有名にした出来事でした
消費者は、自分たちが知って育ってきた味を返せと怒り、従来製品を復活させろという要求があまりに大きかったため、記者たちはプロジェクト全体が演出だったのではないかとまで言いました。これに対し Coca-Cola 社長の Don Keough は 1985年7月10日にこう答えました。「私たちはそれほど愚かでもなければ、それほど賢くもありません」
https://en.wikipedia.org/wiki/New_Coke
『Stranger Things』の影響で New Coke が再発売されたときに飲んでみたけど、Coca Cola Classic よりずっと良かった。失敗したのが惜しい
Ilya は取締役会から外れたのに、Adam はまだ残っている。眉をひそめるようなことではあるが、とにかくそうなっている
Sam が戻ってきたからといって、この件がそのまま消えるわけではないだろう。Sam が代替不可能な人物のように見えた以上、OAI は大きな変化を経験するはずだ。長期的に OAI が Facebook や Uber のような巨大企業の一つになるかは疑わしく、信頼を失った
Google、Amazon、Facebook のような大手広告会社は、ほぼ毎月スキャンダルがあっても広告収入は入り続ける。Meltdown は大きなスキャンダルだったが、Intel は今もチップを作り続けている
Facebook、Amazon、Microsoft、Google のような巨大成功企業の創業神話にぴったり当てはまるわけではないが、こういう人物が巨大な会社を作る可能性はまだあると思う。もちろん、巨大な会社を作ることより重要なのは、狂ったように素晴らしいプロダクトを作ることだ
結局、正確に何が起きたのかはまだ分かっておらず、おそらく今後も分からないだろう。ただ、急速な商業化側の Team Sam と、初期原則の維持側の Team Helen/Ilya の間に亀裂があったことは明らかに見える
GPT-3 以前に出た記事でも、透明性、オープン性、協業という創設時の理想が、激しい競争とさらなる資金圧力によって侵食されていると述べていた。Team Helen はパニック状態で動いたが、組織の創設原則を守っていると信じていたため、勝てると思っていたのだろう。しかし、そもそも勝ち目はなかった。一般大衆の中で AI Safety を本気で気にしている人は少数で、残りは ChatGPT が宿題を手伝ってくれることを好んでいる。取締役会が途方もなく愚かに振る舞ったことは嘲笑されて当然だが、本当に超人的 AI が近く、悪意を持って行動し得ると信じていたなら、速度を落とそうとしたのではないかという反対側の視点も考える必要がある
正直、その脅威を真剣に受け止めるのは難しいが、以前よりも深く理解したくなった。思っていたほど根拠のないものではないのかもしれない。いつか Team Helen が「私たちが止めようとしていたのはまさにこれだった」と言う日が来ないことを願う
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
社員たちは現実世界に素早く影響を与える側に立ったし、それは彼らのキャリアやストックオプションにも直接影響する。原則をめぐる戦いと見るのもナイーブだ。急速な商業化対原則というスローガンは、各陣営が味方を集めるために掲げたもので、実際には弱く混乱した組織構造を利用した露骨な権力掌握だった可能性が高い。Altman を排除する「正しい」やり方は、取締役会で彼の権限を徐々に縛り、次第に儀礼的な役割へ追いやって、自ら辞めるように仕向けることだった
OpenAI だけを遅らせるのは、前提が間違っていた場合は会社に有害で、正しかった場合でも役に立たない。これは原則と方向性の戦いというより、自尊心と権力の戦いに近く見える
創設原則や憲章を指し示し、取締役会が Sam とその解釈をめぐって埋めがたい見解の相違を抱えていたと言い、同時にこれまでの貢献に深く感謝していたなら、状況は違っていたかもしれない。もちろん、適切な後任 CEO と、社員たちの PPU が流動化されるという保証のほうがはるかに重要だっただろうが。最初は Sam が何か犯罪でも犯したのかと思うほど、声明文がひどかった
OpenAI が独自の貢献をしたのは事実だが、圧倒的に先行しているわけでもない。OpenAI が揺らげば他のところが先頭に立つ可能性が高く、次の大きな革新がどこから出るかも分からない。脅威を本物と見るなら、なぜ OpenAI が絶対的な先頭走者だと仮定するのか理解できない。会社を遅くすれば、最もあり得る結果は他に先頭を譲ることだ
構図はこう見ればよい。開発者一人の Ilya 対ビジネスパーソン一人の Sam では、Sam が勝つ。数百人の開発者が退職をちらつかせ、取締役会が踏みとどまると、開発者たちが勝つ
外から見ると、開発者たちが最初から力を握っていたように見えるし、そうであるべきだ
彼らは新しい Microsoft スタートアップで同様の職位と報酬を得られたので職が危険にさらされておらず、Sam がそもそも各採用を承認しており、OpenAI はより高い報酬を出せる他社より、目標を持つ非営利組織で働きたい人々を採用してきた。いずれにせよ、一緒に退職すると結集したのは良い戦略で、機能した。「OpenAI is nothing without its people」は、悪い取締役会に対する権力の牽制だった
竜を目覚めさせてはいけない
金が勝ったというほうが近い。ほとんどの社員はOpenAIの使命をあまり気にしていなかったのは明らかに見える。彼らを責めるつもりはない。彼らは営利のOpenAI社に雇われ、その目標に合わせて持ち分で報酬を受けていたからだ
私の考えでは、取締役会がOpenAI本来の使命を守ろうとしたのは正しかった。今となっては、その使命は何の意味もなくなってしまったが。Google、Meta、Microsoftがどうせ開発するという主張は都合のいい論理だ。核兵器競争でも「われわれが作らなければ他が作る」という形で使われ、その結果が今日の状況だ
D'AngeloではなくIlyaが黒幕だったという証拠が何なのか気になる
民間産業主導のAI安全性アプローチに期待していたが、今では難しそうに見え、公的AI研究開発への国家投資が遅いため、あらゆるAI安全性アプローチが不確実に見える
おもちゃモデルでの安全性研究は今後も進展し続けるだろうが、業界の見立ては、創発的性質のために最先端モデルを研究しなければ安全性について学べる上限は低い、という方向に見える。AltmanはOpenAIのガバナンス構造が安全性を優先させる仕組みだと宣伝していたが、安全性担当者をChatGPTの負荷対応側へ再配置したとの報道は懸念される。今回、取締役会は技術的には可能だったものの、こうした利害関係を制御できるほど強くはなかったことを示した。Anthropicを含め、安全志向の組織が資金提供者の加速主義的な影響からどう逃れられるのかは不透明になった
計画は立てられず、算術もできず、推論もできない。自然言語クエリで知識を大まかに検索でき、この部分はかなり優れており、データを自然言語や他のモダリティにエンコードできる。これ自体は心配していないが、人々がこのモデルにできることをひどく誤解したうえで重要なことに使おうとするのは心配だ
本当にこんなことが起きるとは思わなかった。次の疑問は当然、Ilyaがどうなるかだ。今回の発表を見る限り取締役会からは外れたようだが、今もチーフサイエンティストなのか？ 彼とSamが関係を修復して、あれほど近くで一緒に働けるとは信じがたい
Adamが取締役会に残ったのも興味深く、彼が利益相反のために首謀者だったという、ここで出回っていたいくつもの仮説を否定しているように見える
Ilyaがまだ排除された状態なら、おそらく辞め、最も多くの支配権を与える会社が彼を迎えるだろう。解雇されても同じだ。合意の一部として再び中心に据えられるなら、おそらくチーフサイエンティストとして残るだろう。これでSamの敵意が少し和らぐことを願う
ネットで翻意したと嘲笑されることは分かっていたはずなのに、署名した社員たちにとって最善だと思った方向に動いた。彼の行動は批判され得るが、道徳的性格は表れたと思う。他の取締役会メンバーはもっと個人的な理由で決定したように見え、Adamの利益相反とも合っているように見える。正直、4人のうち取締役会に残したい人はIlyaだけだ。リーダーの立場には、新しい情報に応じて方向転換できる人が必要だ
新しい取締役会は、Adam D'Angeloが取締役会寄り、Brett TaylorがSam寄り、Larry Summersが中立に近いように見える。Brettは日曜からSam復帰を推してきたので、SamとOpenAIのリーダー陣は彼を好んでいると推測する。LarryはAI分野で働いたことはないが、一般的に尊敬されている名前であり、双方が妥協する前に幅広い面接と評判確認を行ったはずだ
今後、取締役会がどう変わるのか興味深い。大まかに二つの派閥があった。Samが速すぎると見た派閥が彼を解任し、Samの軌道で問題ないと見た派閥にはSamとGregがいた。今や取締役会にバランスが生まれ、以後の任命がどちらか一方に傾かせる可能性がある。残念ながら、分裂した取締役会は長続きしにくく、最終的にはどちらか一方が勝つ可能性が高い。私はSam側が最終的に勝つと思うが、見守る必要がある
今回のドラマで最も悲しい結果の一つは、GregがOpenAIから押しのけられたことだ。Gregは優秀な人物であるだけでなく、OpenAIに週80〜90時間を継続的につぎ込み、人生のかなりの部分をこの組織を作ることに捧げたと言える。そういう人物が、OpenAIを作るために週90時間働くどころか、ほとんど貢献していない取締役会によって退かなければならなかったのなら侮辱だ。Ilyaは例外であり、自分の行動がOpenAIを殺していることを見て立場を覆した点も注目に値する