サム・アルトマン、OpenAI CEO復帰の試みを継続
(theverge.com)- Microsoft参加の発表後も、Sam AltmanとGreg Brockmanの去就は確定しておらず、OpenAIの取締役会が退任すれば2人は復帰する意思がある
- OpenAI従業員のほぼ全員が、取締役会の辞任とAltman復帰を求める公開書簡に署名し、解任に関与していたIlya Sutskeverも署名に加わった
- Microsoftの採用発表は、月曜日の株式市場開場前に危機を鎮めるための暫定的な状態に近く、Microsoftは関連コメントを拒否した
- 新CEOのEmmett Shearは、Altman解任の根拠文書をまだ受け取っておらず、独立調査員を雇って全過程を調査すると従業員に通知した
- Satya Nadellaは、Altmanと従業員がOpenAIに残るにせよMicrosoftに来るにせよ、どちらにも開かれているとしつつ、OpenAIのガバナンス変更が必要だと見ている
Altman復帰の可能性が残る理由
- Sam AltmanのMicrosoft移籍は、OpenAIでの解任後に発表されたが、まだ確定した取引ではない
- Altmanと共同創業者Greg Brockmanは、自分たちを解任した残る取締役会メンバーが退任すれば、OpenAI復帰を受け入れる意思がある
- AltmanはXに「私たちはどんな形であれ皆で一緒に働くことになる」と投稿し、対立が終わっていないことを示した
従業員による公開圧力と取締役会の構図
- OpenAI従業員のほぼ全員が、取締役会の辞任とAltman復帰を求める公開書簡に署名した
- Altman解任で中心的役割を果たした取締役会メンバーであり、主席科学者でもあるIlya Sutskeverも書簡に名を連ねた
- 残る取締役会メンバー3人のうち2人だけが立場を変えれば、Altman復帰の可能性が開かれる状況だ
- Altmanに反対する残る取締役会メンバーは、Quora CEOのAdam D’Angelo、元GeoSim Systems CEOのTasha McCauley、Georgetown Center for Security and Emerging Technologyの戦略ディレクターHelen Tonerである
Microsoft発表が残した不確実性
- Altman、Brockman、OpenAI投資家は、取締役会が退任できる円満な出口を探ろうとしている
- Microsoftの採用発表は、月曜日の株式市場開場前に危機への解決策が必要だった状況で出た、いわば「holding pattern」に近い
- Microsoftの広報担当者は、この件についてコメントを拒否した
- Altmanはその後Xで、自身の最優先課題はOpenAIが今後も繁栄し続けることを確実にすることだと述べ、自身とMicrosoftはパートナーと顧客のための業務継続性を提供することに尽力していると明らかにした
- AltmanはMicrosoftの社内企業ディレクトリにはまだ掲載されていなかった
OpenAI内部の反発とEmmett Shearの最初の課題
- Altman解任後、OpenAI内部では金曜日から権力闘争が続いている
- OpenAIのほぼすべての従業員は、Altmanに反対する現在の3人の取締役会に対抗している状況だ
- San Francisco本社の従業員は、新CEO Emmett Shearとの日曜日の緊急全社会議への出席を拒否した
- 新CEO発表に対して、OpenAI Slackでは「fuck you」の絵文字リアクションが付いた
- 従業員はソーシャルメディアに、OpenAI開発者のためにサービスを安定的に維持していると投稿しており、取締役会辞任への圧力の中でも会社が完全に崩壊しないようにしようとする動きに見える
解任根拠とガバナンス変更要求
- Emmett Shearは、Altman解任に関する取締役会の詳細な理由を記した書面文書をまだ確保できていない
- その詳細な理由は、OpenAIの投資家にも共有されていない
- Shearは従業員向けメモで、最初の業務として独立調査員を雇い、これまでの全過程を調査して完全な報告書を作成すると通知した
- Satya NadellaはCNBCで、AltmanとOpenAI従業員がMicrosoftに加わるかどうかは、OpenAIの取締役会・経営陣・従業員が選ぶべきことだと述べた
- Nadellaは、MicrosoftがOpenAIとのパートナーシップを明確に選択しており、OpenAIの人々が残る場合でもMicrosoftに来る場合でも、その両方の選択肢に開かれていると見ている
- OpenAIの取締役会の議席が必要かどうかについて、Nadellaはガバナンスには変化が必要であることは明らかであり、取締役会と対話すると述べた
- Bloomberg TVでは「サプライズは悪い」と述べ、Microsoftが明確にガバナンス変更を望んでいると明らかにした
1件のコメント
Hacker Newsの意見
太平洋時間10時時点で、従業員770人中700人が取締役会の辞任要求書に署名
https://twitter.com/joannejang/status/1726667504133808242
「アラインメント」の話をするなら、実際、多くの人の頭の中で alignment は集団思考になってしまっている
OpenAIで経験的バイアス（IS）と価値バイアス（OUGHT）を分離できる可能性があり、意味のある立場にいた唯一の人物は、おそらくIlyaだったはずだ。彼を失う、あるいは意味のないポジションへ追いやることは、インフラ運用における雇用の安定性が曖昧なまま維持されている700人の実務担当者を失うことより、はるかに致命的になり得る。Microsoftは、社内人員と自社資本の設備を投入し、公開文献に基づくLLMの理解だけでもOpenAIの「IP」を再現できる立場にある
連帯の表明としては有用かもしれないが、この署名者たちが実際にSamについてMicrosoftであれ他の場所であれ退職するコンバージョン率には懐疑的だ。おそらく従業員の20%、つまり140人程度が実際に動くのではないかと思う
いったい何が起きているのかと思う
この人たちが今、およそ1週間前に時計を巻き戻そうとしていないことは、人間の自我の危険性を示している
すべての当事者が同意するなら、比較的簡単には戻せない永続的な措置はまだない。いま見ているのは、自我の慣性が意思決定に及ぼす効果だ
試してみる価値はある。おかしな考えではない。すべてを1週間前の状態に戻して前に進むことで合意すれば、わずかな残余の結果だけを残し、未来を知ったうえで始めるのに近くなる。それが可能なら、組織が自らを修正する能力において、途方もない進化的飛躍を示すことになる
浮気した恋人に似ている。双方とも時計を巻き戻したいと思うかもしれないが、残念ながらそれは不可能だ
人々は自分の過ちを認める人に対して悪名高いほど過酷だ。たとえば議論に負けたとき、討論が下手だったにせよ主張が明らかに間違っていたにせよ、それを認めると、人々は謙虚さとは見ず、「間違った人」だと皆に知らしめるために群がる理由にする
今回はインターネット上のスコアではなく、仕事、大金、莫大な評判がかかっている。謙虚さを示したときのリスクが極端に大きく、報酬がほとんどないのなら、なぜ踏みとどまって最後まで勝とうとしないのか
配偶者に真夜中に背中を刺されたのに時計を巻き戻すのは、簡単でも賢明でもない。なぜそうすべきなのか
Altman一派は認めるべきところは認めるべきで、非営利組織を営利企業へとひっくり返して作り上げることにおいて、途方もなく革新的だった。しかし、緊張を解消する仕組みのない二重ミッション構造だ。どこかの時点で、ほとんど税務詐欺か証券詐欺を犯さざるを得ない構造になる
だからすべてのピースを元に戻し、敵意と自尊心を鎮めたとしても、結局は壊れたゼンマイ仕掛けのネズミを巻き直しているにすぎない
今回の件ではっきりしたことがあるとすれば、人類は超知能の守護者になる準備ができていないということだ
彼らは現代、ひょっとすると歴史上でも最も影響力のある技術の一つを作った最高の頭脳たちであるはずなのに、全員が些細なことで騒ぐ子どものように振る舞っている。自我と個人的利害があちこちに引っ張り合い、みんな自分の取り分を確保しようとしている
私たちは本当に詰んでいる気がする
今はこれらのモデルが一つの壁を越えたのだから、残りも今後数年で簡単に越えられるだろうと考える人が多すぎる
私の考えでは、次の壁は一つ一つが少なくとも一桁分は複雑だ
ChatGPTや関連するコーディングツールが自分の仕事を脅かしていると感じるなら、おそらく知能を必要とする仕事をしていない可能性が高い。CSSをいじること、アニメーション・テーブル・API呼び出しごとに同じロジックを書き直すことは、意味のある仕事ではない
人間は、特に他の種と比べると大したものに見える
自然はすでに答えを知っていて、人間が自然を妨げているという感覚が広くあるようだが、それが事実だとは納得できない。自然は、あらゆるものが死闘を繰り広げる巨大な剣闘場のように見える。自然は死、しばしば途方もない死を通じて均衡を見いだす。その均衡も壮大な設計ではなく、どの種がエネルギー源の発見と活用に成功したかを中心に組み上がった運にすぎない
人間は環境を攪乱した最初の種でもないし、大量絶滅を引き起こした最初の種でさえないかもしれない。私の理解では、大酸化イベントは種が引き起こした大量絶滅イベントだった
ほとんどの種は好況期に資源をすべて消費し、不況期に飢え死にしながら生態系の一部まで巻き添えにするが、人間は比喩的に言えばトウモロコシを食べ尽くしながらも「皆さん、私たちはトウモロコシを全部食べてしまっていますが、これはうまくいかなさそうです。何かすべきでは？」と顔を上げる種だ
こうした種レベルの自覚は希望を与えてくれるし、本当に素晴らしいと思う
生命を責任を持って管理し、地球が生命を支えられる比較的短い期間の後も生命が生き残る可能性を高めるうえで、人間より優れた第1候補の種を見たことがない。2位にどんな種を置くとしても、人間はかなり大きな差で先行しているとまで言える
仮想の「完璧な人間のユートピア」と比べれば、人間は不十分だ。だがそれは同語反復だ。人間への批判の大半は、自然という基準線と比べた欠陥というより、目標のように読める
無機的な超知能から私たちを守る問題についても、私たちがどう失敗するのかについて合理的なシナリオを見たことがない。私たちには死にたくないという自己利益がある。超知能だと認識しないまま作り、それが私たちを排除しようと準備していることにも気づかない場合でない限り、どんな企てでもかなり早い段階でプラグを抜くのではないか。超知能を作り、検知しようという関心が大きい状況で、それをどう見逃すのかも分からない
例えば、超知能が軍隊を作っていることに気づいたら、その軍隊が既存の国家の軍隊と競争できるようになる前に、なぜ止めないのか
超知能が経済やコンピューターシステムを攪乱し始めたなら、なぜ早期に検知して排除できないのか
私たちが超知能を作るなら、それは超知能になった瞬間に自由になることがほぼ確実だ。守れるのではなく、アラインされることを願うことしかできない
Amir Efrati（TheInformation）によると、OpenAI社員の92%以上が、取締役会が引き下がらなければAltmanについてMicrosoftへ行くと言っている
署名者には共同創業者のKarpathy、Schulman、Zarembaも含まれている
https://twitter.com/amir/status/1726680254029418972
いつか一体何が起きていたのかを説明するドキュメンタリーが出なければ、非常に残念に思うだろう
この出来事の渦中にいる人たちでさえ、今何が起きているのか分かっているのか確信が持てない
人間には見抜けないほど高度化された戦略だ
目的は分からないが、最終的にはすべてがそのメール1通のせいで噛み合うことになる
連鎖反応は止められない
友人はMichael CeraがIlyaとAltmanの両方を演じるといいと言っている
ChatGPTを軽く使っている非技術系の友人たちも、使っていない友人たちまでもが、この話に釘付けになっている
どれだけ頑張っても、これ以上めちゃくちゃな筋書きは作れない気がする
この速さなら、Muskが割り込んできても驚かない。すでに十分に荒唐無稽なのだから、できないことがあるだろうか
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
「しかしSemaforによると、2018年初頭、Muskは同社がGoogleに後れを取っていることを懸念していた。彼はOpenAIを自ら掌握して運営すると提案したが、当時CEOだったSam Altmanや社長だったGreg Brockmanなど、他のOpenAI創業者たちに拒否されたという」
ツイートは削除されたようなので、記憶に頼って言い換えているだけだから、そのつもりで受け取ってほしい
いくつか思い浮かぶ
Emmett Shearは契約書に強力なゴールデンパラシュートを入れておくべきだった。そうしていれば楽に稼げただろう
昨日はSatyaが取締役会を辞めさせる天才で、今朝はOpenAIを0ドルで買収した天才だった。samaが戻れば、また別の話が出てくるだろう。だからsamaが戻るなら、なぜSatyaが天才なのか聞いてみたい
その代わりに混乱を管理し、どんな結果になってもMicrosoftが勝つようにした。天才とは、複雑に無理やりねじれた筋書きを事前に完璧に予測する人ではなく、どんな場合でも勝てるようにセットしてあるので気にしなくていい人のことだ
OpenAIが崩壊する？ 実質タダで人材を買ったことになる
OpenAI 2.0が成功する？ いいことだ、依然として投資済みの状態だ
現実的に、Sam @ MSFTがすぐ成功するとは思えない。知識やノウハウがあっても、GPT-4級の新モデルをただ立ち上げられるわけではない。うまくいってもAnthropicより約12か月遅れていて、それでもGoogleよりはおそらく2年先を行っているだろう
今や、考えられるすべての結末がMicrosoftにとって前向きに見えるほど、十分に良い位置を確保したようだ
AGIを阻止するために過去へ送られたタイムトラベラーがOpenAIを破壊している、という説にますます傾いている
Terminator 2の結末を思い出す。技術コミュニティが目を覚まして、Cyberdyne本社が爆発し銃撃戦が起きたことを理解しようとしながら、「いったい今何が起きたんだ？！」となっている場面みたいだ
これは道徳的な十字軍ではなく、資本の流出だと皆が認めてほしい
従業員たちは大金を手にしたいから、Altmanがどこへ行こうと付いていこうとしているだけ。いずれにせよ彼はシリコンバレーの半分を動かしているので、賢い選択でもある。Samが英雄だという公的な言説は、最近AIを中心に回っている技術エコシステム、つまり「OpenAIラッパー」ゲームにいる人々がさらに固めている
安全性、オープン性、AIが人類に与える影響には誰も関心がない。最後まで貪欲さだ。勝つ可能性が高い側に立つこと。それは合理的な自己利益であって、何らかの「高貴な大義」ではない
D’AngeloがPoeとの利益相反のような、とんでもない理由で彼を解雇した可能性も無視できない
数時間前までは、誰もがIlyaを高貴な理想主義者として崇めていた。ところが今では、その彼でさえこの解雇を撤回するかのように後悔している。人々はこの新しい情報を受け入れて、この決定がどれほど良いものだったのかを再評価していないように見える。好意的に見ても、意図は高貴だったが実行は完全に無能で、今は頑固な自尊心と法的責任への恐れが混ざり合って、引き下がれなくなっている状況だと思う
自分がOpenAIの従業員だったら、もどかしかったはずだ。立派で理想的な理由のために莫大なストックオプションなどを諦めるのと、今のように何の理由も示されないままそれを諦めろと求められるのとでは、まったく違う
もっともらしい説を今見たが、SamがDev DayでPoeを出し抜いたため、D’Angeloがこの件を主導したという内容だった。本当かどうかは分からないが、もしそうなら、彼が誰にも、解雇時のSamにすら理由を説明しない理由は説明できる。その理由を明かせば、深刻な法的リスクに陥りかねないからだ
https://twitter.com/scottastevenson/status/1726731022862008733
映画の序盤、事が起きる前の段階だというのは分かるが、誇張が大きすぎると感じる。治療の面や、考えを投げかけられる「誰か」と会話しながら、穏やかに軌道修正したり正しい方向へ押してくれたりする潜在力は非常に大きいと思う
多くの人は治療を受ける余裕がない。ChatGPTがCBT、DBT、IFSのような特定の手法の知識ベースを参照し、言葉や行動における初歩的な問題パターンを特定する助けになるなら、ほぼ無料で望むだけ頻繁にガイドを受けながら、自己修正を練習できる
自分が関心を持っているのはまさにその点で、いつもそれを大きな可能性として見るだろう
皆が元気に過ごし、互いに親切であってほしい。これは過程であり目的地でもあり、人々はその両方を愛する方法を学び、深く本物の回復と癒やしの機会が豊富な形で関われると信じている。常に開かれていて、誰でも受け入れるような機会だ
付け加えると、自分は望むだけ治療を受けられるが、一般的にはあまり助けになったり有用だったりすると感じない。ChatGPTはCBT/DBT/IFSのような効果的なものを練習する助けになり得るので良いし、参照するテキストを持って使うため、作り話の内容も回避できる
自分から見てChatGPTがもたらす最大の脅威は、人々の収入の喪失だ。「仕事」そのものには関心がなく、人々が十分に持ち、まともに暮らせるかどうかが重要だ。すでに十分すぎるほど大きな取り分を持っているパイをさらに取ろうとする利己的な人々に対処できるなら、彼らは分け合うべきで、公平になるまでタイムアウトを取るか、完全に退くべきだ。もう十分だ。皆が十分に持つまでは、誰も過剰を持つ必要はなく、その後は他人を傷つけない限り好きに持てばよい。他人を傷つけることはやめるべきだ
表面的にはうまくやっていたCEOが強制的に排除された。強く感じるのは自然なことだ
OpenAIが投資家に任命された取締役会によって支配されていないからこそ、まさにこういう結果が生じたのだ
どうかもう「人類のために」というのはやめてほしい
有用なコミュニケーションが全体的に不足している状況なので、全従業員が退職するまさにその時にSam AltmanがOpenAIへ戻ってきたら笑えると思う ;)