元OpenAI取締役、Sam Altmanの一時的な追放理由を公表

 (businessinsider.com)
1 ポイント 投稿者 GN⁺ 2024-05-29 | 1件のコメント | WhatsAppで共有
  • 元OpenAI取締役のHelen Tonerは、Sam Altmanが取締役会に何度も嘘をつき、その信頼崩壊が2023年11月の一時的な解任につながったと主張
  • 取締役会はChatGPTの公開をTwitterで知り、Altmanが長年にわたり社内状況を隠したり誤って伝えたりしていたとTonerは説明
  • AltmanがOpenAI startup fundの所有を開示しなかったことは、彼が独立した取締役だと主張してきた点と矛盾する重要な事例として挙げられている
  • Tonerは、AltmanがOpenAIの公式な安全プロセスの数についても不正確な情報を与えたため、取締役会が安全対策の十分性を判断しにくかったと見ている
  • 取締役会は2023年10月から解任を真剣に議論していたが、従業員離脱の脅威やMicrosoftによるAltmanチームの引き抜きの可能性が取り沙汰された後、1週間も経たずに彼をCEOへ復帰させた

Helen Tonerが明かした解任の背景

  • 元OpenAI取締役のHelen Tonerは、Bilawal Sidhuの「The TED AI Show」のインタビューで、Sam Altmanの2023年11月の一時的な解任の背景を明かした
  • Tonerによれば、Altmanは取締役会に「何度も」嘘をつき、取締役会はChatGPTの公開もTwitter経由で知った
  • Altmanは何年にもわたり情報を隠し、社内で起きていることを誤って伝えていたとされる
  • また、自身がOpenAI startup fundを所有している事実を取締役会に知らせないまま、会社に金銭的利害関係を持たない独立取締役だと主張し続けていた
  • この件はAltmanに対する取締役会の信頼を大きく損ない、2023年10月にはすでに解任の必要性がかなり真剣に議論されていた
  • Business Insiderのコメント要請に対し、OpenAIはすぐには回答しなかった

安全プロセスとリーダーシップへの信頼の問題

  • Altmanは、OpenAIに存在していた少数の公式な安全プロセスについても、取締役会に不正確な情報を与えたとされる
    • そのため取締役会は、安全対策が十分か、変更が必要かを理解することがほとんど不可能になった
  • Tonerはほかにも個別事例があったが、最終的に取締役会はAltmanの言葉を信じられない状態になったと見ている
  • 取締役会の役割は、OpenAIに対する独立した監督であり、CEOがより多くの資金を調達できるよう支援することだけではなかった点も強調された
  • 2023年10月、2人の幹部が取締役会と複数回にわたり対話し、Altmanとの経験を説明する中で「psychological abuse」という表現を使った
    • この幹部たちは、Altmanは会社をAGIへ導く適任者ではないと判断していた
    • また、彼が変われる、あるいは変わるだろうという期待はなく、フィードバックを与えたり問題解決を図ったりしても無意味だと伝えた
  • 取締役会がAltmanの交代の必要性を認識した時、Altmanがそれを知れば、取締役会の動きを阻止するために「ありとあらゆる手段を講じる」ことは明らかだったとTonerは見ている
    • Tonerによれば、AltmanはTonerを取締役会から追い出すため、ほかの取締役に嘘をつき始めた
    • 取締役会は法務チームを除き、事前にはほとんど誰にも知らせない形で、2023年11月17日まで手続きを進めた
  • Altmanの解任は長続きせず、従業員による退職の脅しや、MicrosoftがAltmanチームをOpenAIから引き抜いて直接雇用する可能性が取り沙汰された後、取締役会は1週間も経たずに彼をCEOへ復帰させた
  • Tonerは、AltmanがCEOに復帰してから2週間も経たないうちにOpenAI取締役会を辞任した

関連記事

1件のコメント

 
GN⁺ 2024-05-29
Hacker Newsのコメント

  • https://archive.is/LpDuJ

  • 今回の事態全体は、名目上の権限と実際の権力に関する興味深いケーススタディだ。
    書類上は取締役会が権限を持ち、経営陣を監督し、採用・解任する役割を担うが、実際には情報面で経営陣に依存している。
    ある投資家が半分を保有し、創業者たちがロードマップを主導し、主要人材の離脱の有無にも影響力を持つところに実際の権力がある。

    • この場合、OpenAIの取締役会の立場ははるかに悪かった。
      会社が事実上、研究者、エンジニア、Microsoft Azureクレジットの集合体なので、CEOを交代させることはできても、気に入らなければ会社の価値全体が歩いて出ていってしまい得る。
    • 取締役会が単に降りたということ。
      その任務にふさわしい人たちではなく、もう少しだけ踏ん張って広報戦略をうまく組んでいれば勝てただろう。
    • より正確には、地位に基づく権力と関係に基づく権力の違いだ。
    • 『A Song of Ice and Fire』のセリフを思い出す。 
      Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”

“So power is a mummer’s trick?”

“A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”

  • この内容が事実である可能性はかなり高そうに見えるが、同時に取締役会を無能で対立に耐えられない集団のように見せている。
    公式な問題提起、監視の強化、Samの責任を他の人に移管、法的措置の警告といった選択肢があったのに、代わりに秘密のクーデターを試み、その結果Samが弱者のように見えることになった。

    • 取締役会の役割を根本的に誤解しているように思える。
      会社の取締役会には実質的に一つの仕事、つまりCEOを任命し解任することがある、とよく言われる。
      少し誇張かもしれないが、この言葉の核心は、取締役会が経営陣の意思決定に介入すると事態が悪化するということだ。
      決定が気に入らなければCEOを交代させるべきで、権限もそこにある。
      「公式な問題提起」を誰にするというのか分からない。
      取締役会が最終権限者なのに、誰に苦情を申し立てるというのか曖昧だ。
      「Samの責任を他の人に移管」することも、コーポレートガバナンスの専門家なら災厄の処方箋と見るだろうし、会社の階層上も不可能だ。
      Altman解任の処理の仕方は非常にナイーブで、当時のコミュニケーションもひどかったと何度も述べてきたが、それが何らかの「クーデター」だったとは思わないし、提案されている対応も筋が通らない。
    • 「クーデター」という表現をよく見かけたが、正当化するのは難しい。
      彼らは取締役会であり、CEOを採用し解任することは中核業務だ。
      非営利組織では、ミッションとの整合性を維持することも同様だ。
    • 「公式な問題提起」を誰にするというのか？
      取締役会自体が調査し行動する権限を持つ最終権限者だ。
      メンバーに懸念があれば行動するかしないかだけで、責任を渡す先はない。
    • そこまで信用できず、比喩的な拘束衣を着せなければまともに振る舞えない人なら、CEOとして置いておく意味が何なのか分からない。
      しかも報復的な性向があるなら、内部で権限を持ったままのほうが、はるかに簡単に害を与えられる。
    • 個人関係で虐待的な人に対処する際の標準的な助言は、逃げろということだと思う。
      たいてい、直せると期待するのは非現実的だからだ。
      信頼が前提となるビジネス関係にも同じ論理が当てはまらない理由があるだろうか？

  • ほとんど誰にも事前に知らせなかったのは、Altmanの妨害から取締役会を守る意図だったが、結果的に防御不能な立場に追い込んだ。
    非常に裕福で人脈のある人たちを相手に、掲げるストーリーすらないまま一人で戦うことになったわけだ。

    • プレスリリース1本が結果を完全に変えていたかもしれないという気がする。
      取締役会なら、自分たちの間でプレスリリースくらい合意できるべきではないか？
    • 核心は、これを実行しておきながら、公にその理由を説明できなかったことだ。
      こういうことをするなら、準備をすべて終え、防御できる態勢になっているべきだ。

  • 「誰に知らせるかを非常に慎重かつ入念に選び、法務チームを除けば、実質的にほとんど誰にも事前に知らせなかった」という話だが、漏えいをそこまで心配していたなら、少なくとも当日に主要投資家、つまりMicrosoftに渡すブリーフィング資料くらいは用意しておくべきではなかったのか？
    主要投資家、事実上の自分たちの上司を事前に説得できていなかったなら、なおさらそうだ。

    • この場合、主要投資家は取締役会の上司ではない。
      OpenAIは非営利組織だからだ。
      Microsoftには非営利憲章の目標に反して行動する誘因があり、実際に今回もそうした。

  • すべての証拠は、Altmanが嘘をつき、二枚舌で振る舞っていたことを示している。
    自分でも解雇しただろう。

    • 政府命令を拒否し、人々の目をスキャンしてジャンクコインと交換することをやめず、2か国から追放されたあの人物のことか？
      その人が嘘つきで二枚舌だって？

  • それでも奇妙なのは、取締役会がどうやって彼を呼び戻したのかという点だ
    どの角度から見ても理解できない
    彼が嘘をつき、策を弄していたことはかなり明白なのに、なぜそれが問題になったのか分からない
    解任された後は権限がなかった
    他社が彼を採用したいならそうさせればいいし、Twitterでもっともらしいことを並べるだけなら気にする必要はない
    従業員が辞めると脅したなら、辞めさせればよかった
    実際には多くは辞めなかったと思うし、辞めたとしても再採用してまともなCEOを探せばよかったはずだ
    残る従業員こそ、引き留めるべき人たちだった可能性が高い
    なのに、なぜ彼を再雇用してから辞任したのか？ 解雇したまま辞任すればよかったのではないか？
    MicrosoftがなぜそこまでAltmanを気にかけたのかも分からない
    取締役会の席もなかったのだから仕方のないことで、影響力を持つべきではなかった
    OpenAIが欲しいなら買えばいい
    MicrosoftがAltmanを自社に連れてきて得られる価値が何なのかも分からない
    すべてが筋が通らない
    むしろ最も明らかなのは、Altmanの否定的な行動様式だ
    OpenAIの持ち分はないと声高に無邪気なふりをして発表していたのを覚えている
    そうか、経験豊富なベンチャー投資家が、自分に金銭的利益がまったく生じないように新会社の構造を作ったと信じろというのか
    別の時間軸では、OpenAIが彼を解任して暫定CEOを任命し、ほかのあらゆる雑音を無視して新CEOを選んでいても、うまく回っていたはずだ
    Microsoftや他の人たちがなぜあれほど大騒ぎしたのか分からないし、取締役会も詳細を示せたはずなのに、なぜあんな謎めいたプレスリリースを出したのか分からない
    陰謀論的な可能性まで考えても理解できない
    Satya Nadellaを含め、関係者の誰も自分たちが何をしているのか分かっていないように感じる

    • 答えを自分で言っておきながら、それを退けているようなものだ
      取締役会がSam Altmanの復帰に同意したのは、従業員の90%以上が辞職をちらつかせ、OpenAIの知的財産権を持つMicrosoftが彼ら全員をただちに採用すると申し出た、巨大な圧力戦があったからだ
      そこには会社の中核的なリーダー陣も含まれていた
      組織は一夜にして解体されつつあり、「不満を持つ従業員が数人辞めるかもしれない」という閾値をはるかに超えていた
      残って管理するOpenAIそのものがなくなっていたはずだ
    • 現在の取締役会は、ではどんな状態に置かれているのか？
      CEOは謝罪も責任の認めもしておらず、仮にしていたとしても、取締役会の監督を積極的に妨げることは明らかな越えてはならない一線だ
      職務遂行に必要な情報すら提供しないという態度を示したCEOと一緒に、取締役会がどうやって役割を果たせるのか？
      このCEOが情報アクセスを妨げられる立場に留まっている限り、取締役会に信頼性はない
    • 完全に同意する
      OpenAIや取締役会メンバーにはまったく関心がないが、取締役会が最低限まともにやるべきただ一つの仕事である採用と解任で、あまりにも多くの無能を見た
      それだけでも取締役会の刷新は良かったと思う
      この件で誰を支持するかは関係ない
    • Microsoftには売り払われた版のOpenAIが必要なのだ
      そうすれば、倫理や安全について面倒なことを言う人なしに、できるだけ多くの金を稼げるからだ
    • Helen Tonerによると、OpenAIの弁護士たちは、彼を排除し続けて会社が大金を失えば、Tonerや他の取締役会メンバーが個人的に責任を負う可能性があると言ったという

  • AGIに最も近い会社のCEOが、非常に賢い一方で明確なアラインメント問題を抱えているというのは面白い

  • Tonerによる今回の説明は、Samが追放された理由について事実らしく聞こえる面がある
    つじつまが合っている
    Sam個人をどう思うにせよ、その立場なら自分もおそらく同じ決断をしただろう
    CEOが取締役会に何度も嘘をつき欺くのは、かなり重大なレッドラインだ

    • SamがY Combinatorで解任された理由とも似ている
      目新しいことではなく、金が絡むと人々の記憶が道徳心と同じくらい曖昧になるだけだ

  • 人々がY Combinatorの掲示板でSam Altmanを擁護しに駆けつけるのは皮肉だ
    YCも同じような理由で彼を経営幹部の役割から解任した

    • Altmanについての自分の考えは、GPT-2を安全上の理由でゆっくり公開したときと同じだ
      現実がどうであれ、最悪を想定し、それが実際である可能性にも耐えられるシステムと手順を備えるのが最善だ
    • Looptの始まりと終わりの両方を見届けるほど長くいた人たちにとっては、まったく普通の常識だ
      Altmanは売り物になる技術が一つしかないダークトライアド型のソシオパスで、その技術はpgの言う通り「powerfulになること」だ
      コーディングもできず、設計もできず、論文も出せず、少しでも不正防止装置のある伝統的な企業の階段も上れず、クッキーの瓶から手を引くこともできない
      その代わり、嘘をつき、脅し、丸め込み、操作し、賄賂を渡すことは、ためらいや後悔なしにできる
      この馬鹿げたものに10年にわたって弱気で賭けてきたが、そのおかげで破産せずに持ちこたえる助けにはならなかった。ただ、市場が理性的になるときはたいてい一気にそうなる
      Karpathy、Ilya、Yoonがすぐに思い浮かび、それ以外にも数え切れないほどいる
      LeCunは少し前にXで本気で攻撃的に出ていた
      内部者たちが、GoldmanがBurryを相手にしていたときのようにショートポジションを取っている感じだ
      彼は九つの命を持っていて、詐欺的な問題で既に三回ほど解雇されているのに、いまだにそういう人生を送っているのだから、もしかすると結局、私のグラスにIce Nineを入れるほど長く持ちこたえるかもしれない
      だが、こうしたことは無限には繰り返せない
    • 事実ではない: https://twitter.com/paulg/status/1796107666265108940
    • 彼の妹に関する件は解決したのか？
    • 「解任された」と書かれていたので、具体的で信頼性の高い出典をGoogleで探そうとしたが見つからなかった
      見つけた中で最善だったのは、「Altmanは自分の利益を優先したという理由でYCombinatorの会長職を解任されたとされる」程度だった
      ここで重要なのは「allegedly」という表現だ
      YCのプレスリリースや、内部者による解任の説明はあるのか？ ないなら単なる噂にすぎない
      はっきりさせておくと、AltmanやYCを擁護するために書いているわけではない