サム・アルトマンがOpenAIのCEOに復帰、新たな初期取締役会を編成

 (openai.com)
1 ポイント 投稿者 GN⁺ 2023-12-01 | 1件のコメント | WhatsAppで共有
  • OpenAIはリーダーシップの空白を収拾し、Sam AltmanをCEOに復帰させ、Mira MuratiをCTO、Greg BrockmanをPresidentに再配置
  • 新たな初期取締役会はBret Taylor議長、Larry Summers、Adam D’Angeloでスタートし、Ilya Sutskeverは取締役会を離脱
  • 会社の短期的な課題は、研究ロードマップの前進、フルスタックの安全性への投資、製品改善・展開、顧客支援、取締役会の拡大とガバナンス改善に置かれる
  • Microsoftは新たな取締役会に議決権のないオブザーバーとして参加する予定で、最近の出来事を検証するための独立委員会も設置される
  • 2023年12月8日の更新では、Bret TaylorとLarry Summersが検証監督委員会を担い、WilmerHaleのAnjan SahniとHallie B. Levinを選定

リーダーシップ復帰と初期取締役会

  • Sam AltmanはOpenAIのCEOに復帰
  • Mira MuratiはCTOの役割に復帰
  • Greg BrockmanはPresidentに復帰
  • 新たな初期取締役会は3人で構成
    • Bret Taylor、議長
    • Larry Summers
    • Adam D’Angelo

既存取締役会と主要人物の整理

  • Ilya Sutskeverはもはや取締役会で活動しない
    • AltmanはIlyaとの業務関係を今後も続けたいと考えており、彼がOpenAIで作業を続けられる方法を協議中
  • Adam D’Angeloは新たな初期取締役会に含まれる
  • Tasha McCauleyとHelen Tonerは、解決策を導く過程で大きな努力を払った人物として言及される
  • Emmett Shearは、結論に至るうえで重要かつ建設的な役割を果たし、AI安全性と利害関係者のバランスへの献身が明確だったと評価される

従業員、パートナー、顧客へのメッセージ

  • Altmanは、OpenAIチームが不明確で前例のない状況でも回復力と精神力を示したと述べる
  • この期間中、離職した従業員は1人もいなかったと明かす
  • OpenAIは顧客も1社も失わなかったと明かす
  • MicrosoftのSatya、Kevin、Amy、Bradは、正しい優先順位で共に歩んだパートナーとして言及される
    • AltmanはMicrosoftとのパートナーシップが正しい選択だったと述べる
    • 新たな取締役会にはMicrosoftが議決権のないオブザーバーとして加わる予定

OpenAIの当面の優先事項

  • 第1の優先事項は、研究計画を前進させ、フルスタックの安全性への取り組みにさらに投資すること
    • Altmanは研究ロードマップが明確だと述べる
    • この作業はMira Muratiと共に進める
  • 第2の優先事項は、製品を継続的に改善・展開し、顧客を支援すること
    • 人々がAIの利点と可能性を体験し、それを形作る機会を持つことが重要だと見る
    • Brad、Jason、Annaと共に、ユーザー、顧客、パートナー、世界中の政府に対する約束を明確にすると述べる
  • 第3の優先事項は、取締役会の拡大、ガバナンス構造の改善、最近の出来事に対する独立した検証
    • Bret Taylor、Larry Summers、Adam D’Angeloが、多様な視点を持つ取締役会を構築する作業を担う
    • これはOpenAIの安定性への信頼を確保するための段階

Bret Taylor取締役会議長のガバナンス計画

  • OpenAI取締役会は、会社のコーポレートガバナンス強化に注力
  • ミッションの広がりを代表する経験を持つ、有資格で多様な取締役陣を構築する計画
    • 範囲には技術、安全性、政策が含まれる
    • Microsoftの議決権のないオブザーバーが含まれる予定
  • 組織の安定化も計画に含まれる
    • 最近の出来事の検証を監督する独立取締役会委員会を招集
  • ユーザー、顧客、従業員、パートナー、コミュニティの構成員がOpenAIの継続的な成長を信頼できるよう、ガバナンス構造を改善する計画

ChatGPTとOpenAIの役割

  • Bret Taylorは、OpenAIが以前よりも重要な組織になったと述べる
  • ChatGPTは、何億人もの日常に人工知能を組み込む役割を果たしている
  • ChatGPTの人気は、AIの利点とリスクを政府、ビジネス、社会の未来に関する議論の中心に据えた
  • OpenAI取締役会は、こうした議論の重みと、新しい技術の開発・安全性においてOpenAIが担う中心的役割を認識している

2023年12月8日の更新

  • OpenAI取締役会は、最近の出来事の検証を監督するため、Bret TaylorとLarry Summersで構成される委員会を招集
  • 当該委員会は、検証を実施する複数の主要法律事務所に面談を行った
  • 最終的にWilmerHaleのAnjan SahniとHallie B. Levinを選定
  • 取締役会は、検証が進行する間も次の作業を継続
    • OpenAIのコーポレートガバナンス強化
    • 有資格で多様な取締役会の構築
    • 人工汎用知能が全人類に利益をもたらすようにするというOpenAIのミッションの監督

関連記事

1件のコメント

 
GN⁺ 2023-12-01
Hacker Newsのコメント

  • Samが実際に何を指していたのかはまだ分からないが、解雇前夜にSamが語ったことが緊張の原因だった可能性はあると思う
    彼はOpenAIの歴史の中で何度か「無知のベールを押しのけ、発見の最前線を前へ押し出す」場にいたと述べ、今取り組んでいることが最大の技術的飛躍になるかのように語っていた
    また、来年会社が発表する驚くべきことは何かと聞かれ、「モデルの能力が誰も予想していない水準まで飛躍する」と答え、人々が考えている来年のモデル改善幅と実際の変化は大きく違うだろうと言っていた

    • 想像がつかない。例えば高等教育は、現時点の最先端モデルに追いつくだけでも数年かかりそうだ
      一方で、想像はできる。今ChatGPTを使うのに近いが、実際に仕事を最後までやり遂げる形なのだろう。今はChatGPTでやった仕事をほとんど全部やり直す必要があり、あまり時間の節約にはならないが、視野は広げてくれる
    • その発言の直後、翌日の正午に取締役会が会議を要請したという意味なら、ほとんど熟慮していなかったことになる。その可能性は低そうだ
      取締役会もすでに進捗状況を知っていたはずなので、公の発言そのものが「率直でなかった」という判断ともあまり合わない
    • 実際に理解できるという意味でないなら、依然としてより正確な予測モデルにすぎない。シンギュラリティが来たら起こしてくれ
    • 表現が十分に曖昧なので、期待外れという意味にも読める。詐欺師検知器が鳴っている

  • https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
    かなり興味深いインタビューだった。政治家が調査を口実に質問に答えないやり方を使うのが面白い。取締役会が彼を「一貫して率直ではなかった」とし、「なぜ解雇されたのか？」という最初の質問にもまだ明確な答えがない以上、当初の判断に同意せざるを得ない
    個人的には、全員の目をスキャンする機能を入れた暗号通貨を作ろうとしていた人物を信頼できるのか、よく分からない

    • Samが自分がなぜ解雇されたのかを知っていると期待する理由はあるのか？ せいぜい取締役会から聞かされた内容を知っているだけで、それが実際の動機と関係ない可能性もある

  • Altmanに対する容疑が何だったのか、いまだにはっきりしない。安全性の問題を軽視していたという話だったのか？ それが主張で、根拠もあるなら、なぜ解任が誤りだったのか、なぜ従業員が彼を連れ戻せと言っているのか理解できない

    • 取締役会の大きな失敗は、この点を明確かつ具体的に説明できなかったことにある。私の見方では、取締役会が問題視したのは、彼が担うべきだった非営利法人の経営者のように振る舞わず、営利子会社と自分自身の利益のために動いていたこと、そしてその利益が非営利の憲章と衝突していたことだった
      本当に大きくしくじったのは、この主張を説得力をもって示せなかった、あるいは示そうとしなかった点にある
    • たとえ本当にアラインメント問題、つまり非営利対営利、安全性といった事柄をめぐる対立だったとしても、それは大きな「もし」だ。取締役会は実行があまりに下手で、従業員の反応を完全に見誤った
      Altman、利益の誘惑、秘密主義的な活動家取締役会なしに安定して明確に日常業務を回す力などに比べ、自分たちの権力と説得力がどこまでのものかを露呈した
      あるいは、従業員が自分たちの味方ではないことをすでに分かっていて、他に方法がないため、突然で劇的なCEO追放によって全員を従わせられると期待していたのかもしれない
      CEOがうまく仕事をしているように見えるのに、明確な理由なしに突然解任されたら、私でもかなり不安になっただろう。取締役会が根拠と証拠を説明していれば、一部の従業員は耳を傾けたかもしれないが、そうしなかったし、今に至るまで実際の容疑が何なのか分からない
      外から見ると失敗したクーデターのように見え、それを試みた側からの説明はない
    • 「明確にしておくと、私たちの決定は会社に対する取締役会の効果的な監督能力に関するものであり、それが私たちの役割と責任だった。さまざまな憶測があったが、OpenAIの作業ペースを遅らせたいという欲求が動機ではなかった。」
      https://nitter.net/hlntnr/status/1730034022737125782#m
      何が起きたのかを推測する手がかりになる興味深い背景もある: https://nitter.net/labenz/status/1727327424244023482#m
    • Altmanを別の人に替えても運営と進展は文字どおり何一つ変わらなかった可能性があるのに、なぜそれができなかったのかも明確ではない
      人々がまるでBullsからMichael Jordanを解雇したかのように反応した理由が本当に混乱する
    • 従業員が彼を復帰させようとしている理由は、彼が全員を金持ちにしてくれると約束する人物だからだ

  • Bret TaylorがまだGoogleにいた頃、メールをやり取りしていた。彼は毎日のメモ書きに使っていたWindowsアプリNotableを作り、後には私も貢献し始めた
    GoogleのプロダクトマネージャーからSalesforce共同CEO、そして今はOpenAI取締役会議長にまで至った経歴を見るのは興味深い。Elon以前のTwitter取締役会議長でもあった

    • 彼はLikeという概念の生みの親でもあると理解している。FriendFeedに導入され、その後Facebookが使い始めた

  • Ilyaがもはや取締役会にいないという事実と、声明の「Leadership group」にIlyaが含まれていない点をどう理解すべきか分からない

    • Samが言ったように、まだ一緒に働く方法を調整している最中のようだ。その話し合いが終われば、リーダーシップチームに入るかもしれない

  • 「皆さんと一緒に有益なAGIを作り上げる仕事をやり遂げるのが本当に楽しみだ——世界最高のチーム、世界最高のミッション。」
    Sam Altmanは、私が住む世界とはまったく違う世界に住んでいる

    • 皆、Superintelligenceを読むべきだ。OpenAIは、ほとんどのシナリオで人類の絶滅を含む、本当に恐ろしい結果へ向かって突き進んでいる

  • そもそも彼がなぜ解任されたのか、さらに分かったことはある？

    • あまりない。ただ、Helen Toner が少しツイートしていた：「明確にしておくと、私たちの決定は、会社に対する取締役会の効果的な監督能力に関するものであり、それが私たちの役割と責任でした。さまざまな憶測がありましたが、OpenAI の作業ペースを遅らせたいという欲求が動機だったわけではありません。」 https://twitter.com/hlntnr/status/1730034020140912901
    • あまりない。関連する予測市場はこちら： https://manifold.markets/sophiawisdom/why-was-sam-altman-fir...
      複数の項目を正解として選べるので、確率の合計が100%ではないようだ
    • 出回っている Q* 関連のリーク説はある。ただ、実際のところは誰にも分からない

  • Sam を批判したいわけではないが、OpenAI のビジョンを作った人物は実は Greg だったという点を、人々はあまり知らないように思う。彼のブログを読めばいい
    Greg は落ち着いていてドラマを作らない人物で、Sam が優れたコミュニケーターであり経営者だと分かっていて迎え入れたのだろう。ただ、実際にはチームの中で最も希少な天才性と粘り強さを持っている人物は Greg に見えるので、彼がずっとスポットライトの外にうまく留まり続けている姿は少し惜しい

    • 「Greg と私は、この会社を一緒に運営するパートナーだ。組織図でそれをどう表現するかはまだうまく見つけられていないが、見つけるつもりだ。」
    • 描写だけを見ると、Greg はまさに自分が望んでいるものを手にしているように聞こえる
    • 彼がスポットライトを望んでいると誰が言った？

  • この件を読んで追いかけるのが難しい理由は、大仰な道徳的ビジョンと、それに対するそれぞれ異なるレベルの素朴な信頼にある
    Ilya であれ Sam であれ取締役会であれ、言葉はすべてアラインメントや人類への利益といったもので埋め尽くされている
    一方で、関係するすべての当事者は AI の波に乗り、堀と独占、次の AdWords や Azure のようなものを作ろうとしている本気の大物たちだ
    この2つの語彙はあまりにも極端に異なるため、互いにつなぎ合わせるのが難しく、まったく異なる前提の会話が2つ同時に進んでいるように感じる。だから誰もが、少なくとも誰かは完全に不誠実だと想定することになる
    「AI アラインメント」は非常に魅力的なテーマだが、より未来的ではなく、より現実的なアラインメント問題は、Microsoft、OpenAI、他の投資家やコンソーシアムのメンバー間のアラインメントだ
    Ilya や Sam らが本当に超知能のアラインメントを心配しているのなら、私たち全員が彼らの人間としてのアラインメントを心配しているという考えにも、少なくとも重みを置くべきだ

    • 言葉ではなく実際の行動だけを見るべきだ
      そして実のところ、本物の利他主義者が存在するとは信じにくい。特に金持ちならなおさらだ。本当に利他的なら、死ぬ前にすでに財産をすべて手放しているはずだ。死後に「慈善財団」に入れる金でさえ、本当に認められるのか疑わしい

  • 今回の件で、私たちの小さなチームは Azure の GPT-3.5 インスタンスを使ってみることになったが、驚いたことに20倍速い
    OpenAI API であまりに頻繁に経験していたサーバーリクエストの無応答もない。これで実際に使えるほど速く安定したものが手に入った。価格は高いが、いや本当に、実際に動く

    • OpenAI の人たちが優秀なのは確かだが、彼らは研究と数学に集中していて、運用経験は不足しているように思う
      正直に言うと、昨日は Azure API も不安定ではあった
    • OpenAI が全部 Azure 上で動いているのに価格が高いというのは笑える
    • みんなが Azure をどう使っているのか気になる。私は Azure が基本の業務環境だが、主に AWS を使っていた人たちにとっては、Azure の CLI、API、Portal はかなり違っていてなじみがなく、面白いだろう
      送受信コストもあるが、いずれにせよ大半は AI コストのほうがそれよりずっと大きくなりそうだ