1 ポイント 投稿者 GN⁺ 2023-11-19 | 1件のコメント | WhatsAppで共有
  • OpenAIの取締役会が金曜日、CEOのSam Altmanを電撃的に解任し、PresidentのGreg Brockmanとシニア研究者3人が同社を去った。主要投資家のMicrosoftも事前に知らされておらず、衝撃を受けた
  • 対立の中心にはChief ScientistのIlya Sutskeverがいた。Altmanの急速な商業化・成長戦略と、非営利ミッションに基づく安全責任が真正面から衝突した
  • 非営利組織が営利子会社を所有・支配する特異なガバナンス構造のため、AltmanとBrockmanが抜けた後、取締役会にはSutskever、Adam D’Angelo、Tasha McCauley、Helen Tonerだけが残った
  • 取締役会は解任理由として「一貫して率直ではないコミュニケーション」を挙げたが、COOのBrad Lightcapによる社内メモは、今回の決定が不正行為や財務・事業・安全・セキュリティ・プライバシー慣行を理由とするものではないと明らかにした
  • 今回の事態は、安全な開発ペースと収益化圧力のあいだの緊張を浮き彫りにし、interim CEOのMira Murati体制での運営安定化が、従業員・パートナー・ユーザー・顧客のすべてにとって差し迫った課題となった

Altman解任が招いた即時の混乱

  • OpenAIは金曜日、CEOのSam Altmanを電撃的に解任し、この決定はPresidentのGreg Brockmanの辞任とシニア研究者3人の退社につながった
  • 主要投資家で少数株主でもあるMicrosoftも事前に通知されておらず、BloombergによるとCEOのSatya Nadellaは激怒した
  • Altmanの追放は、Chief ScientistのIlya SutskeverがOpenAI技術の展開における安全性とスピードへの懸念を背景に主導した可能性がある
  • Sutskeverは金曜日午後の緊急全社ミーティングで、取締役会は「OpenAIが全人類に利益をもたらすAGIを作ることを保証する」という非営利ミッションに対する義務を果たしたのだと述べた
  • OpenAIが追求してきたAGIとは、人間ができる知的作業を実行できる仮想的な技術を指す

商業化のスピードと安全をめぐる亀裂

  • 社内の対立は、Altmanが推し進めた商業化と会社の成長スピードをめぐって拡大し、Sutskeverはペースを落とすべきだという立場だった
  • Kara Swisherに伝えられた情報筋の発言によると、11月6日のOpenAI Dev Dayは、Altmanが消費者向け製品を前面に押し出し、「あまりに遠くへ、あまりに速く」進めた転換点と見なされている
  • AltmanとBrockmanは金曜夜の共同声明で、取締役会の行動に「ショックを受け、悲しんでいる」と述べた
  • エンジェル投資家のRon Conwayは今回の出来事を、1985年にApple取締役会がSteve Jobsを追い出した事件以降めったに見ない取締役会クーデターだと批判し、SamとGreg、そしてOpenAIのビルダーたちに対して正しくないことだと述べた

非営利ガバナンスと残された取締役会

  • OpenAIは、非営利の501(c)(3)公益慈善団体が営利部門を所有し支配する特異な構造を持っている
  • 解任前の非営利組織の取締役会には、Altman、Brockman、Ilya Sutskeverと、OpenAI従業員ではない3人が含まれていた
    • Adam D’Angelo: Quora CEO
    • Tasha McCauley: RAND corporation adjunct senior management scientist
    • Helen Toner: Georgetown Center for Security and Emerging Technologyのstrategy and foundational research grants director
  • Altmanの解任とBrockmanの取締役会からの排除後、取締役会にはSutskever、D’Angelo、McCauley、Tonerだけが残った

解任手続きと社内通知

  • BrockmanとAltmanの共同声明によれば、Altmanの解任は2人にとって完全な不意打ちだった
  • Altmanは木曜夜、金曜正午のリモート取締役会への出席を求められ、翌日のその会議で解任された
  • 当時OpenAIの取締役会議長だったBrockmanは、その会議に招待されなかった
  • 約30分後、SutskeverはBrockmanに対し、取締役としての役割からは外されるが会社には残れると伝え、Altmanが解任された事実も知らせた
  • Brockmanは会社に残ることを拒み、金曜遅くに辞任した
  • Brockmanによると、OpenAIの経営陣は決定直後になって初めてこの事実を知ったが、当時CTOでその後interim CEOとなったMira Muratiは木曜夜に通知を受けていた

「率直ではないコミュニケーション」と不正行為の否定

  • OpenAIのAltman退任発表文は、Altmanが取締役会とのコミュニケーションにおいて「一貫して率直ではなかった」ため、取締役会が責任を果たす妨げになったと述べた
  • 同社は、この表現が具体的に何を意味するのかをまだ説明していない
  • 内部関係者は、今回の動きは主にAltmanとSutskeverのあいだの権力闘争であり、文化的亀裂に起因すると見ている
    • 対立要因には、Altmanの経営スタイルと、高まっていた対外広報の推進が含まれる
    • Sutskeverは9月29日にXで「Ego is the enemy of growth」と書いた
  • Axiosが入手したCOOのBrad Lightcapによる社内メモは、取締役会の決定が不正行為や財務、事業、安全、セキュリティ・プライバシー慣行に関連するものではないと明らかにした
  • Lightcapは今回の出来事を「Samと取締役会のあいだのコミュニケーション崩壊」と整理した

研究者の離脱と社内の動揺

  • Altmanに好意的だったAI研究者3人も、金曜日のニュースに反応して同社を去った
    • Jakub Pachocki: GPT-4 leadかつOpenAI director of research
    • Aleksander Madry: AIリスク評価チーム責任者
    • Szymon Sidor: open source baselines researcher
  • 彼らの辞任により、Altman解任に伴う社内の混乱が研究組織にまで広がったことが明らかになった

Superalignment、GPT-5、そしてスピード論争

  • Sutskeverは、仮想的な超知能AIを制御する方法を研究する**Superalignment**チームの共同リードである
  • この役割のため、OpenAI内部における遅い開発と速い開発のあいだの亀裂が、最近の内部ブレークスルーに関連していた可能性があるという噂が広がった
  • Altmanは木曜日のAPEC CEO Summitで、OpenAIの歴史上、「無知のベールを押しのけ、発見の最前線を前へ押し出す」瞬間に4度立ち会ったと述べ、最も最近のものは「ここ数週間のうち」だったと明らかにした
  • こうした懸念は、OpenAIが超知能を開発したという意味ではなく、専門家はその可能性は低いと見ている
  • Altmanが言及した新たなブレークスルーが、非営利組織による安全な進行の要求と、営利子会社による収益化要求とのあいだの圧力を高めた可能性がある
  • Altmanは最近、GPT-4の強力な後継モデルと推定されるGPT-5が開発中だと述べた

従業員へのメッセージと収拾に向けた課題

  • OpenAI engineering managerのEvan MorikawaはXで、同社は引き続き製品を出していくし、SamとGregはマイクロマネージャーではなかったと述べた
  • 彼は、研究、プロダクト、エンジニアリング、デザインの多くの人材が成果を生み出しており、リーダーたちのあいだには、より大きなミッションに向けた社内での一致があると明らかにした
  • Lightcapは社内メモで、従業員が混乱、悲しみ、恐れを感じているかもしれないことを認めた
  • 同社は状況への対応、解消と明確化の確保、業務復帰に集中しており、従業員・パートナー・ユーザー・顧客・より広い世界に対する責任を強調した
  • 彼は同社の立場は依然として強いと見てinterim CEOのMira Muratiを支持し、手続きの進め方に対する懸念を共有しつつ、状況解決に向けて取り組んでいると付け加えた

1件のコメント

 
GN⁺ 2023-11-19
Hacker News の意見
  • Sam と Greg にとっては気の毒だが、取締役会がすべきことは Sam & Greg によくすることではなく、OpenAI にとって正しい判断を下すこと
    経営陣が従業員1万人を解雇すると投資家は「ビジネスだから」と拍手するのに、自分に近い CEO が解任されると道徳を持ち出すのは間違っていると思う
    もちろん従業員への影響も考慮すべきだが、CEO は会社の結果に大きな責任と権限を持つ指揮官に近く、一般従業員は解雇に耐えるのがはるかに難しい民間人に近い

    • OpenAI が収益追求の巨大企業から、より小さな研究中心の組織へ戦略を変えるのは権利の範囲内だが、そのやり方はひどく、非専門的で、コーポレートガバナンス上の汚点
      Satya のようなパートナーを裏切り、会社を二つの陣営に引き裂き、Sam と Greg を怒らせて報復を探させることになった
      その結果、より高い目的を持たない営利版 OpenAI が市場を支配するリスクまで生まれており、こうした進め方に正当化の余地はなさそう
    • 取締役会の任務は、正確に言えば、自分たちが担う非営利法人の公益目的に沿って行動すること
      下位の営利法人である OpenAI Global LLC の投資家は、投資金を寄付のように扱うべきであり、会社の目的は投資家に利益を還元することではなく、非営利法人の公益機能を果たすことだと明示的に説明されていた
    • Conway に一度会ったことがあるが、Google に投資した理由を、自分の若いころを思い出させる創業者たちを通じて青春をもう一度生きる方法だった、と説明していた
      意義があり影響力のある会社を作りたいと思っている聴衆の前で、その言葉がどう聞こえるかをまったく意識していないようだった
      お金が多いからといって、その人の判断が役に立つわけではない
    • おおむね同意するが、Ron Conway がそういうタイプの VC だという印象を受けたことはない
      彼は確かに創業者寄りだが、コスト削減や解雇を推し進める冷酷な投資家タイプには見えなかった
    • 法人には、従業員が不信任投票で役員を引きずり下ろせる条項を義務付けるべき
      圧倒的多数が賛成したときに可能にすれば、より公平になるかもしれないし、少なくとも興味深い構造にはなる
  • みんな大騒ぎしているが、複数の会社で「重要な」CEO たちと働いた個人的経験からすると、その CEO が去ってもまったく気にしなかっただろうと思う
    CEO は外部から会社の成果に対する手柄を過剰に持っていきがちで、それがそのまま CEO が実際にそれほど重要だという意味ではない
    OpenAI は違うかもしれないが、完全な例外だとは仮定しない

    • 適切な人々と関係を築き、巧妙な取引をまとめ、大衆の信頼を得る取引型 CEOは、営利プロダクト企業の軌道を本当に大きく変え得る
      だが公益ミッションを持つ非営利団体が営利会社を所有しているなら、その軌道は間違った方向を向く可能性がある
      Dev Day の発表、とりわけマーケットプレイスは、OpenAI でまさにそういうことが起きていたことを示唆しているとも見られる
      誰もが、速く作って壊すやり方で格好いい LLM おもちゃを売りたいわけではないだろうし、彼らは他の人たちが無責任にやる前に、責任ある AGI を導きたいように見える
    • CEO 崇拝は奇妙
      集団が非常に小さいので、誰かが完全に台無しにしさえしなければ、すぐ天才扱いされる
      数十億ドルと数百人の優秀なエンジニア・研究者を与えれば、多くの人が何とか回せるが、そういう機会を得る人が少ないためにこういうことが起きる
      実際の仕事はせず、手柄だけ持っていくことが多い
    • あるスタートアップで、最初の CEO と営業担当副社長、営業部門全体が火曜日に取締役会によって追い出されるのを見た
      Sam らは実は有能な技術エバンジェリストまたは商売人に近かった、という事実が明らかになる可能性もあり、だから今テック業界の人々が不安がっているように思う
    • 問題は単に CEO を追い出したことではなく、OpenAI が向かっていた方向から明確に離れるというシグナルである点にある
      以前の方向は、人々が技術の上に何かを作れるようにすることにかなり集中していた
      今後は「安全だ」と信頼された研究者にだけアクセスを制御するやり方に変わるのではないかと心配している
    • しばしば作家主義理論のような流れになる
      ある生産プロセスに非常に精通していないと、人々は最も公に見える側面と、最も高い権限を持っているように見える人物に執着する
      監督や CEO も他の人々に答えなければならない場合が多いにもかかわらずそうで、もちろん個人の影響が大きいことはあり得るが、その偉大さが一人だけから生まれることはまれ
  • 自分自身や従業員すら統制できない取締役会が、AIを責任ある形で管理できるとは信じがたく、そもそも誰であれAGIを管理できるのかも疑問である
    非営利組織には昔からのガバナンス問題があり、曖昧な目標が内部政治を引き起こす
    営利企業の取締役会の利点は、目標が「今成長するのか、後で成長するのか」といった、よく理解されたリスクのトレードオフに絞られ、取締役会のメンバーもその目標に実際の利害関係を持つ人々から選ばれる点にある
    宗教組織やイデオロギー色の強い政府が信頼されにくい理由も、内部政治に取り込まれるからである
    AI/AGIは完全な営利事業としておき、責任のデフォルトを逆転させて、製品が生み出したあらゆる外部コストを開発者が負担するようにするほうが、より合理的だと思う
    ソフトウェアとインターネットは、転嫁されたコストに対して消費者が事実上ほとんど救済を受けられない領域であり、そのおかげで途方もなく成長し、破壊的イノベーションを起こしてきた
    AI/AGIを制御したいなら、営利化したうえで外部コスト責任を開発者に負わせれば、用途は非常に狭まり、純社会的利益のある場合に限られることになるだろう

    • この論旨は理解できるが、露骨な利潤追求もまた、私たちの経済が抱える多くの問題の原因であり、組織をその基準で設計すると、定量化しにくい価値が抜け落ちる
      経済論理だけに盲目的に従うと問題を生みかねず、米国の企業文化が「まず良い製品を作る」ことから「株主価値の最大化」へ移行した大きな理由もここにある
      ただし今回の決定だけを見ると、OpenAIの取締役会は気まぐれで衝動的に見える
    • HNの別の記事でも、最後に同じ趣旨を述べているブロガーがいる: https://loeber.substack.com/p/a-timeline-of-the-openai-board
    • 「良いことをする」は「お金を稼ぐ」より本質的にはるかに曖昧で、多次元的で、定義も数え切れないほどある
      そのため非営利組織には、人間的な次元での政治がより多く入り込まざるを得ない
      非営利の行動原理の中で生きたいなら、その点を受け入れる必要がある
      政治を理由に信頼できないと言うのは、人間の営みが関わるとコンピュータより信頼できないと言うのに近い
      有効な政治を想像できなければ、有効な人間の営みも想像できず、資本主義市場のような単純な最適化システムの機械的な仕事だけが残る
    • 営利企業にはガバナンス問題がないから、喫煙の流行、オピオイド危機、地球の生物圏の崩壊のようなことは起きなかった、とでも言うのだろうか
      どれも小銭のために起きたことだ
    • 解決策は、取締役会メンバーをAGI個体に置き換えることではないかと思う
      現在のデータをモデルにリアルタイムで反映する方法さえ見つければよく、OpenAIでも活発に取り組んでいそうだ: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
      本当の危険は、子どもたちが違法薬物の製造方法を尋ねることではなく、どこかの政府がその成果物をSkynetのような国家防衛システムに組み込むことだ
      LLMの軍産複合体への応用についての奇妙な沈黙を見ると、これがOpenAIの話の一部なのかもしれないという疑いが湧く
  • HNで、非常に重要なエンジニアであっても重要すぎるわけではなく、Ilyaも代替可能だとして、Wozが去った後にAppleが成長した例を挙げているのを見たが、よりよい比較は、Quakeのリリース後にJohn Carmackがid SoftwareからRomeroを追い出した件だと思う
    CarmackはCommander Keenの滑らかな横スクロールから、Doomの擬似3D、Quakeの完全3Dまで、10年近く最先端技術を押し進め、巨大なグラフィックの進歩を生み出した。1991〜1996年のidの新エンジンは、事実上新しいジャンルを作った
    当時id内部もそれを分かっており、そのおかげでCarmackは共同創業者John Romeroを解雇できるほどの力を持っていた
    Romeroは派手で、どこにでも顔を出すidの公の顔だったが、解雇後は大金と大々的な宣伝を得たにもかかわらず、DoomやQuakeほど大きなものは作れず、新会社も畳まれた
    一方、Carmackの下でidはヒットを出し続けた
    最先端技術から追加の性能を少しずつ絞り出すたびに売上が大きく伸びる状況では、エンジニアとしての専門性が本当に重要で、90年代のPCグラフィックと同じことが、今日のLLMの出力品質にも当てはまる
    だからCarmackがidの成長の中核的な原動力だったように、IlyaがOpenAIで同じ役割を担っている可能性はかなりあると思う

    • Romeroが去った後もid Softwareの成果物がヒットし続けたという評価は正確ではない
      Quake 1以降のidの成果物は明らかに一段落ち、技術は素晴らしかったがゲームは退屈でひらめきに欠け、せいぜい「良い」のであって「偉大」ではなかった
      2016年のDoomが出るまでの20年間、再び面白いものを作ることはできなかった
      Romero以後のidの最大の成功は、ゲーム開発会社としてではなく、Half Life、Medal of Honor、Call of Dutyのようなゲームを動かした技術ライセンス会社としてのものだった
      一方でRomeroのIon Stormは最終的に失敗したが、Deus ExやAnachronoxのような興味深いゲームは出たし、DaikatanaでさえQuake 2やQuake IIIより面白いと思う
    • OpenAIレベルのAI研究は、資本集約度がはるかに高いという違いがある
      売上、投資家、パートナーを通じて資本を継続的に呼び込み、GPUや独自データセットへのアクセスを可能にする人物が不可欠だ
      Carmackはコンピュータ1台と自分の頭だけでグラフィックの進歩を生み出せたが、IlyaがOpenAIを前進させ続けるには、はるかに多くのものが必要になる
      巨大な頭脳だけでは十分ではない
    • Quake IIIの高速逆平方根の手法はCarmackが発明したものではない
      彼が使う10年以上前から存在していたトリックで、Carmackが「発明」するずっと前に、IEEE誌のJim Blinnのコラムでそれに似た汚いトリックを読んだ記憶がある
      https://en.wikipedia.org/wiki/Fast_inverse_square_root
    • 3つあると思う
      この場合、IlyaはCarmackとは同じではなく、GPT-[n]を作ることよりも安全性とアラインメント研究に注力してきた
      いくつかの説明によれば、ここ数年は、この措置にうんざりして辞めたGreg Brockmanや、昨日退社したシニア研究者たちのほうが、Ilyaより大きな影響を与えていた
      idも過小評価してはいけない。Ion Stormのように派手に爆発したわけではないが、idは徐々に存在感を失い、グラフィックでは先行していても、初期のCarmack+Romero時代の革新の頂点ではなく、最終的にはZenimaxに売却された
      Carmack単独はRomero単独よりはるかに優れていたが、2人が一緒だったときほどではなかったようだ
      Sam AltmanもJohn Romeroと同じではない。RomeroのIon Stormの問題は、完璧を追い求めて延々と迷走し、リリースできなかったことだったが、IlyaがAltmanに対して抱いた問題は、リリースが速すぎるという側だった
      SamとGregが新しい基盤AI企業を始めてほしい。そうなれば、IlyaとHelenが望んでいるように見えるアラインメント・規制中心のOpenAIよりも、はるかに期待できる
    • Romeroは1996年に解雇され、それまでidはCommander Keen、Wolfenstein 3D、Doom、Quakeのように、固有の世界観と特徴、画期的な技術を持つ伝説的フランチャイズをいくつも生み出していた
      その後の一覧はhttps://en.wikipedia.org/wiki/List_of_id_Software_gamesにあるように、Quake 2、Quake 3、Doom 3程度で、それ以外に価値や文化的影響のあるものはほとんどない
      技術的成果は多かったが、記憶に残るゲームには面白い技術以上のものが必要だった
      今日これらのゲームに触れる人にとって、QuakeはただQuakeであり、1・2・3を区別して記憶してはいない
      idが成功したソフトウェア会社だったのは事実だが、Romero以後の成果物だけで業界の巨人となり、ビデオゲームの未来を形作ったとは思えない
      Carmackが単独でRomeroより多くを成し遂げたとは言えるが、ビデオゲームの領域で真の偉大さを達成するには、2人は互いを必要としていた
      AltmanとSutskeverについて歴史が何と言うかは、まだ見守る必要がある
  • 今回の解任は、かなり個人的な解任に見える
    本当に重大な行為が追加で明らかにならない限り、責任ある取締役会なら、社内の権力闘争に結びついた個人的な恨みでもない限り、会社の評判やパートナーをここまで無神経に傷つけてCEOを切ることはない
    関係者全員にとって恥ずべきことであり、samaには本当に不満を申し立てるだけの理由がある
    法的な余波もあり得そうだ
    もちろん、本当にAGIを発明し、samaがそれを収益化しようとしていたのなら、AGI終末論者の取締役会が慎重さを欠いて動いた可能性はある
    それでも、そのような場合でさえ、密室で解決すべき論争だったはずだ
    誰もがJobsを思い浮かべるだろうが、80年代TSRのGary Gygaxも別の例になり得る

    • GygaxはHollywoodへ行ってしまい、酒・コカイン・不倫への依存を満たすのに忙しく、会社を経営する時間がなかった
      その間、TSRは巨額の赤字を出しており、80年代初めには年商3,000万ドルをかろうじて上げる一方で、負債は15億ドルあった
      しかもGygaxの没落は、自らのクーデターの結果だった
      Kevin Blumeを追い出してLorraine Williamsを招き入れたが、彼女はBlumeの持ち分をすべて買い取った後、1年ほどでGygaxの会社支配権を排除し、プロジェクトの大半を中止し、彼はその1年後に辞任した
    • Altmanは訴訟を起こさないと思う
      今は彼が道徳的優位にあり、取締役会が狭量で未熟に見える構図なので、その構図をひっくり返す行動は愚かだ
      彼は今後数週間以内に新しいベンチャーを発表する可能性が高く、それがAIかどうかが、彼がこの分野の見通しを実際にどう見ているのかを示すだろう
      Brockmanや他の人たちは、おそらくAIで新しい仕事をする可能性が高い
    • Jobsを追い出したのは、当時としては正しい判断だった
      彼は虐待的で扱いにくい性格で、Macintoshは当時販売不振であり、Lisa対Macのように社内チームや社内政治を利用してチーム同士を対立させ、統合と成功を損なっていた
      戻ってきた後も性格は相変わらず難しかったが、そうした別の問題はもう起きなかった
      復帰後のAppleは、ひとつの協力的なビジョンを実行することに非常に優れた会社になった
    • Gygaxの事業能力は、歴史書でも高く評価されていない
      Arnesonにロイヤルティを払わないためにAD&Dを作ったことからしてそうだ
    • Jobsは解雇された当時、負担要因であり、解雇されなければ成熟できなかった可能性も高い
      まさに人格形成につながる経験だった
  • 営利成長派と非営利成長派の間に緊張があったのは明らかだが、Dev Dayが最後の決定打として挙げられるのは理解できない
    あれは製品発表イベントだった
    Ilyaと取締役会は、その日に何が公開されるのかを何カ月も前から知っているべきだったし、少なくとも計画に接していたか、そもそも承認していた可能性もある
    線を引くべきタイミングはリリース前だったはずで、発表後に鏡を見てはっと我に返ったのかと思ってしまう

    • 取締役会が少なくとも計画を知っていた、あるいは承認していたと仮定すべきではない
      発表文からして、Samが何らかの形で率直ではなかったと述べており、Gregにも影響が及んだ
      Ilyaは日常業務上、自然に知り得た唯一の取締役会メンバーだったかもしれないが、7月ごろからスーパーアラインメント領域で働いていたので、別部署だった可能性もある
      取締役会が第三者やIlyaを通じてプロジェクトを知り、Samに速すぎると言ったのに、Samが無視してリリースした可能性もある
      実際のところは誰にも分からない
    • Ilyaと取締役会が、何カ月も前から何が公開されるのかを知っていた必要はない
      むしろ、取締役会の発表でSamが率直ではなかったとした部分と符合し得る
    • SamがGPTsストアのローンチを知らせなかったか、ローンチしないと言っておいてローンチした可能性もある
      OpenAIにとっては悪いことだが、OpenAIに取って代わろうとする飢えた競合があまりに多いので、この分野全体に大きな長期的結果があるとは思えない
      投資家、あるいは寄付者がどのような監督権と救済手段を持っているのか気になる
      今日かなり多くの資金を入れた多くの人が、相当怒っているはずだ
    • 彼らも人間であり、基調講演が近づいていることをぼんやり知っているのと、実際に発表が行われ、テック業界全体から熱狂的な反応を受けるのを見るのとでは大きな違いがある
      十分に鏡を見た瞬間だった可能性はある
    • Ilya SutskeverとSam Altmanの緊張を、製品・収益問題という表面の背後から見ると、違って見える
      Ilya SutskeverはLLMがAGIだという真の信念を持つ人物であり、この点でトロント大学での指導教員だったGeoff Hintonと通じている
      Hintonは「次の単語予測を本当にうまく行うように訓練すると、実際には理解することを強制しているのだ。そう、自動補完ではあるが、本当に優れた自動補完が何を意味するのかを考えていないのだ」と述べた[1]
      一方でAltmanは、LLMはその道ではないと判断した[2]
      そのためAltmanはLLMを営利製品にして価値を引き出そうとし、Sutskever側はそれをAGIと見て非営利のまま維持しようとしたようだ
      また、AGIが実存的リスクなのか、それとも現在のAIリスクはアルゴリズムのバイアス・社会経済的不平等・誤情報と偽情報・技術解決主義のほうにあるのか、という違いもある
      1. https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinto...
      2. https://www.thestreet.com/technology/openai-ceo-sam-altman-s...
  • もう一つ別の仮説がある
    追放は、OpenAI の技術展開の安全性と速度に対する懸念から、主任科学者の Ilya Sutskever が主導した可能性が高いという話だが、GPT/エージェントのマーケットプレイスを先にリリースしたのは OpenAI ではなく Quora の Poe だった
    ところが OpenAI の非営利理事会には Quora の CEO が座っている
    少なくとも Altman と Greg に反対票を投じたとき、彼の利害がどこにあったのかは分かる

    • 現在の暫定 CEO も ChatGPT の開発を率いた人物だ
      ChatGPT は会社史上最大のプロダクトであり、消費者市場を基盤にした動きだった
      だから、単純に「Sam は収益を求め、Ilya/理事会は純粋研究を求めた」という線引きの状況だとは見なしにくい
    • 良い指摘だ
      自分が理事を務める非営利団体が、自分の運営する会社の製品と競合する製品を出すなら、その利益相反をどう管理するのか
      退くべきだったように見える
  • これはクーデターではない
    クーデターとは権力が強制的に奪われるときに使う言葉であって、構成員たちがあなたはもはや自分たちの利益をうまく代表していないと判断したときに使う言葉ではない
    政治家が選挙で敗れることをクーデターと呼ぶようなものだ
    クーデターと呼ぶと、OpenAI が何らかの意味で Sam Altman の所有物だったという誤った含意が生まれる
    むしろクーデターに近いのは、創業者が会社を作り、株式を売っておきながら、なお自分のもののように所有していると見る考え方だ
    実際の所有者から支配権を奪い、表の顔である役員に与えることになる

    • ビジネスと政治を混同している
      文字どおりのクーデターは、軍の支援を受けて国家を強制的に掌握することなのは確かだが、ビジネスやより広い世界では、クーデターは比喩的に秘密裏に計画され、不意打ちで実行された権力掌握を意味する
      会社が「戦争を宣言する」と言っても、ミサイルを撃ち人を殺すという意味ではなく、資源を一つの目的に集中して競争するという意味なのと同じだ
      今回の件は明らかにクーデターだ
      理事会の一部が秘密裏に計画し、議長を含む2人を欠いた秘密の理事会で実行し、営利法人に49%を投資した Microsoft でさえ何の知識も発言権も持たなかった
      善悪を言っているのではなく、歴史書に残る理事会クーデターの一つだ
      HN だけでなく NYT や WSJ の一面級ニュースになったのには理由がある
    • 立法手続きが討論と熟議よりも拙速さと陰謀で特徴づけられるとき、政府崩壊を議会クーデターと呼ぶことも珍しくない
      フランス革命でも、ロベスピエールの失脚、総裁政府による選挙無効化のような事件は、しばしばクーデターとして描写される
      最後のものは、いくらか無血でさえあった
    • ここで適切なガバナンス上の比喩は、むしろ逆だ
      OpenAI の憲政秩序の防衛に近い
      会社は Mozilla のように非営利団体が中心で、営利部門はそのミッションを遂行する資本を調達するために存在するよう、意図的に設計されていた
      構造について彼ら自身が書いた内容を見る必要がある: https://openai.com/our-structure
      特にこの部分: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
    • 政治家が投票で追い出されるのも、文字どおり政治的クーデター
  • OpenAI ブランドの商業的側面は消えた感じがする
    非営利理事会が開発を遅らせ、劣った製品を提供する形で顧客の利益に反するなら、顧客がどうやって OpenAI に依存できるだろうか
    一方で OpenAI の AGI 面は大丈夫だろう
    Ilya Sutskever が率いる責任ある AGI 開発は続くだろうし、成功してほしい
    Microsoft はいくつか訴訟を起こし、内部的に OpenAI を妨害しそうだ
    ほぼ3兆ドル規模の企業で弁護士軍団も抱えているので、特にシリコンバレーの VC 側に OpenAI への同情があまりなければ、大きな損害を与えられる

    • 新しいサービスに最初から依存するのは悪い考えだ
      破産することも、訴訟で崩れることも、Microsoft に買収されることもあり得た
      CEO を解雇したという事実だけで、成功がGPTのおかげなのか CEO のおかげなのかを見るべきだ
      前者はまだそのままで、劣化したわけでもない
      成長鈍化は縮小を意味するわけではない
    • LLM が代表製品である状態から抜け出す変化なのか気になる
      その領域では競合が急速に追いついている
    • これからChatGPTがどうなるのか気になる
      Dev Day のような出来事が理由なのが事実なら、ある程度筋が通るかもしれないが、人々の役に立つ有用な AI が品位のないものとして扱われるなら、OpenAI はますます閉鎖的なカルトになっていくのではないかと思う
      お金を払っても使えない ClosedAI になるということだ
  • fast.ai の Jeremy Howard の投稿: https://x.com/jeremyphoward/status/1725712220955586899
    彼は厳密には内部者ではないが、Ilya と研究者陣営におおむね近い、あるいは共感しており、つながりもありそうだ
    そのツイートと視点は、内部の分裂感がどのようなものだったのかを推し量る有用な代理指標だった

    • 本当にひどい解釈だ
      開発者である私を含め、開発者たちはDev Dayを気に入っていた