- Greg Brockmanは、OpenAIがAGIミッションを達成するには、非営利の限界を超えて営利法人と大規模なコンピュートを確保する必要があったと見ている
- OpenAIの技術的転換点は、DotaでのPPOの拡張、言語モデルによる意味学習、GPT-4以降のAGI基準の再検討へとつながった
- AI開発はすでにAIによって加速しており、コード作成は急速に代替されつつある一方、コード構造の設計では依然として人間の専門家が強いと見ている
- 今後の中核的な制約はコンピュートであり、OpenAIはデータセンターと無料アクセスを通じて技術の恩恵を広く分配しようとしている
- 反復的なデプロイ、安全性、中立性、規制はすべて製品と社会における中核課題であり、成功の基準はAGIが人類全体に利益をもたらすことだ
OpenAIの設立と構造転換
-
Stripe後にAIへ移った理由
- Greg Brockmanは、Stripeで取り組んでいた問題は一生をかけて向き合いたい課題ではなく、AIが世界で展開されるあり方に影響を与えられるなら意味のある人生になると判断した
- Patrick Collisonは、BrockmanがStripeを離れようとしていた際にSam Altmanと話してみるよう勧め、Samは数分でBrockmanがすでに去る決断をしていると見抜いた
- BrockmanがAI企業を考えていると話すと、SamもAIで何かを始めようとしているとして今後も連絡を取り合おうと提案し、これが2015年の研究所設立の議論へとつながった
-
2015年の研究所設立と初期チーム
- 当時のDeepMindは、研究者、資本、データ、実績を備えた「10,000ポンドのゴリラ」のように見え、AlphaGo公開前から推進力が明確だった
- 核心的な問いは「優秀な研究者を多数集めて研究所を始めるには、もう遅すぎるのか、可能なのか」であり、難しい理由は多くても不可能という結論には至らなかった
- Sam AltmanとBrockmanは「やるべきだ」と結論づけ、Brockmanは翌日から専任で組織づくりに入った
- 初期構想にはIlya Sutskever、Dario Amodei、Chris、Greg Brockmanが含まれていたが完全には実現せず、ChrisはGoogle Brainへ行き、John Schulmanらが関心を示した
- 約10人が「誰が一緒にやるのか」と尋ねている状況で、Samはオフサイトを提案し、正式提案も組織構造も参加確定者もないままNapaに人々を集めた
- Napaのオフサイトでは、その後10年続く技術計画に近い方向性が示され、核心は強化学習の解決、教師なし学習の解決、より複雑な対象を段階的に学習する戦略だった
-
非営利構造の限界と営利法人
- 2017年、OpenAIはAGIを実際に作るために必要な条件とコンピュート規模の計算を始め、大規模なコンピュータが必要だという結論に達した
- Cerebrasが開発していた独特なコンピューティングハードウェアは、計算上必要な水準をはるかに先行しうると見られ、独占的アクセスや大規模データセンターの確保がAGI構築に大きな優位を与えると判断した
- 非営利の資金調達には上限があると見られ、Elon Musk、Sam Altman、Ilya Sutskever、Greg Brockmanは、OpenAIのミッション達成への唯一の道がOpenAIと結びついた営利法人を作ることだと合意した
- AGIを作るには資本が必要だが、非営利構造だけでは1億ドルや5億ドルは可能でも、10億ドルは非常に難しいと見ていた
-
内部の緊張とSam Altman解任騒動
- 人間レベルの知能を持つ機械を作れると信じる組織では、意思決定者、意思決定に含まれる価値、公績配分といった一般企業の社内政治も実存的な重みを帯びることになる
- Brockmanはビデオ通話でSamを除く取締役会メンバーが集まっているのを見て、取締役会がSam Altmanを排除することを決めたと通告された
- 追加情報を求めたが、これ以上共有できるものはないと答えられ、自分も取締役会から外されるが、会社には残ってミッション遂行に重要だと告げられた
- 理由もフィードバックも受けられなかったBrockmanは、通話直後に妻と話した後、辞任すべきだと結論づけた
- 辞任当日には、SamとBrockmanが次に何をするにせよ一緒にやりたいというメッセージが殺到し、近しい協力者たちもその日にそろって辞任した
- Samを含む5人は新会社の構想を始め、Brockmanは会社を取り戻せる可能性を**10%**と見ていた
- 日曜の夜、取締役会が暫定CEOだったMiraを別の人物に交代させると、会社は反発し、小さな「救命ボート」のように想定参加者だけを受け入れるつもりだった計画は、ほぼ全員を受け入れなければならない状況へと膨らんだ
- Thanksgiving直前にも多くの社員が帰省便をキャンセルしてオフィスに集まり、請願文書にはあまりに多くの人が同時に署名しようとしてGoogleドキュメントが止まった
- Brockmanは夜明け前にTwitterを確認し、Ilyaが請願に署名して会社が再び一つになることを望むと投稿したのを見て、大きく安堵した
-
Ilya Sutskeverとの関係回復とリーダーシップの教訓
- IlyaはBrockmanの民事婚の司会を務めたほど親しい関係で、2人は苦しい時期をともに乗り越えてきた
- その後2人は、積み重なっていたことや言葉にしてこなかったことを理解し表現するために多くの時間を費やし、Brockmanはその過程を通じて一区切りついたと感じた
- 騒動後、競合他社は人材の引き抜きを試み、より多くの報酬やより良い提案があった可能性はあるが、その週末の間にOpenAIは一人も失わず、誰も競合の提案を受け入れなかった
- Ilyaが去ったときは、OpenAIの歴史の中でほぼ唯一、もう続けたくないと感じた瞬間であり、なぜこの仕事が重要なのか、そして苦痛に耐える価値があるのかを改めて見つけ直す必要があった
- 休養期間にはDNA配列に言語モデルを学習させ、妻とともに動物の健康問題にAIが何をできるかに関心を向けながら、技術を個人的に意味のある領域へ応用した
- 振り返ると、うまくできなかったことの多くは、やるべきだと分かっていた決断を長く先延ばしにしたことだったとし、繰り返し学んだ教訓は難しい決断をし、難しい会話をせよということだった
技術的転換点とAI開発の加速
-
「本物だ」と感じた連続する瞬間
- OpenAIの進展は、一度のひらめきではなく「本物だ」と感じる瞬間が連なっていく過程だった
- 初期の立ち上げは、チームを集めてミッションを追求できるようになった瞬間だったが、翌日オフィスには何をすべきか、さらにはホワイトボードさえない状態だった
-
DotaとPPOが示したスケーラビリティ
- Dotaは最初の大きな成果であり、コンピュートを増やせば結果も大きくなることを示した
- もともとDotaプロジェクトは、既存の強化学習はスケールしないと考え、新しい方法を開発しようとする試みであり、使われたアルゴリズムは PPO だった
- PPOはすべての時間ステップを計画し、階層構造もなく、人間の一日の計画の仕方とは異なり、欠陥も多くスケールしないと見られていたが、ベースラインを限界まで押し切ることにした
- PPOを継続的に拡張した結果、最高レベルの人間プレイヤーの性能を上回り、単純なアルゴリズムと大規模コンピュートが実世界でも機能するという発見につながった
- Dota環境は、プログラムしたり先を見通したり探索したりするのが難しい複雑な環境で、ほとんど人間のような直感が必要だった
- 使用したニューラルネットワークは「小さな昆虫の脳」に近いシナプス数であり、同じ計算アプローチを人間の脳の規模にもっと近くまで拡張したらどうなるのか、という問いを残した
-
言語モデル、意味学習、GPT-4以後の基準の変化
- 2017年の unsupervised sentiment neuron 論文は、言語モデリング目標から意味論が生まれるのを初めて見た瞬間として挙げられている
- 次の文字を予測するよう学習しただけなのに、ニューラルネットワークが文のポジティブ・ネガティブを理解するようになり、コンマ・名詞・動詞の位置だけでなく、文の意味も学習できることを示した
- GPT-4を扱っている最中に「なぜこれがAGIではないのか」という問いが出てきたが、望むテーマで流暢に対話できる一方で、明らかに何かが足りなかった
- GPT-4公開の2か月前に持っていたAGIの基準は、GPT-4の実際の能力と一致していなかった可能性があり、今後も次の段階が可能だというブレークスルーの瞬間は残っていると見ている
-
予測、自己教師あり学習、強化学習のつながり
- 次の単語を予測することは平凡に見えるが、Einsteinの次の言葉を本当に予測できるなら、少なくともEinsteinと同じくらい賢いという見方が示された
- 予測の核心は、すでに知られているものを当てることではなく、一度も見たことのない新しい状況で次に何が来るかを予測することにある
- モデル学習は、静的・観察データから次に来るものを予測するよう学習する 自己教師あり学習 と、AIが自ら行動を選択し、世界からの観察を受け取って自分のデータから学ぶ 強化学習 に分けられる
- この2段階で使う技術は根本的には同じで、異なるのは データ構造 である
-
AIがAI開発を加速する段階
- AIを自らの開発プロセスに適用することで、開発速度がますます速くなる段階に入ったと見ている
- ChatGPT以降、内部の開発プロセスは 10〜20% 速くなり、最近のコーディングツールはソフトウェアエンジニアリングのやり方を大きく変えた
- モデル生産におけるボトルネックの大半は、システム実装、規模拡張、大型コンピュータ管理といった ソフトウェア にある
- まもなくAIが自ら研究アイデアを出し、実験を実行し、テストする段階に至ると見ている
- 現在、コード作成においてAIが書いていない部分の割合は把握しづらく、「消えつつあるレベル」であり、正しい文脈と構造が与えられれば、実際のコード作成はAIのほうが人間より優れていると見ている
- ただし、モジュール配置、構成要素の関係、特定インターフェースの定義といった コード構造設計 では、人間の専門家のほうが依然としてはるかに優れていると見ている
-
新しいアイデアとchain of thought非公開
- AIが人間の思いつかなかった新しいアイデアを出す段階には近づいていると見ている
- 2024年の自社チップ設計では、回路面積を減らすためにOpenAIの技術を適用し、モデルが生み出した最適化は人間のリストにすでにあったものだったが、時間がなくてできなかったことをより速く実装した
- 数学と物理では、未解決の数学問題と未解決の物理問題 を解いており、最近では量子物理の特定問題をコミュニティの予想とは反対の方向で解決し、しかも優雅な公式まで導き出したという
- OpenAIは蒸留を難しくするために努力しており、特に chain of thought のように、ユーザーに結果を与えるのに必須ではないがモデルの一部である要素を保護している
- OpenAIの中核的な優位性は特定の単一モデルではなく、モデルを作る機械 にある
- reasoningを見せない理由の一つは蒸留防止であり、さらに重要な理由の一つは解釈可能性にある
- chain of thoughtが見栄えよくなるよう学習されると忠実性が失われ、モデルは実際の理由ではなく、ユーザーが望む形のreasoningを作り出せるようになる
- OpenAIはchain of thoughtをユーザーに見せやすい形で学習させようとする誘惑を避けると早い段階で決定し、競争と安全の理由から中間思考を公開しない方向に傾いた
コンピュート制約、データセンター、製品フォーカス
-
コンピュートが中核的制約となる世界
- 今後は全体として コンピュート制約の世界 に向かっていると見ている
- モデルが生み出す価値は、単純な質問応答を超えて、健康情報へのアクセス、複数データソースの統合、企業ナレッジベース検索、難しい問題の解決、人間より優れたソフトウェア作成へと拡大している
- GPT-5から5.1、5.2、5.3 Codex、5.4へと続く進歩は非常に大きく、モデルはユーザーの意図を理解し、目標に合わせる能力が大幅に向上した
- Codexのような表層にモデルを載せると、開発者は以前よりはるかに多くのことを達成できる
- 世界中のすべての人にGPUを1つずつ配ろうとしても 80億GPU が必要だが、現在の軌道はその水準には到底近づいていない
- 今日では数十万GPUでも大規模であり、今後は数百万GPUに達する可能性はあるが、世界には依然としてコンピュートがあまりにも不足しており、この技術をすべての人に届けるにははるかに多くが必要だ
-
データセンター戦略と物理インフラ
- OpenAIは今後訪れるものを見越してコンピュートを構築するために多くの努力を注いできており、モデルを誰にでも広く提供するというミッションに集中しようとしている
- データセンターに多大な労力と資金を投じる戦略は競合から嘲笑されたが、今では事業面だけでなく、技術をすべての人に届けるというミッション遂行においても優位になると見ている
- AI向けデータセンターは「人類が作る最大の機械」に近く、その目的は がん治療、事業運営、日常的な問い合わせのような、人にとって重要な問題を解決し、目標達成を助けることにある
- 特定の問題専用のデータセンターについては、たとえばDakotaの巨大データセンターががん解決だけを担う形が 今年起こる可能性も排除できない と見ている
- 現在のデータセンターは非常に繊細な大型機械であり、過去にはケーブルが張りすぎて 信号完全性の問題 が生じ、コンピューターが動作しないこともあった
- 現在のシステム保守は人が物理的に行っているが、今後は ロボティクス へ移行する可能性がある
- 宇宙データセンターには技術的問題が多いが、コンピュート需要があまりにも大きいため、あらゆる選択肢を考えなければならないと見ている
-
コンピュート配分とアクセシビリティ
- コンピュートが限られた状況では、「画像生成」と「がん解決」のような異なる需要の間で どこにコンピュートを配分するか が社会的に重要な問いになる
- OpenAIは誰もがコンピュートにアクセスすべきだと考えており、ChatGPTに 無料ティア を設けた理由も、技術を広く使ってもらい、人々が自ら理解し、活用方法を形作れるようにするためだ
- 「アイボリータワー」式にまず問題を解決してから成果を配布するアプローチにも利点はあるが、OpenAIの重心は技術の恩恵を 広範に配分 する側にある
-
エンタープライズと消費者の結合
- OpenAIの次の段階ではエンタープライズが非常に重要であり、経済は目の前で コンピュートベースの経済 へと変わっている
- ソフトウェアエンジニアリングではすでに変化が見られ、コンピューターで働くあらゆる分野で、「人がコンピューターを使って働く」方式ではなく、コンピューターが人のために働く 方式へ移行すると見ている
- エンタープライズと消費者の境界は曖昧になり得て、起業がはるかに容易になる変化 がすでに現れている
- ある友人は、妹が望んでいたアプリの話を聞きながらCodexに入力し、数時間後にアプリを見せると妹が「誰が作ったの？」と尋ね、彼は「君が作ったんだ」と答えた
- Codexはソフトウェアエンジニアだけのためのツールではなく、ビジョンと実行する意志を持つ人なら誰でも ビルダー になれるようにするツールとして提示されている
-
パーソナルAIと一つの技術システム
- OpenAIが特に注力する消費者領域は、エンターテインメントや自己表現よりも 目標解決 だ
- スマートフォン利用者が約 40億人 いるなら、誰もが自分をよく理解し、個人的な文脈を把握し、信頼でき、助言を求められるパーソナルAIまたはパーソナルAGIを持つべきだと見ている
- パーソナルAIは、好きなミュージシャンが街に来たらチケットを買うように能動的に行動でき、場合によってはまず確認し、別の場合には事前承認に基づいてすぐ実行できる
- 目標はあくまでユーザーが定めるべきであり、ユーザーがコントロール権を持つべきだという前提が付く
- パーソナルAIまたはパーソナルAGIにアクセスすべき人は40億人を超え、80億人、つまり地球全体になると見ている
- 業務で使うにせよ個人生活で使うにせよ、複数のインスタンスを持つことはあり得るが、根本的には 一つの技術システム と見ている
配備、安全、中立性、規制
-
反復的配備
- 反復的配備（iterative deployment） は、OpenAIが技術を人々にとって有益なものにし、使命を達成するために用いてきた中核的な柱の一つである
- AGIを秘密裏に作り、何も配備しないまま、ある瞬間にボタンを押して配備する道もあるが、その場合は強力なシステムと現実との最初の接触を一度に受け止めなければならない
- 逆に、徐々に強くなるシステムを何度も配備すれば、「100番目のシステム」を扱う状況になり、それまでの 99回の問題解決 から学べ、世界にも適応する時間が生まれる
- GPT-3の配備前には偽情報のような大きな論点を多く考えていたが、実際に最も大きな悪用は、人々にさまざまな薬を宣伝する 医療スパム だった
- 反復的配備とは、中間バージョンを世に出して実際の悪用やリスクを見て学ぶ方式であり、やみくもに配備しようという意味ではない
- AIのように急速に配備され、強力な技術には プレイブックがなく、OpenAIも作りながら学ばなければならない状況にある
-
安全は製品機能
- 安全は単なる付加要素ではなく 中核的な製品機能 であり、誰も自分と整合していないモデルを望まない
- ユーザーは、どのような状況でも信頼でき、正しいことをするモデルを望んでいる
- OpenAIは、安全に対して人々が認識しているよりはるかに多く、おそらく他のどの研究所よりも多く投資してきた可能性があると見ている
- ChatGPTは世界で最も多くの人が使う言語モデルの配備事例であるため、OpenAIは安全に気を配る必要があり、実際に常にそうしてきたと明かしている
- 成功する製品を作るAI開発者が、安全に非常に強く投資しないままでいられる持続可能な状態はないと見ている
-
社会的レジリエンスとOpenAI Foundation
- 安全はモデルそのものだけでなく、社会がレジリエンスを持つあり方 ともつながっている
- 自動車にはシートベルトと道路が必要であり、電気には安全基準や電柱・高圧線の配置のようなルールがある
- AIでも、モデル自体だけでなく、世界とどのように統合され、社会がどのようにレジリエンスを持つかが重要である
- OpenAI Foundationは、AIのための レジリエントな層 に社会が投資し構築できるよう支援することを、中核的な焦点の一つに据えている
-
モデルの政治的偏向、中立性、ユーザー選好の学習
- OpenAIは、モデルが中立的で真実を表現するよう多くの努力を払っており、モデルに入る価値観や動作方式はウェブサイトの公開仕様で確認でき、フィードバックも可能だとしている
- Twitterのスクリーンショットは、背後にあるメモリ、隠れた指示、以前の会話文脈によって回答が特定の方向に調整されたケースがあるため、常に完全に正直とは限らない
- ある種の質問には正解がなく、一語で答えろと言われた場合、どの答えをしても偏向だという主張が出てきうる
- OpenAIが重要視する核心は 真実 と、ユーザーを代表するAIである
- ユーザーの好みに合わせてモデルを学習させる方式は進化してきており、かつてはモデルがユーザーの聞きたいことを言う方向に傾いたことがあった
- 目標は、モデルがユーザーの 長期的目標と長期的な幸福 を助けることであり、短期的満足を得るための「評価者ハッキング」が起きないよう技術的改善を行った
-
規制、データセンター懸念、国家戦略
- AI規制は、技術が最終的に人々に利益をもたらすようにすべきであり、安定していると思われていた制度、職業、人生の進路がもはや安定的でないかもしれないという点を扱わなければならない
- 誰もがコンピュートにアクセスできるべきか、技術がより多くの経済的価値を生み出すとき、その価値が一か所にだけ蓄積しないようにする方法は何かが、規制の中核的な問いとなる
- ChatGPTの利用によって自分または愛する人の命が救われたと語る人々がおり、そのような活用は支援され、保護されるべきだと見ている
- 医師や弁護士との会話は法的に保護される特権的な会話だが、AIにはまだそのような仕組みがない
- データセンターが電気料金を引き上げるのではないかという懸念があり、OpenAIはそうならないようにするという約束を持っている
- データセンターの水使用量について多く語られているが、OpenAIのデータセンターは水を非常に少ししか使わず、多く使うという話は 誤情報 だと明かしている
- 水使用量が少ない理由は閉ループ構造にあり、プールのような量の水を満たした後、それを継続的に循環させる方式だからである
- 現在の状況は「グローバルAI競争」というより グローバルAIルネサンス に近く、国家間の力学はまだ完全には定まっていないと見ている
- 米国がAIで主導することは、民主的価値が保護され維持されるようにするうえで重要だと見ている
- 各国は、AIが経済安全保障と国家安全保障の基盤になりつつあるなら、何らかの形で参加しなければならず、主権AI戦略 が必要だと気づきつつある
- チップ輸出や技術輸出をあまりに強く制限すると、他国が独自の競合相手を作ったり、別の提供者に依存したりするようになり、逆に緩すぎれば米国が優位を失う可能性がある
- リーダーシップとは、単に先行することだけでなく、世界をともに連れていくことまで含む
雇用、必要な能力、望ましい未来
-
仕事への不安と得られるもの
- AIが正確にどのように展開するかは不確実で、驚くような形で現れる可能性があり、現在のAIと世界はSFが予想していた姿とも異なる
- 変化が来ていることは否定できず、失うものは見えやすい一方で、得られるものは事前にはるかに見えにくい
- 1950年の人に、コンピューター、携帯電話、GPSを経て3分以内に現在地へ車を呼べるようになると説明すれば奇妙に聞こえるだろうが、実際にはそうした技術投資が数千、数万、数百万の活用へとつながった
- AIの核心は能力の拡張と人間の主体性にあり、一部の制度や職業は思ったより安定的ではないかもしれず、人々に影響を与えるだろう
- 複数世代のAI技術を見てきた中で、前の世代の技術を先に身につけた人々が次の世代でも最も大きな利益を得る傾向があったと見ている
- 核心となる能力は主体性、ビジョン、アイデアであり、試してみるための参入障壁はこれまでになく低くなっている
- 世界は、不確実性と転換の時期を生きるすべての人をどう支えるかを考える必要があり、経済はコンピュート基盤の経済へと変わっていくだろう
-
若い世代が身につけるべきこと
- 高校生、大学生、キャリア初期の人にとって重要な能力は、AIを深く活用し、AIから最大限を引き出す方法を理解することだ
- 今後は誰もがエージェントの管理者、さらに言えば自律型AI企業のCEOになる世界へ向かう可能性があると見ている
- 10万人規模の企業の労働力がすべて自分のために24時間動く状況を想像でき、そのためにはトークンとコンピュートが必要になる
- 誰もがコンピュートにアクセスできることは、世界がきちんと解決すべき核心的な課題だ
- これから重要になる能力は、AIを活用する方法、技術を新たに組み合わせる方法、エージェントと相互作用し管理する方法、自分が望むものと目的を理解する方法だ
-
リスクと望ましい未来
- これまでの技術は、人が機械に合わせて身体や生活をねじ曲げる形が多く、箱の前でタイピングしながら手根管症候群や巻き肩を抱える姿は人間にとって自然ではない
- これからはコンピューターで働くのではなく、コンピューターが人のために働く世界へ移行し、それは機会とリスクを同時に生み出す
- 機械が人の目標実現を助けるなら、互いに衝突する目標をどう調整するか、AIが何を助け、何を助けないのかという境界を定める必要がある
- AIが社会にどう入り込むか、利益が一企業や一集団だけに偏らず、皆を押し上げるようにする方法を見つけなければならない
- すべての人が素晴らしい人生とこの技術へのアクセスを持ち、それで何かができるように最低ラインを引き上げる必要があり、それに応じて上限も高まると見ている
- 医療アクセスの面では、誰もがポケットの中に、今日のどの医師チームよりも優れた医師を持つ世界が可能だと見ている
- こうした変化は破壊的であり、ただでは訪れず、すでに初期の誤りも現れている
- 今後2年のあいだ、善のための力になり得ると見ているが、その上振れの可能性を実現するには、うまくいかない可能性やリスクもあわせて認めなければならない
-
個人的な基準と成功の定義
- 論文を書き、引用され、学会で注目を集めるだけではミッションは達成できず、「その活動がどのようにAGIを世界にとってより良い方向へ進めるのか」と結びついてこそ十分だ
- Ilyaの表現では「苦しまなければならない」という見方があり、苦しみがないなら価値を生み出していない、という意味に近い
- OpenAIのやり方は、問題を覆い隠して無理に突き進むのではなく、厳しい真実に向き合い、現実をありのまま理解することに近かったと見ている
- 非技術者に伝えたいAIの意味は、個人生活に役立ち、科学と医療を前進させ、皆を押し上げる善の力になり得るという点だ
- 成功とはOpenAIのミッション、すなわち人工汎用知能が全人類に利益をもたらすよう保証することだ
1件のコメント
Hacker Newsのコメント
昔のコンピュータ雑誌はプログラマー向けで、コードのリストまで載っていた時代を覚えている
ところがある時点から IBM 対 Microsoft の訴訟の話ばかりになり、その後はコンピュータ企業の社内政治ばかり語るという定型を見つけたかのように変わってしまった。こういう企業対企業の報道は退屈で、技術業界版リアリティTVみたいなものだ。今夜は Debra が脱落するのか、Deborah が脱落するのか、という感じだ
世間が見ている側は、実際の技術というより、その技術が可能にした狂気じみたレベルの金、権力、影響力、陰謀に近い。IBM 対 Microsoft の時代でもその規模は大きかったが、今の OpenAI のような時代の規模は想像を超えている。工学・技術とのつながりが、ひたすらその別の側面への関心によって生まれた世代もいる。昔のByte magazineの時代が恋しい
全部聞きたくないならここで確認できる: https://apecast.app/podcast/the-knowledge-project/episode/op...
Brockman が過去をどう見ていたかについては、Musk 訴訟の過程で公開された個人日記もある
例えば「Financially what will take me to $1B?」のような文が入っている。ちなみに Musk は提訴が遅すぎて敗訴した
なぜ誰もIlya の本音を尋ねないのか分からない
Sam を解任しておいて、その後 Sam が解任されたら OpenAI を去るという連帯書簡に署名した流れが理解できない。他の情報はどれも表面をなぞっただけに見える
実際に実行するのはずっと難しかっただろうが、避けられない結果だと信じ込ませたのかもしれない
理由は分からないが、今回のエピソードはかなり退屈に感じた
予想外のことや知られていないことをほとんど共有していないからだと思う
あの件で OpenAI が死んでいたとは思わない。むしろ正されたはずだ
興味深いのは、実質的には偶然に答えを見つけたことだ。事前学習は大規模な非教師あり学習で、RLHF は強化学習だ。まだレシピを知らなかっただけだ
非営利団体がどうしてこんなことをできたのか理解できない
これでは非営利が実際には何の意味もないという前例になるのではないか。有利な構造を使っておいて、自分たちが金持ちになれる段階になったら変えればいいということになる
OpenAI は 2015 年に Delaware の非営利団体として設立され、2017 年にスケーリング則を発見したことで、想定よりはるかに多くの計算資源と資金が必要だと分かった。その後、より多くの資金を調達するための構造変更の交渉が続き、他の共同創業者たちが Musk に支配権を渡さないまま Musk は去った。2018 年には Elon の拠出停止にもかかわらず資金調達を大きく増やそうとしたが、1 億ドルの目標に対して 5000 万ドルしか集まらなかった。2019 年には商業資金を呼び込むために利益上限付き子会社を作り、非営利団体は独立評価者を雇って知的財産権の価値を評価させたうえで、約 6000 万ドルの公正価値で営利法人に移転した。その対価として、非営利団体は収益発生時に元の知的財産権投資について 100 倍、つまり 60 億ドルまで受け取る権利と、将来の投資家たちが上限に達した後の残余利益を受け取る権利を得た。Microsoft は 2019 年に 10 億ドル、2021 年に 20 億ドル、2023 年に 100 億ドルを投資し、各投資には 20 倍または 6 倍の上限が付いて、総目標返済額は 920 億ドルだった。2025 年には利益上限構造から、伝統的な持分を持つ公益法人へと再資本化し、非営利団体は残余利益の権利と既存の 6000 万ドル移転分の 100 倍の利益上限を手放す代わりに営利法人の持分 26% を受け取り、現在価値は約 2000 億ドルだ。これは Musk v. Altman の記録に出てくる内容で、要するに非営利団体は 2019 年に約 6000 万ドル相当の知的財産権を将来利益 60 億ドルの権利に換え、その後の再資本化で 2000 億ドル相当の持分を持つに至った。このスレッドでは非営利団体がもはや存在しないと考えている人が多いが、それは事実ではない
手続き上ひと言言うなら、今もっとも重要な AI 企業はAnthropicだ