主要AIスタートアップは研究成果をほとんど公開していない (science.org) 1 ポイント 投稿者 GN⁺ 3 시간 전 | 1件のコメント | WhatsAppで共有 関連記事 スタートアップ創業者ら、米政府に中国のオープンウェイトAI遮断の中止を要請 2 ポイント · 1件のコメント · 6 일 전 フロンティアの終焉 9 ポイント · 13件のコメント · 2026-04-13 AIスタートアップ200社をリバースエンジニアリングしたところ、73%は単なるプロンプトエンジニアリングに過ぎなかった 18 ポイント · 4件のコメント · 2025-11-25 AI研究所は「自転車に乗るペリカン」に合わせてモデルを最適化したのか？ 3 ポイント · 1件のコメント · 7 일 전 State of AI 2022 レポート [Google Slide, 114P] 22 ポイント · 1件のコメント · 2022-10-13 1件のコメント GN⁺ 3 시간 전 Hacker News の意見 AIを単に反応させるのではなく、先回りして行動させるアイデアで最近のYCバッチに応募し、その前にEpoch AIのデータに合わせた再帰的自己改善の論文を公開した 似た研究をしていた英国の大学教授に連絡し、互いに異なる仮定や手法、重なる結果について1時間ほど議論した 学部の物理学専攻でも、独立研究をして専門家と話せば、本来なら出会いにくかった人とつながれるので、若い人がどんな事業に飛び込むにせよ、研究は良い人脈形成の手段になる 大手研究所が論文公開をやめる理由もここにある。出版は、賢い見知らぬ人の関心を引く別の方法がないときに最も価値があるが、誰でも採用でき、誰もが電話に出てくれる段階では、競合に成功した方法を教える効果だけが大きく残る 科学が産業に変わるたびにこういうことが起きる。化学者たちも自由に発表していたが、染料が金になると、興味深い研究は企業研究所に移り、公開されなくなった LinkedInは専門家のためのこうした接続プラットフォームであるべきなのに、今ではエンゲージメント稼ぎの餌と起業家気取りであふれた場になっていて残念だ 研究から始まったかどうかにかかわらず、自分を外に出し、他の人と話すことは、キャリアと個人の成長にとって最も根本的に重要だ ここで言う先回りするAIが具体的に何なのか、もっと聞きたい 再帰的自己改善は終わりの始まりだと思う 実際に、世界初の基礎研究を行ったスタートアップ2社で働いた。最初の会社は新しい成果を一流ジャーナルに載せるために3年間苦労したが、結局プレプリントとして公開し、ジャーナルは諦めた 現在の2社目はその経験から何も発表しておらず、OpenAIやAnthropicに成果をまねされて6か月分の作業が無意味になることも避けようとしている。論文は投資家向け説明資料と一緒にだけ提供している スタートアップが最前線の研究を公開して得られる利点はほとんどなく、防御も難しい。リスク負担のない企業には見せびらかす手段になり得るが、スタートアップには問題になる 研究を公開する目的そのものが、他の人に再現してもらうことではないのか疑問だ テニュアや研究費が必要な研究者でないなら、ジャーナルを飛ばして自分で論文を公開すればよい。核心は研究の共有だ 本文が言うAIスタートアップがジャーナルではなくブログで発見を公開する現象なのか気になる。ジャーナルは遅すぎ、硬直的で、搾取的なので、この業界ではもはや役に立たないのかもしれないとも思う トップクラスのコンピューターサイエンス会議に論文を出すには、狭い分野で博士課程を経ていない人には近づきにくい内輪の言語と形式主義を使わなければならない 皮肉なことにLLMはそれをかなりうまくこなすため、外部の人が書いた本当に良い論文が、AIが作った低品質な論文より良い評価を受ける可能性は低くなる AI研究のブログ化によって、ソーシャルメディアと同じようにあらゆる主張や用語が生まれ、広がるようになっており、これは健全ではない ゲーム化された環境で複数の実験を回して得た数字さえ付ければ何でも裏付けられ、実際に意味があるかはほとんど問われない段階へ急速に向かっている。こうしたゴミが次のモデルの学習データになり、そのモデルがまたモデルやブログ・論文を作る悪循環は、図書館にシロアリを放つようなものだ その段階にはすでに10年前、もしかするともっと前に到達していた。今は、それを何とか耐えられるものにしていた社会的訓練なしにゲームへ参加する人がずっと増えただけだ それでも完全に悪いわけではなく、新しい参加者が絶えず入ってくる時期は厄介でも、去ってしまうと懐かしくもなる 従来の研究出版との違いは結局速度だけなのか疑問だ 論文に登場した企業を記事が曖昧に扱っている。累積引用数はOpenAIが最も高く、MEGVII、Hugging Face、Waymo、Momenta、Preferred Networks、Anthropic、Owkin、Databricks、Aibeeの順だ 出版数ではなく引用数であり、不完全ではあるが重要度の代理指標として使ったと明記している。Googleのような企業はユニコーンスタートアップではないため除外されている 研究者は業績ノルマを満たし、地位を維持するには論文を出す必要があると理解している。OpenAIやAnthropicが研究キャリアを捨てさせるほどの大金を払わない限り出版は続くだろうから、それを会社の善意と見るのは難しい Googleは多くの研究を公開してきたが、とくにTransformerとAttentionの研究をなぜオープンにしたのか、今でも気になる。最初は翻訳用だったのか、研究者たちでさえ本当の潜在力に気づいていなかったのかもしれない DatabricksはSparkのホスティング会社だと思っていたが、何を理由に上位AIスタートアップに分類されるのか気になる 論文は実際には、論文を公開していない企業がどこなのかを明らかにしていないようだ。OpenAI、Anthropic、Hugging Faceはむしろ出版している企業として明記されているので、「最上位AIスタートアップ」と見てすぐOpenAIとAnthropicを思い浮かべるべきではない タイトルを見て誰もが気にする質問に、論文はきちんと答えられていない。OpenAIは引用数1位だが、古く影響力のある論文は引用が積み上がるし、OpenAIがよりオープンだった時期もあった Altman以降の方向転換の後も今貢献しているのかは分からず、2025年以降の論文は明示的に除外されているため、肝心の関心対象である最新の最前線研究へのアクセス性を把握しにくい。リポジトリは https://github.com/q5loisel/unicorn-AI-startup-publications にある AI企業だからといって自動的に研究企業になるわけではない。ここ数年に生まれたスタートアップの大半は、商業目的で他社が作ったモデルを使っているため、科学論文を期待する理由はない むしろスタートアップの50%が公開研究に貢献しているなら、予想よりはるかに優れた結果だ 自由市場のインセンティブだけを信じられないから、科学には公的資金を投入している。企業が競合と情報を共有する理由はほとんどない 2番目に大きい企業の名前がOpenAIなら、ある程度は論文公開を期待してしまう より広い産業を分析した優れた論文では、優れたアイデアを見つけるのがますます難しくなっているという既存研究が、なぜそのように見えたのかも扱っている。 米国の研究者数が増えても生産の伸び率が停滞した現象とは異なり、45年間にわたって米国企業の特許を追跡すると、研究開発投入当たりの平均特許数は増加し、投入に対する特許の弾力性も維持または上昇していた。アイデアである特許の増加と労働生産性の間には一貫した正の関係がある一方、アイデアの増加をコントロールした企業成長率は低下している。つまり、イノベーション活動が成長を支える役割は、この40年間で弱まっていないという結論である。 https://faculty.tuck.dartmouth.edu/uploads/teresaFort/files/... GoogleがAttention Is All You Needを公開していなければ、現在のAIスタートアップのどこも存在していなかっただろうという点は皮肉である。 2015年のhttps://research.google/pubs/distilling-the-knowledge-in-a-n...を見ると、その皮肉は今まさに展開中なのかもしれない。 Googleは、独立した最前線モデルの軍拡競争を経済的には非合理だと見なしつつも、その能力は戦略的に不可欠だと判断していた可能性がある。最大級のモデルを能力を生み出す工場として使える程度にだけ作り、その知能をはるかに多くの安価な目的別モデルへ変換する長期戦略である可能性がある。 Googleがこれを理解していたのなら、最初から秘密兵器にしなかった理由は、軍拡競争を予測し、その過程で利益を得る方法も知っていたからかもしれない。蒸留の論文がTransformerの論文より先に出ていたことを考えると、皮肉ではなく当然の結果だったのかもしれない。 Googleでさえ、公開研究がなければ現在の位置にはいなかっただろう。第二次世界大戦前の放射線科学のように、世界を変える潜在力が知られる前は自由に発表されるが、政府の関心事になった後は、兵器と無関係な研究者でさえ結果を隠すようになる。 その論文の著者たちは全員、現在はGoogleではないAI企業にいる。 その論文も、すでに近くまで来ていた複数のアイデアに基づいていた。素晴らしい発見ではあるが、多くの発見と同じく巨人の肩の上に立っている。 AI産業全体が公開研究の上に築かれているのに、現在の波はそれに反しており、軍拡競争を口実にした貪欲さに突き動かされているように見える。 公開研究の役割を認める新しいESG方針が必要だが、今の暗い環境ではESGも他の規範もすべて押しのけられているように見える。 コンピューティング産業の価値の相当部分は、賢い人々が協力し、最初の発見の価値を独占するのではなく方法を公開することを選んだおかげで生み出された。これは現在のAIブームより半世紀ほど前からの現象である。 ただし私の場合は貪欲さとは正反対だ。動作原理、問題解決の成果物、教育内容を共有したいなら、単に自分で公開すればよいが、学界が承認した機関の枠組みの中で行う仕事は消耗が大きく、気が散る。 ここでいう「研究出版」とは、HTMLページやソースコードを公開することではなく、非常に特殊で政治的なコミュニケーション手続きのことを指す。その名声競争が必要なキャリア段階でだけ意味があり、実際の科学的手続きをまねるカーゴ・カルトに近い面もある。 優れた公的資金による研究も多いが、Attention Is All You NeedやOpenAIの複数の重要論文は民間資金で作られており、研究でもOpenAIが引用数1位である。公開研究に関する前提は、証拠と合っていない可能性がある。 研究を共有する企業もあるが、概して米国企業ではなく、例としてhttps://arxiv.org/abs/2607.24653がある。DeepMind、Nvidia、Thinking Machinesなどは例外である。 論文公開よりさらにひどいことに、Anthropicのような企業は希少書を買い集めて破壊することさえしている: https://arstechnica.com/ai/2025/06/anthropic-destroyed-milli... 査読付き出版プロセスは面倒で、知識伝達の効率を最大化できておらず、コミュニケーションというより資格や権威の認証に近く、その名声の利益も企業より個人により多く帰属する。 ブログ型の出版物には検証されていないゴミが多いが、査読付き研究にも低品質な結果は多く、知識の出所に関係なく、信号対雑音比は何十年も悪いままだった。 優れた研究を公開すると、さまざまな形で競合に利用され、知的財産権を行使することも事実上不可能なため、純粋なコスト部門になる。一部のコンピュータサイエンス分野では、最新技術が何十年も営業秘密として埋もれ、学術文献が気まずいほど遅れていた。 出版には時間とお金がかかるが、研究者は興味深い問題を解きたがり、企業は研究の活用度を最大化しようとするため、出版はどちらにも役立たない。多くの基礎研究も論文ではなく問題解決を目的としており、解決した後は次の問題へ移る。 最前線の研究には国家安全保障上の考慮も常につきまとう。これらはすべてインセンティブ構造の結果であり、基礎研究のかなりの部分はもはや学界では行われていない。私自身も非公開の研究プログラムを楽しんでいたし、自分が行った興味深い基礎研究にも出版する価値はなかった。目的は名声ではなく、解くべき問題だったからだ。
1件のコメント
Hacker News の意見
AIを単に反応させるのではなく、先回りして行動させるアイデアで最近のYCバッチに応募し、その前にEpoch AIのデータに合わせた再帰的自己改善の論文を公開した
似た研究をしていた英国の大学教授に連絡し、互いに異なる仮定や手法、重なる結果について1時間ほど議論した
学部の物理学専攻でも、独立研究をして専門家と話せば、本来なら出会いにくかった人とつながれるので、若い人がどんな事業に飛び込むにせよ、研究は良い人脈形成の手段になる
科学が産業に変わるたびにこういうことが起きる。化学者たちも自由に発表していたが、染料が金になると、興味深い研究は企業研究所に移り、公開されなくなった
実際に、世界初の基礎研究を行ったスタートアップ2社で働いた。最初の会社は新しい成果を一流ジャーナルに載せるために3年間苦労したが、結局プレプリントとして公開し、ジャーナルは諦めた
現在の2社目はその経験から何も発表しておらず、OpenAIやAnthropicに成果をまねされて6か月分の作業が無意味になることも避けようとしている。論文は投資家向け説明資料と一緒にだけ提供している
皮肉なことにLLMはそれをかなりうまくこなすため、外部の人が書いた本当に良い論文が、AIが作った低品質な論文より良い評価を受ける可能性は低くなる
AI研究のブログ化によって、ソーシャルメディアと同じようにあらゆる主張や用語が生まれ、広がるようになっており、これは健全ではない
ゲーム化された環境で複数の実験を回して得た数字さえ付ければ何でも裏付けられ、実際に意味があるかはほとんど問われない段階へ急速に向かっている。こうしたゴミが次のモデルの学習データになり、そのモデルがまたモデルやブログ・論文を作る悪循環は、図書館にシロアリを放つようなものだ
それでも完全に悪いわけではなく、新しい参加者が絶えず入ってくる時期は厄介でも、去ってしまうと懐かしくもなる
論文に登場した企業を記事が曖昧に扱っている。累積引用数はOpenAIが最も高く、MEGVII、Hugging Face、Waymo、Momenta、Preferred Networks、Anthropic、Owkin、Databricks、Aibeeの順だ
出版数ではなく引用数であり、不完全ではあるが重要度の代理指標として使ったと明記している。Googleのような企業はユニコーンスタートアップではないため除外されている
論文は実際には、論文を公開していない企業がどこなのかを明らかにしていないようだ。OpenAI、Anthropic、Hugging Faceはむしろ出版している企業として明記されているので、「最上位AIスタートアップ」と見てすぐOpenAIとAnthropicを思い浮かべるべきではない
Altman以降の方向転換の後も今貢献しているのかは分からず、2025年以降の論文は明示的に除外されているため、肝心の関心対象である最新の最前線研究へのアクセス性を把握しにくい。リポジトリは https://github.com/q5loisel/unicorn-AI-startup-publications にある
AI企業だからといって自動的に研究企業になるわけではない。ここ数年に生まれたスタートアップの大半は、商業目的で他社が作ったモデルを使っているため、科学論文を期待する理由はない
むしろスタートアップの50%が公開研究に貢献しているなら、予想よりはるかに優れた結果だ
より広い産業を分析した優れた論文では、優れたアイデアを見つけるのがますます難しくなっているという既存研究が、なぜそのように見えたのかも扱っている。
米国の研究者数が増えても生産の伸び率が停滞した現象とは異なり、45年間にわたって米国企業の特許を追跡すると、研究開発投入当たりの平均特許数は増加し、投入に対する特許の弾力性も維持または上昇していた。アイデアである特許の増加と労働生産性の間には一貫した正の関係がある一方、アイデアの増加をコントロールした企業成長率は低下している。つまり、イノベーション活動が成長を支える役割は、この40年間で弱まっていないという結論である。
https://faculty.tuck.dartmouth.edu/uploads/teresaFort/files/...
GoogleがAttention Is All You Needを公開していなければ、現在のAIスタートアップのどこも存在していなかっただろうという点は皮肉である。
Googleは、独立した最前線モデルの軍拡競争を経済的には非合理だと見なしつつも、その能力は戦略的に不可欠だと判断していた可能性がある。最大級のモデルを能力を生み出す工場として使える程度にだけ作り、その知能をはるかに多くの安価な目的別モデルへ変換する長期戦略である可能性がある。
Googleがこれを理解していたのなら、最初から秘密兵器にしなかった理由は、軍拡競争を予測し、その過程で利益を得る方法も知っていたからかもしれない。蒸留の論文がTransformerの論文より先に出ていたことを考えると、皮肉ではなく当然の結果だったのかもしれない。
AI産業全体が公開研究の上に築かれているのに、現在の波はそれに反しており、軍拡競争を口実にした貪欲さに突き動かされているように見える。
公開研究の役割を認める新しいESG方針が必要だが、今の暗い環境ではESGも他の規範もすべて押しのけられているように見える。
ただし私の場合は貪欲さとは正反対だ。動作原理、問題解決の成果物、教育内容を共有したいなら、単に自分で公開すればよいが、学界が承認した機関の枠組みの中で行う仕事は消耗が大きく、気が散る。
ここでいう「研究出版」とは、HTMLページやソースコードを公開することではなく、非常に特殊で政治的なコミュニケーション手続きのことを指す。その名声競争が必要なキャリア段階でだけ意味があり、実際の科学的手続きをまねるカーゴ・カルトに近い面もある。
査読付き出版プロセスは面倒で、知識伝達の効率を最大化できておらず、コミュニケーションというより資格や権威の認証に近く、その名声の利益も企業より個人により多く帰属する。
ブログ型の出版物には検証されていないゴミが多いが、査読付き研究にも低品質な結果は多く、知識の出所に関係なく、信号対雑音比は何十年も悪いままだった。
優れた研究を公開すると、さまざまな形で競合に利用され、知的財産権を行使することも事実上不可能なため、純粋なコスト部門になる。一部のコンピュータサイエンス分野では、最新技術が何十年も営業秘密として埋もれ、学術文献が気まずいほど遅れていた。
出版には時間とお金がかかるが、研究者は興味深い問題を解きたがり、企業は研究の活用度を最大化しようとするため、出版はどちらにも役立たない。多くの基礎研究も論文ではなく問題解決を目的としており、解決した後は次の問題へ移る。
最前線の研究には国家安全保障上の考慮も常につきまとう。これらはすべてインセンティブ構造の結果であり、基礎研究のかなりの部分はもはや学界では行われていない。私自身も非公開の研究プログラムを楽しんでいたし、自分が行った興味深い基礎研究にも出版する価値はなかった。目的は名声ではなく、解くべき問題だったからだ。