- OpenAIは今週、新たに66億ドルを調達し、企業価値は1,570億ドルに達した
- 年間70億ドル以上の現金を消費する組織としては驚異的な成果
- OpenAIの主要製品は技術ではなく、物語である
- AI革命が無限の繁栄をもたらし、人間の生活を飛躍的に改善すると宣言
- AIが気候問題を解決し、宇宙植民地の建設を助け、あらゆる物理学を発見すると期待
- 数千日以内に全能の超知能を手にする可能性があると予測
- そのためには十分なエネルギー、データ、チップを供給しさえすればよいとする
シリコンバレーの神話づくり
- いつかはAIに関するアルトマンのアイデアが証明されるかもしれないが、現時点では彼のアプローチは教科書的なシリコンバレー流の神話づくりである
- 人類は常に、社会をより良い方向へ変える技術的ブレークスルーの直前にいる
- 難しい技術的問題は基本的に解決済みで、残りは市場競争と起業家精神によって解決されるという発想
- 「今、数十億ドルを使えば、後で数兆ドルを稼げる」
- これは1990年代のドットコムブーム、2000年代のナノテクノロジー、2010年代の暗号資産とロボティクスで語られた物語だった
- これらの技術は約束どおりには機能しなかったが、起業家、エンジニア、投資家たちは帝国を築くあいだ、規制当局と一般大衆を置き去りにした
現在のOpenAI製品の限界
- ChatGPTとDALL-Eは2022年には最先端技術だったが、今ではありふれていてバグの多い現行技術のように感じられる
- GPT-4はもはや全能の超知能の前兆ではなく、ただの別のチャットボットに見える
- LLMでメールや物語を書くことはできるが、特別に独創的というわけではない
- ツールは依然としてハルシネーション（偽情報を自信満々に主張すること）を起こし、困惑させる予期しない形で失敗する
「AIスロップ」Webコンテンツの拡散
- LLMで生成された粗悪なコンテンツがほぼ無料で大量生産され、制作者に広告収益をもたらしている
- 誰もが予想し、誰も幸せにならない底辺への競争が起きている
- 一方で、膨らんだテック企業の評価額を正当化できる規模のプロダクト・マーケット・フィットを見つける努力は、依然として不足している
- アルトマンでさえ、OpenAIの最新製品o1は最初に使うと印象的だが、長く使うとそうでもないと認めている
アルトマンの主張への懐疑
- 多くの計算機科学者は、私たちとAGIの間にはいくつもの重要な科学的ブレークスルーがまだ必要だと主張している
- アルトマンは、自社がすべてをうまく処理しており、SFがまもなく現実になるかのような自信を見せている
- 最終的なビジョンを実現するには7兆ドルほど必要になるかもしれないが、彼が約束するあらゆる進歩に比べれば大したことではないという
- アルトマンは物理学者ではなく連続起業家であり、シリコンバレーで最も高く評価される人材スカウトの一人である
- 彼の画期的な成功は主に、初期スタートアップを投資家の資金と結びつけることに関係しており、特定の技術革新によるものではない
技術楽観主義者たちのレトリック
- アルトマンの主張が、同じく億万長者のテクノ楽観主義者たちの主張とどれほど似ているかは驚くほどである
- 技術進歩を信じ、発明家と投資家を煩わしい規制から解放すれば、市場が魔法を発揮して誰もがより良くなると主張する
- アルトマンはAIには責任ある規制が必要だと主張するが、同社の規制への対応は「いや、それはやめてください」のように見える
- 今は規制の明確化を求めているが、実際には今すぐの規制は望んでいない
現在のAI技術の問題点に注目すべき
- AIが子どもをいじめたり搾取したりするために使われている現実に焦点を当てるよりも、AIが生活をより便利にする方法を想像するほうが楽しい
- 気候変動による問題を解決する慈悲深い未来のAIを思い描くほうが、今日実在するAIの莫大なエネルギー消費や水使用について考えるよりも、はるかに楽しい
- これらの技術にはすでに実績がある。世界はその潜在力だけでなく、結果と影響に基づいてそれらと、それを作る人々を評価できるし、そうすべきである
GN⁺の意見
- AI技術の進歩は印象的だが、その潜在力に関する誇張された主張と現実のあいだには大きな隔たりがある
- 技術革新だけでは社会問題を解決できず、責任ある規制と倫理的配慮が必要である
- 技術楽観主義者たちは未来についてバラ色の展望を示すが、現在の問題点を見過ごしてはならない
- 社会は技術の結果と影響を綿密に評価し、テック企業に対して批判的な視点を持つべきである
- AI技術を社会に導入する際は、その長所と短所を慎重に考慮し、透明性と説明責任を確保することが重要である
- AnthropicのClaudeやDeepMindのChinchillaなど、OpenAIの競合製品もLLM技術の限界を示している
3件のコメント
指先だけを見ている人たち vs それが何を指しているのかを理解して行動する人たち
AGIが近づいている、もうほとんど作ったなどと大口をたたくわりには、肝心のAI関連製品と呼べるものはチャットボットしかない……
そもそもGPTを「人工知能」と呼んでよいのかどうかも分からないし……
Hacker Newsの意見
OpenAIの最近の決定の要約: GPT-5の過剰な宣伝、安全チームの解体、収益追求への転換、Altmanへの株式提供準備などの変化があった。これらの変化は、Altmanが短期的な出口戦略を準備していることを示唆している。
Sam Altmanに対する批判: 技術が停滞したという認識、Altmanが物理学者ではなくディールメーカーだという点、AIの否定的な側面とエネルギー消費の問題などがある。
CEOの役割は、AIの未来を想像させることだ。GPT-5に実体がない場合、OpenAIの価値はどうなるのかという疑問が提起されている。
技術の発展は資本集約的であり、多様な人材を必要とする。技術リーダーは多くの人々に責任を負わなければならない。
Altmanは物理学者ではなく連続起業家であり、OpenAIを除けば、彼の才能は明確ではない。
AIに関するすべてを無視できるフィルターがあればいいのに、という意見がある。AIは世界をより信頼できない場所にしている。
AIをありのままに理解するのは退屈かもしれない。AIはドットコムや暗号通貨とは異なるカテゴリーである。
AI分野は研究志向である。GoogleはNoam Shazeerを呼び戻すために24億ドル以上を支払い、MicrosoftとFacebookも後れを取っていない。OpenAIは研究者を失っており、1〜2年以内にMicrosoftの子会社になる可能性がある。