フロンティアの終焉
(tanyaverma.sh)- AnthropicのMythos発表をきっかけに、インターネットはもはや誰もが自由に探検できる無許可の創造空間ではなくなっている
- 労働と知能が資本に置き換えられ、少数の企業がAI時代の恒久的な優位を占める構造が固定化しつつある
- 非公開モデル政策とAPIアクセス制限は安全を名目としているが、イノベーションと安全研究を同時に萎縮させる結果を招いている
- 知能へのアクセスの基本原則は「アクセス優先」であるべきであり、企業は透明な手続きと監査可能性を確保すべきである
- 人類のデータで学習されたモデルを少数が独占する植民地主義的な価値抽出構造を警戒し、インターネットの開放性と創造性を守るべきだ
フロンティアの終焉
- AnthropicのMythos発表をきっかけに、インターネットはもはや誰もが自由に探検し創造できる無許可の空間ではなくなっている
- かつては資本や人脈がなくても誰もがインターネットと同じ技術インフラにアクセスできたが、今では公開モデルと非公開モデルの格差が拡大している
- これはアメリカ開拓時代の「フロンティア消滅」に似た機会の終焉にたとえられている
- 労働と知能が資本に置き換えられる構造が深まり、資本を持つ集団がAI時代の恒久的な優位を占めるようになっている
- Rudolf Laineはこれを「資本が超人的な労働へと転換される時代」と表現し、George Hotzは**「新封建主義(neofeudalism)」**と名付けた
- ごく少数の企業が知能そのものを独占すれば、残りは恒久的な下層階級へ転落しかねないという警告
- AnthropicのMythos非公開方針は単なる安全対策ではなく、民間企業が国家級の能力を独占する構造だと批判されている
- AnthropicはAWS、Apple、GoogleなどとともにProject Glasswingを発表したが、一般公開は行わず企業パートナーにのみアクセス権を付与した
- これによりセキュリティ事故や情報漏えい時のリスクが高まり、国家レベルの能力が私企業に集中する非民主的な状況が生じる
- APIアクセス制限は乱用防止には役立つが、同時にイノベーションと安全研究を抑制する
- 公開アクセスはモデルの潜在能力を明らかにし、実環境における**「早く失敗して修正する」**ことを可能にする
- 過去に**fuzzerツール(American Fuzzy Lop)**の導入がセキュリティ強化を導いた例のように、フロンティアモデルへのアクセス拡大がセキュリティ能力の向上につながりうる
- しかし現在、AI安全研究者は大規模モデルにアクセスできないため、その多くが中国のオープンソースモデルを利用している
- **知能へのアクセスの基本原則は「アクセス優先」**であるべきであり、安全装置はその上に付け加えるべきだ
- 政府レベルの能力を持つ企業は公正な手続きと透明な基準を整備すべきであり、アクセス制限時には明確な理由の公開が必要である
- Frontierモデルへのアクセス権剥奪は**「アンバンクト(unbanked)」状態**に似た社会的排除として作用する
- **FOIA(情報公開法)**レベルの監査義務が求められる
- 人類全体のデータで学習されたモデルを少数企業が独占することは、植民地主義的な価値抽出構造に似ている
- 多数のデータ提供者からは同意なく価値が抽出され、利益は内部ネットワークに集中する
- その後、UBIや慈善寄付によって道徳的正当性を確保しようとするパターンが繰り返される
- 意図が悪意によるものでなくても、権力集中という構造的問題は同じである
- AIの個人化可能性への希望も示されている
- 現在の閉鎖的なAI時代はメインフレーム時代にすぎない可能性があり、**パーソナルコンピューティング(Apple II)**時代への転換可能性がある
- オープンソースモデルはすでに3〜12か月差でフロンティアを追い上げており、チップとエネルギー供給の拡大が実現すれば、**「測定できないほど安価な知能」**の時代が到来しうる
-
『Wired』の自由を失ってはならない
- 都市が安全を理由に古い木を切り倒すように、過度な安全論理によってインターネットの開放性と創造性を失う危険がある
- インターネットはなお個人主導の創造と探検の最後の空間であり、それを守ることが重要だ
13件のコメント
マーケティング的な誇張に見える。新モデルが出るたびに史上最高だ、人類時代の終焉だ、コーディングは終わったから配管工をやるべきだ、などといった奇抜な誇張文句はあふれていたが、いざ実用となると問題があったし、最も重要なのは大多数の人がむしろ高度な検索エンジンを使う程度の水準にとどまっていて、強力なモデルの出力を100%引き出せていないことだ。LLM時代のボトルネックはコードでもインフラでもなく、逆説的に、プロンプトを投げる一般大衆の情報システムに対する理解の低さである。
最近31bモデルが次々に公開されているのを見ると、すごいですよね……まだしばらくは希望がありそうです
Hacker Newsの意見
発表からまだ1週間しか経っていないのに、もうこんな議論が出てくるのは早すぎる気がする
「このモデルは一般公開するには強力すぎる」という言い方はマーケティング文句のように聞こえる
数か月後には結局また別のモデルを売り出して、その次には「新モデルは強力すぎて公開できない」と言い出しそうだ
Mythosは遅すぎてインタラクティブなコーディングには向かないらしい。結果が出るのに一晩かかるようなら、たいていの利用者にはあえて使う理由がない
AI研究所は今も赤字を出していて、Mythosを公開するならもっと高い価格設定にしなければならない。ほとんどの顧客がその差を実感できないなら経済性がない
おそらくAnthropicはOpenAIより大きい学習用データセンターへのアクセスを活用したかったのかもしれない。ただ今必要なのは、より賢いモデルではなく、小さく安く、それでいて十分に良いモデルだ
Mythosもあの時と大差ない気がする
AI開発を遅らせようとしていた人たちが、かえってその言説を広めて注目を集め、結果的にAI普及に貢献してしまった
2011年ごろにこうした現象を扱った興味深い研究もあって、スウェーデンのブランドCheap Mondayの事例を思い出す
アクセスを制限することが安全保障の核心だと信じているようだ
だが、こうした態度が一部の少数にだけ利益を与え、多数を疎外する結果になるなら、その正当性は大衆が判断すべきだ
こうした機能が公開APIとして提供されれば、悪用される可能性が高い
すでにAIを使った大規模詐欺やディープフェイクの事例は多い
オープンソースコードに「あり得る脆弱性をすべて見つけろ」と命じたとき、既存モデルよりはるかに多くの結果を出すなら、限定公開は合理的な選択だ
AnthropicがCrowdstrike、Cisco、Microsoftのようなセキュリティ企業にだけアクセス権を与えたのは理解できる
Glasswingの目的がインフラの安全性を強化することなら、過去にセキュリティ事故があったという理由で彼らへのアクセスを止めるのはおかしい
Mythosはいずれ公開されるかもしれないが、今回の限定公開は安全な公開に向けた準備段階のように見える
NVIDIAではこうした懸念を解消するためにNemotronを開発中だ
Nemotronはオープンウェイトだけでなく、オープンデータとオープンレシピまで公開するモデルだ
複数の機関が協力してオープンなAIを作ることが目標だ
Nemotron 3 Superが現時点で最も成功しており、まもなくUltraとNemotron 4も登場予定だ
AIが成長するほどNVIDIAの機会も広がるため可能な戦略だ
関連リンク
「16歳でも資本なしに何かを作れた時代」という言い方は、今のほうがむしろ真実に近い
AnthropicがMythosを公開できない理由は計算資源の不足だ
OpenAIは今年と来年にかけて、はるかに多くの計算能力を確保する予定だ
Mythosは他モデルと大きく違わないという点で、「早すぎる」という意見に同意する
ただしAI批判派が主張する「大企業が社会を略奪した」というフレームは、知的財産権の概念に対する誤解から来ているように思う
AnthropicはMythosを隠すより、企業向けセキュリティ点検サービスとして活用したほうがよい
モデルでインフラを攻撃して脆弱性を見つけるサービスなら収益性も高いはずだ
たとえば人気のnpmパッケージ管理者が資金に困ってMythosで自分のライブラリを点検してもらい、その1か月後にハッキングされたとなれば大問題になる
「電力網」の比喩が印象的だった
太陽光のように個人が電力を生産することもできるが、大半は公共料金を払って電気を使う
同じように知能へのアクセス権も基本的には誰にでも開かれているべきだ
危険な利用は安全装置で制限するとしても、デフォルトはアクセス許可であるべきだ
人類は常に**「怪物のような技術」**を必需品にしようという誘惑に陥る
だがそうした怪物を長く閉じ込めておくことはできない。結局は制御不能になる
アメリカ開拓時代の機会は例外的な現象だった
急成長の時代には個人も伸びられたが、停滞すると企業が個人を圧倒する
技術進歩が加速するほど、個人でも世界を破壊できるレベルに達しつつある
核兵器のように、AIも今や個人アクセスの制限が必要な段階だ
成功するには有名人と結びついたサービスでなければならない
どうせ競合他社がみんな後追いするんだしｗｗ 「さあ、これで戦え」
でも、新しい概念ではないはずでは？
金融業界でも、すべての国の法律を超える金融ハブが一か所存在して、そこで金融業界の制度全体が統制されている。
ITも今やそうしてITハブが作られ、IT企業同士で統制してすべての国家に対抗する、と見ればいい。
そしてClaudeの性能を見れば、それが理解できる。
金融ハブというのは、ユダヤ人ネットワークのような特定の集団を指しているのでしょうか。それとも香港やシンガポールのような単純な仲介ハブのことをおっしゃっているのでしょうか？
SWIFTや決済清算などの構造は、実質的には大国の手の内にあると見るべきです。
対抗するというより、むしろ力のある側の道具として使われることのほうが多いです。
私はそういう感覚で見ると、この記事も本来の趣旨に沿って、力を持つ者の道具になるほうがむしろ自然に感じられます。
まだ少しマーケティング色が強いように思います。
確かに、極端に言えば無限の能力を持つモデルが作られたとしたら、そのモデルを公開する理由はないようにも思えますね。そのモデルの利用料より高い付加価値を、自ら生み出せてしまうはずですから……
きちんと公開するよう強制するなら、むしろ労働と知能が代替されることで、歴史上一度も存在し得なかった共産主義が現実化する可能性もありますね。
思いもよらなかった視点を指摘してくれる良い文章ですね。ありがとうございます！
GLM5.1のようなものを見ると、オープンモデルも多少の差はあっても、有料のクローズドモデルを着実に追いかけていけると思いました。
予見されていたことのように思います……技術が魔法になり、少数の魔法使いがすべてを独占する時代……
B2Bを発明したAnthropic?