- 危険な能力を持たないオープンウェイトモデルは、企業・開発者・研究者に価値を提供する公共財であり、Anthropicはこれをカテゴリー全体として禁止することに反対している
- 国家安全保障上の核心的な懸念は、公開方式そのものではなく、権威主義政府によるAI優位、強力なモデルを利用したサイバー・生物学的攻撃、そしてアラインメント問題である
- オープンウェイトは安全対策の適用や利用監視が難しく、配布後に回収できないためリスクが高まる可能性があるが、米国企業の利用を禁止しても悪意ある行為者を止めるのは難しい
- 代替策として、中国への高性能チップ・製造装置の輸出遮断、産業規模の蒸留の取り締まり、公開・非公開モデルを包括する能力基準の義務的な安全性テストを支持している
- オープンウェイトが防御側に有利だと事前に決めつけず、特に生物学における攻撃者・防御者の非対称性を含むリスクを、リリース前の実証テストで判断すべきである
オープンウェイトの全面禁止に反対する理由
- 一部の米国当局者が、米国企業による中国製オープンウェイトモデルの利用禁止を検討しているとの報道を受け、複数のテクノロジー企業がオープンウェイトを支持する公開書簡に署名した
- Anthropicは、自社事業の保護のために禁止を望んでいるとの批判を否定し、オープンウェイトモデルというカテゴリー全体の禁止を主張したことはないと明らかにした
- 危険な能力を持たないオープンウェイトモデルは、実行に必要な計算コスト以外に追加費用なく、企業・開発者・研究者に価値を提供する公共財である
- 保護主義的な禁止は、主要な国家安全保障上の脅威を解決しないまま、米国のAI企業を競争から守る効果しかもたらさない可能性がある
2つの国家安全保障上の脅威
-
権威主義政府によるAI優位
- 最大の懸念は、中国共産党（CCP）を含む権威主義政府が米国より強力なAIモデルを開発し、恒久的な軍事的優位を確保したり、自国民を極度に抑圧したりするために使う状況である
- 中国共産党だけが唯一の脅威ではないが、権威主義政府の中で最も強力な脅威だと評価している
- 米国政府も同じ問題を懸念している
- バンス副大統領は、権威主義政権がAIを奪取・利用して軍事・情報・監視能力を強化したと警告した
- 2026年年次脅威評価は、他の大国によるAIの発展が米国の経済競争力と国家安全保障上の優位を脅かすと判断している
- この脅威においては、モデルがオープンウェイトかどうか、米国企業が利用するかどうかは重要ではない
- 最も危険なモデルは、秘密裏に訓練された後、人民解放軍のドローンや国家安全部の監視・抑圧だけに提供されるモデルかもしれない
-
サイバー・生物学的攻撃とアラインメント問題
- 2つ目の懸念は、強力なAIモデルがサイバー・生物学的攻撃に悪用されたり、深刻なアラインメント問題を引き起こしたりする状況である
- 出身国に関係なく、オープンウェイトモデルは非公開モデルより潜在的リスクが大きい可能性がある
- オープンウェイトには安全対策を適用したり、利用行動を監視したりすることが非常に難しい
- ウェイトが公開されると回収できず、安全対策も除去できる
- コピーをダウンロードして再配布したり、監視できない私設システム上で実行したりすることも可能である
- UK AI Security Instituteの報告書は、危険な能力を持つオープンウェイトモデルの公開が、継続的で不可逆的な悪用リスクを生むと評価している
- 米国の合法的な企業が悪意ある行為者である可能性は低いため、米国企業によるモデル利用を禁止しても、こうしたリスクを直接防ぐことはできない
高性能チップと製造装置の統制
- 中国に高性能チップとチップ製造装置を販売せず、チップ確保に使われる密輸や迂回ルートを取り締まるべきである
- 中国の国内生産能力は限られており、スケーリング則に照らすと、米国製チップなしに米国より強力なモデルを作ることはできないとの判断である
- チップ統制は、権威主義政府が米国より強力なモデルを作るという第一の脅威を、最も効率的かつ直接的に遮断する
- 米国法の範囲外で強力なモデルを訓練しにくくすることで、サイバー・生物学的攻撃とアラインメントのリスクも間接的に減らせる
- 米国司法省は、中国へ先端AI技術を違法に持ち出したり密輸しようとしたりした複数の事件を公表しており、Anthropicはこうした密輸と迂回手段に対する取り締まり強化を求めている
産業規模の蒸留の取り締まり
- モデル蒸留は、モデルをゼロから訓練するより計算効率が高く、中国が保有するチップ規模で可能な水準を上回るモデルを作り、チップ統制を一部迂回できるようにする
- 蒸留だけで中国共産党が米国と同等または優越したAI能力を得ることはできないが、中国のフロンティアモデルを米国からわずか数カ月遅れの水準まで引き上げることはできる
- 蒸留企業の多くがオープンウェイトモデルを公開しているとしても、核心は公開方式ではなく、米国のフロンティアを追い越そうとする権威主義国家が産業規模の作業を支援している点にある
- 全面的なオープンウェイト禁止ではなく、蒸留を抑制する標的を絞った政策・法律・商業的枠組みが必要である
- Anthropicも、自社モデルを大規模蒸留に利用するアカウントを特定して遮断している
- かなりの蒸留が進んだ後で、関連アカウントを見つける場合がある
- 多数の偽アカウントが継続的に作成され、取り締まり対象も絶えず変わる
- 個別企業の措置だけでは解決が難しく、政策的介入が必要である
能力基準の義務的な安全性テスト
- 十分に強力なすべてのモデルは、公開・非公開の別や出身国に関係なく、リリース前にサイバー・生物学・アラインメントリスクのテストを受けるべきである
- Trump政権は最近この方向に動いており、業界提案にも、最も強力なモデルに同じテストを適用する案が含まれている
- スタートアップや学界が開発した能力の低いモデルは、義務的テストの対象から完全に除外できる
- オープンモデルのリスクが実際により大きいのか、そのリスクを緩和できるのかは、事前に断定せず、テスト結果で判断すべきである
- Anthropicのモジュール式訓練戦略に関する研究のように、オープンウェイトモデルの安全性を高める可能性がある方法も存在する
- 効果的な安全性テストには国際的な適用が必要なため、中国共産党の参加も求められる
- AI生物兵器の防止は中国にとっても利益になり得るため、この分野では限定的な協力が可能だと見ている
オープンウェイト公開書簡との違い
- Anthropicは、オープンウェイトと米国のAIリーダーシップに関する公開書簡の一部内容に同意している
- オープンウェイトはAI経済へのアクセスを広げる
- 一部のユースケースで競争を強化する
- 顧客により大きなコントロールを与える
- 蒸留問題は全面禁止ではなく、標的を絞った法律・商業的枠組みで扱うべきである
- ただし、オープンウェイトが必ず安全対策の開発を容易にする、あるいは幅広い能力へのアクセスが攻撃者より防御者に有利に働く、という前提には同意していない
- 実際には、幅広いアクセスが攻撃者により有利に働く可能性もあるため、どちらが優勢なのかを実証的に検証すべきである
生物学における攻撃者・防御者の非対称性
- 十分に強力なモデルは、広く入手可能な材料でパンデミック規模のウイルスを素早く兵器化できるが、それに対する防御は最良の場合でも数年を要する運用上の課題になり得る
- Operation Warp Speedの事例のように、対応技術と体制を整えるには長い時間が必要なため、生物学では強い攻撃者優位が存在する可能性がある
- 現在、生物学的破局を防いでいる要因は、防御者や材料の制限よりも、知的能力と破局的被害を引き起こそうとする意図との負の相関だと見ている
- インターネット検索やDNA合成のような過去の技術は、この相関を崩すほど強力ではなかったが、AIは現在の発展速度であれば、近くこれを崩し得るとの懸念がある
- 十分に強力な技術がすべての障壁を取り除くと、攻撃者と防御者のどちらに構造的優位があるのかが明らかになり、生物学では攻撃者が優勢かもしれない
- こうしたリスクは、推定や公開方式に関する先入観ではなく、厳格なリリース前テストで判断すべきである
Anthropicが求める政策
- オープンウェイトモデルを1つのカテゴリーとして一括して禁止しない
- 権威主義政府が高性能チップと製造装置を確保できないよう、輸出・密輸規制を強化する
- 産業規模のモデル蒸留を、法律・商業・政策上の手段で遮断する
- 十分な能力を備えたすべての公開・非公開モデルに、サイバー・生物学・アラインメントリスクのテストを義務付ける
3件のコメント
買いだめしたトークンを全部使ったら、もう二度と見ることはなさそうだな。アディオス
裏ではロビー活動しておきながらオープンソース支持を表明するのは、本当に驚きですね。AnthropicがAGIを達成したら、アラサカみたいになりそうな感じです。
Hacker Newsの意見
「十分な能力を持つすべてのモデルは義務的な安全性検査を受けるべきだ」という主張は、事実上 オープンウェイトモデルの禁止 を求めるのと同じこと
誰が検査し、費用が過度に高かったり、管理者が特定の参加者を拒否したらどうなるのか。米国は過去にも、認証印を義務化したうえで発行を拒否する形で商品を禁止してきた
経済的な影響は大きいだろうが、セキュリティ効果はごく小さいように見える。米国内でのオープンウェイトモデル利用を制限すれば、最近のHugging Faceへの攻撃のような事故を減らせるという理屈が最も説得力はあるが、政府が検査要件を実質的に執行するのは難しい
オープンウェイトモデルがAPI提供モデルと同じセキュリティ基準を満たすのは事実上不可能であり、作者が望んでも順守できない。IP遮断や輸出規制でアクセスや推論能力を制限することはできるが、悪意ある行為者の抑止には効果がない
もし「Mythos級」のモデルがそれほど危険なら、むしろ皆のコードを直させればよい。世界中のソフトウェア企業・サービス・活発な自由／オープンソースプロジェクトは、多くても数百万〜数千万程度だろうから、各自がコードを直せるように全員へFable/Mythosクレジット100ドルを配れる
Anthropicは1億〜10億ドルで人類史上最大の広告キャンペーンを打ちながら、同時に世界中のセキュリティを強化できる。大半は悪意がなく、エンジニア、コンサルタント、創業者、事業主、メンテナーなら、Mythosで自分のコードを直そうとする可能性が高い
こうした能力を許可ゲートと密室の向こうに閉じ込めれば、長期的にはより大きな被害が生まれ、アクセス権を持つ者が誰なら安全でいられるかを決める非対称な世界ができる。皆がMythosを持てば、誰も独占的な「Mythos」を持てないのだから、ただ人々にコードを直させるべきだ
最近のモデルは、内部検査や事業全体をこの2社に依存するGray Swanのような外部の非公開評価業者しか使っておらず、これらの会社は同じ研究者人材プールを持ち回りしている
中国は、AIを邪悪な目的に使おうとする脅威である一方、同時に競争相手の米国と協力して、正体不明の他の主体が同じ目標を達成できないよう防いでくれる国でもあるという シュレーディンガーの中国 として扱われている
現実は単純だ。AnthropicのCEOは、自社のクローズドで高価なモデルに匹敵するか、それを上回るモデルが広く配布され、収益に打撃を与えることを望んでいない
Anthropicをはじめとするモデル企業の特別な資産は、チップへの特権的アクセスだけなのだから、どんなモデルが出てきて誰が新しいモデルを作れるかを制限したがるのは当然だ。規制がなければ、数千億ドル規模の企業価値が消えるのは時間の問題だ
むしろ黙っていた方がまだ敬意を持てた。オープンモデルが激しい競争を起こしたり収益基盤を壊したりする可能性が明白なのに、全人類の労働に対する権力を独占しようとする試みを道徳的優位として包装している
中国がAIイノベーションをオープンソースで公開して AIバブル を抑えるか、より早く崩壊させたのは、自国の利益にかなう優れた選択だったと思う
最初の段落では禁止は有用でないと言いながら、後では中国のチップ確保のための密輸や抜け道を取り締まるべきだとしている
禁止が効かないという信念 はハードウェアにも同じように当てはまるはずだ
Darioが支持する3つの措置は、中国へのチップ販売禁止、蒸留の取り締まり、すべての高性能モデルに対する義務的安全性検査であり、都合よくすべてAnthropicに商業的利益をもたらす。Anthropicがオープンウェイトモデルを一つでも公開していれば、はるかに説得力があっただろう
昨日まで自分の技術が他国の女子校を爆撃するのに使われる可能性を気にしていなかった人物が、急に別の国の市民の抑圧を心配し始めた
こうした 道徳的アピール や、今年の「悪夢のシナリオ」に関する上から目線の説教は信じがたい
親イスラエル的でありながら、イスラエル政府がAIで他国民を統制・抑圧する危険には一度も触れず、人口統制・抑圧と監視国家の構築を明示的な目標に掲げるPalantirとの協力にも積極的だ
世界で最も抑圧的な北朝鮮は、AIがなくてもそうしている。中国人に、DeepSeekやKimiが自分たちを抑圧するというDarioの観念を話せば、笑われる可能性が高い
企業がこれほど急速に、金の卵を産むガチョウから正体不明の状態へ転落した例は記憶にない。
Darioの発表に漂う恒常的な防御姿勢のせいで、Anthropicの製品を信頼したり依存したりしたい気持ちまで失せた。この記事で誰を説得しようとしたのかすら理解できず、Anthropicには立て直しが必要なように見える。
より明確な立場を取った双方をなだめようとする曖昧な態度だが、結果はかなり悪い。
邪悪な中国共産党が世界平和と善に対する大きな脅威なのだから、善なる勢力が繁栄し、腐敗したカメの生物学者を排除するルールベースの国際秩序のために、すべての金と入力トークンのデータをPalantirに渡せ、という話に見える。
https://www.theguardian.com/world/2026/jun/20/mona-khalil-tu...
論理は結局、「この技術は危険すぎるので我々だけがアクセスすべきであり、我々は善の側だから安全な利用を保証できる」ということだ。
では、監視者を誰が監視するのか。
オープンモデルの全面的な普及を支持するなら、生物兵器やサイバー攻撃能力を備えたオープンウェイトモデルはどう扱うべきなのか。
攻撃者にこうしたツールを許すことを、自由のコストとして受け入れるべきなのか。OpenAI/Hugging Faceの件は、制約のないGPT 5.6級モデルの能力を示しており、約6か月後にはオープンウェイトモデルもその水準に達して、あらゆる悪意ある行為者が同規模の攻撃を行えるようになる。
開放性を好むのは合理的だが、波及効果を真剣に考えず、あらゆる状況で無条件に賛成する態度はあまりにナイーブだ。
Hugging Faceはサイバー能力を備えた最先端モデルにアクセスできず、安全装置に繰り返し阻まれ、オープンソースのGLM-5.2を使って初めて攻撃を生き延びることができた。オープンソースモデルが禁止されれば、OpenAIやAnthropicの許可リストにない組織はサイバーセキュリティを確保できない。
30年以上この種の分析を受けてこなかったコードが、突然100万人の「taviso」に匹敵する能力でレビューされるという痛みを伴う危険期間はあるだろうが、開発者も防御側も同じツールを使える。防御コストが高いという非対称性があっても、これは安定化していく軍拡競争であり、最終的にはセキュリティ特性の形式検証が広がり、同じモデルがそのコストも下げ続ける可能性が高い。
蒸留とオープンウェイトモデルは消えず、効果的に禁止したり統制したりする方法もほとんどない。非専門家が情報セキュリティ能力を備えた独自の最先端モデルを自分で蒸留し、維持するためのセルフサービスツールが登場する可能性すらある。
防御側なら、それを前提に対応するのが最善であり、許可の是非を議論しても、その間に世界的な執行体制は生まれないだろう。
オープンかクローズドかはそれほど重要ではなく、現在の安全装置が誤検知寄りであっても、クローズドモデルでかなりのサイバー被害を与えられる。
唯一有効な統制は、攻撃者と防御者が同じ能力にアクセスできるよう競技場を平らにすることだ。Darioの提案のように、攻撃者は迂回できるが防御者は通れない関門を作れば、混乱が保証されるだけだ。
Darioが繰り返し見落としているのは、人々がもはや米国が整列したAIを作ると信頼していないという事実だ。
彼の戦略全体は、米国と米国政府が例外的に善であるという前提に依存しているが、世界のその他の地域からは明らかに虚偽に見える。
彼によれば、世界の安全と道徳のルールは米国だけが書くべきであり、同じインタビューで米国の外交政策を支持しつつ、中国を「攻撃的で戦争を常とする政権」と呼んでいた。
これを虚偽だと見る米国人も増えているが、寡頭支配層は米国政府の政策の最大の受益者である以上、プロパガンダは続くだろう。
Anthropicが開発を押し進めながら同時に停止と規制を求める論理も、個人が減速を望みながらAI企業で働き続ける理由があることも理解できる。
だが、皆がそう考えるなら、成立するかも分からない合意を待つ間に競争はさらに激化し、何も変わらず、経済的インセンティブがあらゆる参加者の継続を正当化してしまう。
内部からもっと具体的な行動が出てくることを望む。判断があまりに複雑なときは、基本原則に立ち返ればよい。AIがあまりに速く進歩していると信じるなら開発を止めるべきであり、AI企業が停止を望むなら、まず自ら停止して模範を示すべきだ。
他社が追随するかもしれないし、従わない企業は無責任に見えるだろう。これ以上罪を犯さないと決めた者が、まず石を置くべきだ。