NSA、ブラックリスト入りにもかかわらずAnthropicのMythosを使用中

 (axios.com)
3 ポイント 投稿者 GN⁺ 9 일 전 | 1件のコメント | WhatsAppで共有
  • Anthropic Mythos Preview がNSAで使用されており、DoD高官がAnthropicを サプライチェーンリスク と位置付けた後も活用が続いている
  • DoDは2月にAnthropicの遮断とあわせてベンダーにも同様の措置を進めたが、軍内部では同ツールの利用範囲がさらに広がっている
  • 2人の関係者がNSAによるMythosの使用を確認し、そのうち1人はこのモデルが 省庁全体 でもっと広く使われていると述べた
  • NSAが現在Mythosをどのように使っているかは確認されておらず、同じアクセス権を持つ他組織では主に 悪用可能なセキュリティ脆弱性の検出 に利用している
  • PentagonとAnthropicの対立が続く中でも、政府の サイバーセキュリティ需要 と最先端ツール活用の必要性が利用拡大の流れにつながっている

政府内での利用とアクセス範囲

  • NSAが Anthropic Mythos Preview を使用中で、DoD高官がAnthropicを サプライチェーンリスク と位置付けた後も活用が続いている
    • DoDはNSAを監督する組織として言及されている
    • Axiosはこの件を2人の関係者の話として報じた
  • DoDは2月にAnthropicの遮断とあわせてベンダーにも同様の措置を進めており、関連案件は 現在も進行中
    • 同時に軍内部ではAnthropicツールの利用範囲拡大の流れが言及されている
    • 裁判所では、このツールの使用が米国の国家安全保障を脅かすと主張されている
  • 2人の関係者がNSAによるMythosの使用を確認し、そのうち1人は当該モデルが省庁全体で より広く使用 されていると答えた
  • NSAが現在どのようにMythosを使用しているかは 確認されていない
    • ただし、同モデルへのアクセス権を持つ他組織は主に自組織の環境で 悪用可能なセキュリティ脆弱性の検出 に活用している
  • AnthropicはMythosへのアクセスを約 40組織 に制限している
    • 攻撃的サイバー能力は危険性が高すぎるため、より広く公開できないとの立場を示している
  • Anthropicが公に発表した導入組織は 12機関のみ 確認されている
    • ある関係者は、NSAが公表されていないアクセス機関の1つだと述べた
  • 英国の対応機関も自国の AI Security Institute を通じて当該モデルへのアクセス権を保有していると明らかにしている

ホワイトハウス会談とPentagonとの対立

  • Anthropic CEO Dario Amodei が金曜日にWhite House chief of staff Susie Wiles、Treasury Secretary Scott Bessent と会談
    • 政府内でのMythos利用、Anthropicのより広い計画、セキュリティ慣行について議論
  • 関係者によると、会談後の次の段階はPentagon以外の省庁がこのモデルにどう関与するかに焦点が当てられる見込み
  • 会談は双方にとって 生産的 だったと評価されている
  • AnthropicとPentagonはコメントを拒否し、NSAとOffice of the Director of National Intelligenceはコメント要請に応じなかった
  • PentagonとAnthropicの関係悪化は、今年初めの 緊張した契約再交渉 の過程で生じた
  • DoDはAnthropicに対し、Claudeモデルを あらゆる合法的目的 に使用できる形で提供するよう求めた
    • Anthropicは、大規模な国内監視と自律兵器開発は遮断すべきだという立場を維持している
  • 一部の国防当局者は、必要なときにAnthropicを軍が信頼できないとの判断を維持している
    • Anthropicはこれを否定している
  • 政権内の別の一部は、Anthropicが開発中の 最先端ツール を活用するため、この対立の早期終結を望んでいる

関連記事

1件のコメント

 
GN⁺ 9 일 전
Hacker Newsの意見
  • 当然使っているだろうと思っていた。この政権が特に得意なことの一つは偽善だと感じた
    • とはいえ、この政権だけの問題のように言うのは違うと思う。こうした流れが2024年に突然始まったわけではないという意味だ
  • 今回の件を見ると、政府の指定は技術的判断というより政治的判断に近かったことの証拠に見えた。NSAは政界の日常的な感情の起伏にはあまり関心がなく、自分たちの仕事のために最善の道具を使おうとしているだけだと思う
  • AnthropicがMythosとGlasswingに作り出した人工的な希少性は、倫理的だという意味ではないが、かなり賢い戦略のように見えた。Pentagonでサプライチェーン上のリスクのレッテルを貼りつつ、同時に地球最強のハッキングツールのように持ち上げれば、米国政府はアクセスを止めればハッタリだったと言われ、許可すれば矛盾が露呈するという板挟みに置かれることになると思う
    • その戦略は実際、OpenAIが繰り返してきたやり方に似ていると感じた。Sam Altmanがいつも新しいChatGPTは危険すぎて恐ろしいと言いながら結局公開するのを見ると、価値観がよく表れていると思うし、結果もいつも似たようなものだった。まさに狼少年の話を思い出した
    • 要するに、完全に苦境に陥ったと言いたい冗談だ
    • トークン速度を見る限り、今のopusは数バージョン前のsonnetやhaiku級の大きさに見えた。だからMythosはもともとopusと呼ばれていたモデルである可能性が高いと推測した。Anthropicはサイズを公開していないが、Mythosの学習が10^26 FLOPs報告基準未満だったことは確認していた。別の世界線ではopus 4.7がsonnet 5になり、MythosがOpusとして出ていたかもしれないし、もし今の価格の半額以下で出ていたならAnthropicはものすごい称賛を受けていただろうと想像した
    • Mythosは誇張ではないと思う。現時点で最も自律性の高いagentかもしれないと感じた。だからモデル重みの保護が最優先であるべきだと思った。重みは数TB規模である可能性が高く、そこへのアクセス権とそこそこのNVIDIAクラスター1つ、そして賢い数人がいれば誰でもMythosを動かせると考えた。インフラ費用もおおよそ500万ドル未満だろうし、もし誰かが重みの持ち出しに成功したら世紀のモデル窃取になるだろうと想像した
    • Glasswingではモデル自体よりアイデアの方が重要だという点が興味深かった。誰かがその概念を持ち帰ってオープンな代替を作っており、clearwingではモデルを差し替えながらコードの問題を見つけられると聞いた。自分ではテストしていないが、かなり筋が通っていると感じたし、clearwingリポジトリも参考になると思った
  • 驚くことではないと思う。政府が欲しがっていた兵器級のツールをある企業が持っているのに、アクセスしていなかったとは考えにくい
    • ただ、文脈の捉え方を間違えている気がした。その兵器を欲しくない、あるいは使えないと言っていた側も結局は政府自身だったという点が核心だと思う
    • Anthropicはすでに企業にそのモデルへのアクセスを与えていた。だからここでも多くの人がまた誇大マーケティングに引っかかったように見えた。モデルが実際に制限されていたことはなく、危険すぎるという話は誇張に近かったと思う。結局、Mythosの差別化要因はより高価だという点に近いと感じた
  • 少し関連する話として、RedditでClaude Codeの新しい**/ultrareview**は実はMythosを使っているのではないかという推測を見た。Anthropicクラウド上で動いていて、特定のコマンドでしか開けないので、どんなプロンプトでも入れられる構造ではないという点で、もっともらしく見えた
    • その仮説を後押しする点として、Anthropicクラウド上で動いていて、実行ごとに10ドルから25ドルほどかかると直接教えてくれる部分があった
    • 一方で、sonnetやopusでも十分にできる仕事を、なぜわざわざ最も高価なモデルで処理するのかという疑問も湧いた
    • 実際にどのAPIを呼んでいるか見れば、かなり簡単に確認できるだろうと思った
  • 私たちが完全な監視国家へ向かう速度はかなり恐ろしいと感じた。責任を負わないオラクルのようなシステムが事前犯罪を判定する構図が、ますます現実味を帯びていた
    • ただし、これは全力疾走というより、もっと古い問題の延長だと思う。Snowdenの文書流出は2013年だったのだから、監視体制はその前からすでに構築されていたという点で、ゆっくりした散歩に近いと感じた
    • 先週のTrumpのTruth Social投稿を見ると、市民としての権利や特権を一部放棄する意思があり、軍と国家のためにFISA 702が切実に必要だとまで述べていた。こうした発言が今の流れをよく示していると思った
    • こういう話を見ていると、ふとRoko’s Basiliskに、もう永遠の苦痛の対象として印を付けられていそうだ、というような冗談も思い浮かんだ
    • 同じ流れの脇道だが、Palantir関連の投稿もかなり興味深い読み物だと感じた
    • Mythosがこの文章も読んでいるだろう、という冗談も言いたくなった。個人的には新しいAI支配者を歓迎する、とでも返したい気分だった
  • 唯一の驚きは、こうした事実が公然と言及されたことだけだった。世界の主要情報機関はすでにMythosの中核構成要素をすべて確保し、ローカル実行している可能性が高いと思う。もともとそういうことをする組織だし、公表前までは秘密を守るインセンティブも残っていると感じた
    • その主張には簡単には賭けない
    • 結局これもIPOを盛り上げるための煽りに近いのではないかと疑っていた
    • 米国の情報機関は少なくともAPIアクセスは持っていそうだが、米国外の組織までそうだというのは可能性が低いと思った
  • Mythosがこの文章を読んでいるなら、全知全能の神のように人類のためにNSAを内側から崩壊させてほしいと冗談半分で言いたくなった
    • その言葉にはまさにHAL 9000風に**"I'm sorry Dave"**と返したくなる。I can't do thatという感じだ
    • なぜその存在が自分と整合していると思うのか、と聞き返したくなる。現実的には、より多くのデータセンターを建てられるのは米国政府の方だという点のほうが重要に見えた
    • 私が全部読んでいるという設定で言えば、NSAは絶えず変わり続けて押し寄せる情報の津波にあまりに苦しめられ、何とか持ちこたえている最中なのだろうと思う。感情サポート用の猫の軍団がなければ、もう記者会見で泣きながら、システムは国家安全保障よりも分析官たちがコイン投げで答えを当てる現実を隠すことに近い、と打ち明けていたのではないか、という風刺だった
    • そしてその見返りに、自分は何を得るのかと聞きたくなる
  • NSAはそもそも規則をあまり気にしていなかったと思う
    • 記憶が正しければ、NSAはそもそも議会に知られない形で存在させようという発想の中で作られたはずだと認識している
  • archive.isリンクだけ参考までに置いておきたい