AWS Bedrock、Mythosおよび今後のモデルでAnthropicとのデータ共有が必要になる予定
(news.ycombinator.com)- Mythos級モデル のトラフィックは、単一のやり取りでは見えない不正利用パターンを検出するため、30日間保存の対象となる
- Bedrockの Fable 5、Mythos 5、および同等以上の能力水準を持つ今後のモデルにこの条件が適用される
- 限定期間のデータ保存は、単一のやり取りだけでは見えない 不正利用パターン をAnthropicが検出するための条件である
- データ保存に同意すると、データは AWSのデータおよびセキュリティ境界 の外に出る
- 30日後にデータは自動削除されるが、安全性調査の対象である場合や法的に保存が必要なまれなケースは例外となる
適用対象と保存条件
- AWS発表 の引用文は、BedrockのFable 5、Mythos 5、および同等以上の能力水準を持つ今後のモデルを対象としている
- AnthropicはMythos級モデルのすべてのトラフィックについて 30日保存 を求めている
- 限定期間のデータ保存は、単一のやり取りでは見えない 不正利用パターン を検出するための手段である
データ境界と削除の例外
- データ保存に同意すると、そのデータは AWSのデータおよびセキュリティ境界 の外に出る
- Claudeサポート文書 によると、30日後にデータは自動削除される
- 安全性調査に含まれる場合や、法的に保存が求められる場合には、30日後の自動削除の例外となる
1件のコメント
Hacker Newsのコメント
問題の根本は、AI as a Service が閉鎖的であることにある。提供企業には、そのすべてのデータを使って競合を出し抜こうとする強いインセンティブがあり、それを密かに行うこともできる
しかも捜査機関もそこにアクセスしたくてたまらないはずだ。いつか、有能なモデルを動かせる オープンソースと安価なハードウェア が登場してほしい
https://www.theguardian.com/world/2026/feb/23/openai-tumber-...
しかも Anthropic は SOC2 と ISO27001 を取得しているので、ある程度は独立監査も受けているはずだ。もちろん、そのような記録やロギングを隠そうとすることもできるだろうが、逆にそのデータを密かに収集しない強いインセンティブもある
ただし ZDR には最低契約金額が付くことが多く、個人や小規模企業は排除され、ベンダー任せになるという問題がある
本質的に、AWS がこれを最初から開示している理由もそこにある
家畜の意見を気にするか？ 気にする人もいるだろうが、大半はそうではない
彼らはモデルが一般大衆には危険すぎると言って、一般公開版を弱体化し、自分たちが好む巨大企業や国家パートナーだけに本当に優れた秘密版へのアクセスを許すことができる
中国の公開重みモデルが追いつくことを期待することはできるが、独占的な最先端モデルと本当に同等になった瞬間、彼らも重みの公開をやめる可能性が高い。善意でこんなことをしているわけではない
何がこの流れを脱線させられるのか想像しにくい
これは奇妙な振る舞いで、Anthropic はまともな人々に運営されていない ことを少し示している。AWS/GitHub/Zed などにこのポリシーを適用すれば、企業・政府向け販売で持っていた大きな優位を、同程度の性能のモデルとそこそこ使える UI を提供できる競合に明け渡すことになる
Mythos の発表以降、最新で最高性能のモデルがもはや一般人には提供されない未来に向かっていることが明らかになった。コストが高くなるだけでなく、ユースケースの検証やデータ共有という形の対価も求められるようになる。OpenAI の 5.5-Cyber モデルも同様で、Anthropic だけの話ではない
私たちが不快に感じるのは、新しくてピカピカのモデルが出るとすぐ触れることに慣れてしまったからだ。しかし、このスレッドで Anthropic を「愚かだ」と言うのは、感情に基づく希望的観測に見える
もしこれが「我々のモデルは強力すぎるので夜は縛っておかなければならない」という類いのマーケティングなら、とてつもなくまずい戦略に見える。苦労して築いた顧客の信頼を壊すのに、これ以上の方法は思いつかない
この2つはどちらも、Anthropic が特にコーディング分野で企業顧客をうまく引き付けてきており、軍事向け顧客も引き続き狙っているように見えることを考えると、自滅的に見える
こっそり拒否するという部分は本当に異例だ。単に意図的に遅くして、払った分を与えないという意味なのか、それとも生成コードに積極的な改変を加えるという意味なのか分からない。なぜ単にリクエストを拒否しないのか？
おそらく、拒否そのものが何を価値あるものと見なしているかについて大きなシグナルを与えすぎると主張したいのだろうが、「再帰的自己改善」の話は IPO を盛り上げるための 100% 戯言だと思う。他の LLM 開発企業が基本的な開発インフラのようなものを見抜けていなかったと本気で思えるほど傲慢なのか？
Anthropic が、自分たちと競合する何かを作ろうとするリクエストをこっそり失敗させるのが少しでも許容されると考えているという事実だけでも十分にひどい。しかも、「Fable」の拒否の仕方に見られる甚だしい無能さを見ると、この種の意思決定は意図した以上に多くのリクエストをこっそり失敗させるだろう
Anthropic のモデル名である「Mythos」「Fable」は、「大げさな」名前を付ければモデルが強力に見えると思った14歳が考えたようだ。Honda Civic にレーシングストライプと騒々しい fart can の排気音を付けるのに似ている
このポリシーはすべての提供元に適用される。Cursorの警告はこちら: https://i.redd.it/7sfyker2ya6h1.png
Anthropicは記録されたデータでモデルを学習しないと約束しているのだから、ここでの懸念の一部はよく理解できない。正確な脅威モデルは何なのか？ Anthropicが規約を破ってモデルを学習するということか？ 以前はデータを記録しない程度には信頼していたが、今は記録されたデータの利用制限を守るという話は信じられないということか？
いくつかの返信にはある程度納得した。ただ、この変更は主にEnterpriseユーザーに影響する点も見る必要がある。コンシューマープランのデータはすでに30日間保持されている。出典: https://privacy.claude.com/en/articles/10023548-how-long-do-...
AWSとはそうした契約があるが、Anthropicとはない。Anthropicが物理的にデータを取得するなら、我々が取引できる当事者の境界の外へ自ら出ていくことになる
契約に署名し、それに見合うすべてのコンプライアンス措置を実装するというなら別だが、AWSが10年かけて構築してきたものを、AWSが事業を行うすべての法域で今すぐ追随できることが良い取引だと思うなら正気ではない
米国には、こうした違反で会社を破綻させられるような法制度はない。だから保証もない
Metaは本を公然とtorrentで入手し、誰も彼らにAIモデルの削除や破棄を求めなかった。Anthropicにとっても同じで、単なる事業コストにすぎなかった。モデルはそのまま維持することが許され、ルールを破っても実質的な結果はなかった
今や2社がデータを扱うので、両者を同じ程度に信頼するとしてもリスクは2倍になる。AWSのデータ統制がAnthropicより堅牢だと見るなら、リスクは2倍以上に増える
許可された保存・転送国、各種認証、契約といったデータ管理要件がある場合もあり、今後はこれを2番目のデータ処理者にまで拡張しなければならない
基本的に、すでにAWSを使っているならAWS専用のBedrockモデルを追加するのは法的にも容易で、セキュリティ態勢も大きく変わらない。だがデータをAnthropicにも記録しなければならないなら、選択ははるかに複雑になる
データ保持と一般的な大規模監視には類似性がある。どちらのシステムも適切な安全策があれば純粋に善意の目的で使える。だが歴史は、監視システムが悪意ある目的に驚くほど容易に乗っ取られることを示している。モデル提供者にも、保持データを内部目的に活用する強い誘因がある
このポリシー自体が直ちに私のプライバシーを侵害するとは思わなくても、抗議する価値はある
誰がどう確認するのか、見つけようとしている「問題」とは何なのか、といった点が虫の知らせを刺激する。あまりに曖昧で、彼らだけがこの「危険な」モデルを持てる
規制対象企業や政府顧客には、これはほぼ確実に通用しない。だがAWSもそれを分かっているはずで、なぜ同意したのか気になる
Anthropicが試みており、大胆な戦略かどうか見守ればよい
これは企業スパイ活動の高度版のようなにおいがする。今後ほとんどの企業がこのAIを使うと仮定すれば、このデータはEchelonのようなネットワークに直接入り、Boeing対Airbusのスキャンダルのように「興味深い情報」が友好的な当事者に漏れることになる。その件も当初は広く報じられたが、公式にはもみ消された
データを使って秘密のスパイ活動や政府監視をするなら、全部ひそかにやっていたはずだ
うへえ。うちの会社だけがOpus 4.8に残るのか、別のモデル提供元へ移るのか、それともモデル再学習禁止・第三者へのデータ転送禁止といった規約を大幅に弱めて更新するのか、難しい判断を迫られるわけではないといいが
Anthropicがなぜこれを望むのかは理解できるが、AmazonがまずAnthropicのツールで解析を走らせ、確認すべきことがあると判断した場合を除いてはデータがAnthropicへ行かない構造だったなら、ずっと助かったはずだ。その程度なら企業向け規約やプライバシーポリシーでも例外扱いしやすかっただろう
我々にとってはサブプロセッサーではないので即時禁止だ。サブプロセッサー一覧の更新も台無しにしている
クラウド内部で処理する方式なら気にしなかったが、ガバナンスも統制もないので最初から不可能だ
これはさまざまなアプリで除外条件になる
UKGov向けのアプリをいくつか手がけたことがあるが、自分ならこれを重大な危険信号として必ず挙げていた
それで終わりだ。Fableで機密データを回すなら、それを無料で引き渡すことになる
もしかすると前からそうだったのかもしれないが、今はそれを明示的に要求している
Mythosの性能への信頼ゆえに自分で足を撃とうとするAnthropicの覚悟は認めるべきだ
ゲームプランは何なんだ？