- Anthropic CEOのDario Amodeiが社内メモで、OpenAIの米国防総省との契約を「見せかけの安全対策(safety theater)」と呼び、強く批判
- Anthropicは既存の2億ドル規模の軍事契約を保有していたが、国防総省が無制限の技術アクセスを求めたため合意に至らず
- 代わりにOpenAIが国防総省と契約を締結し、Sam AltmanはAnthropicが求めていたものと同じレッドライン保護措置が含まれていると発表
- Amodeiは、Altmanが自らを「平和の仲介者でありディールメーカー」として演出しているとし、OpenAIのメッセージは「明白な嘘」だと社員に伝達
- この契約以降、ChatGPTの削除件数が295%急増するなど、世論はAnthropic側により好意的な反応を示す
Dario Amodeiの社内メモの内容
- AmodeiはThe Informationが報じた社内メモで、OpenAIの国防総省との取引を**「safety theater(見せかけの安全対策)」**と表現
- 「OpenAIがこの契約を受け入れ、我々が拒否した主な理由は、彼らは社員をなだめることを気にしており、我々は実際に乱用防止を気にしていたからだ」と記述
- Altmanが自らを「平和の仲介者かつディールメーカー」として演出しているとし、OpenAIのメッセージを「straight up lies」(明白な嘘)と直接表現
Anthropicと国防総省の交渉が決裂した経緯
- Anthropicは米国防総省との交渉で、AI技術への無制限アクセス権の要求を拒否
- 会社側は、DoDが国内での大規模監視や自律兵器開発に自社AIを使わない保証を求めていた
- この条件が受け入れられず、2億ドル規模の契約は破談となった
- その後、DoDはOpenAIと新たな契約を締結
- Trump政権下で「Department of War」として知られる国防総省が、AnthropicではなくOpenAIと契約を締結
- Sam Altmanは新たな防衛契約に、Anthropicが求めていたものと同じレッドラインに関する保護措置が含まれていると発表
- OpenAIはブログ記事で、自社AIシステムが**「all lawful purposes」**(あらゆる合法的目的)で利用可能だと明記
- OpenAIのブログによれば、「国防総省は国内での大規模監視を違法とみなしており、この目的で使う計画がないことはやり取りの中で明確だった」と記載
- それが合法的利用範囲に当たらない点を契約書に明示的に反映したと説明
Anthropicの具体的な異議
- Anthropicは、国防総省が自社AIを**「any lawful use」**(あらゆる合法的利用)に使えるよう求めた点に具体的な異議を唱えた
- 批評家らは、法律は変更され得るため、現在は違法なことでも将来は認められる可能性があると指摘
世論の反応と市場への影響
- OpenAIの国防総省契約の発表後、ChatGPTの削除件数が295%急増
- これは世論がOpenAIの軍事契約を疑わしい、あるいは不透明だと認識していることを示している
- Amodeiはメモで、「このspin/gaslightingの試みは世論やメディアにはあまり通用しておらず、多くはOpenAIの契約を疑わしいものと見ており、我々を英雄視している」と記した
Anthropicの社内の雰囲気
- Amodeiは社員に対し、OpenAIの**「歪められたメッセージ」が社内の従業員に影響を与えないようにすべきだ**と強調
- 彼は、OpenAIの広報戦略は一部のオンラインユーザーにしか通用しておらず、広く世論を説得するには失敗していると評価した
3件のコメント
でも、なんで opencode は止めたの……ううっ……
Hacker Newsの意見
@samaが数時間後に、Anthropicの代わりにOpenAIが同条件で契約を締結すると発表したとき、DoWかOAIのどちらかが事実を歪めているのは明らかだと感じた
DoWがAnthropicの条件を拒否したのなら、OAIの条件は実質的に執行不可能なレベルだったはずだ
実際に読むと、「DoWは自分たちで定めたルールを破らない」という類いの条件に見えた
Sam AltmanはDoD向けモデルにルールを組み込んで誤用を防ぐと言ったが、それはアラインメント問題を短期間で解決するという話と変わらない。信じがたい
以前は彼のエッセイが好きだったが、だんだん自己反省が足りず、スタートアップこそ人生のすべてだというように感じられるようになった
今回もAltmanを擁護する姿にはあまりに失望した。彼のツイートを見ると、現実から目を背けている
おそらく、自分がAltmanを世に送り出したという責任感のせいで、彼を批判できないのだろう
技術者の大半は政治哲学を学んでおらず、古代の「ギュゲスの指輪」の物語はいまだに有効だ
これは単なる倫理問題としてだけ見られるものではない。莫大な資本がかかった問題だ
最先端モデルの訓練には天文学的な費用がかかり、それを負担できるのはDoDのような機関しかない
Anthropicが安全性の問題から国防総省との契約を拒否したのは大きな賭けだ。その代わりに「Constitutional AI」アプローチが市場で報われることを期待している
OpenAIは国防総省の資金を欲しがりながら、消費者フレンドリーなイメージも維持しようとしている。しかし二兎を追うことはできない
今回の騒動で、むしろAnthropicの方がより多くの売上を上げた可能性すらある
本当のリスクは、政府がAnthropicをサプライチェーンリスクに指定する場合だ
AnthropicがPalantirと協力しながらDoDの監視に反対するのは矛盾しているように見える
DoDが契約を打ち切ってOpenAIと新たに結んだことを見れば、両社の条件に実質的な違いがあったのは明らかだ
政府契約のもとでさまざまなデータ(捜査・安全保障を含む)を統合するが、直接収集はしない
Wiredの記事を参照
TechCrunchの記事を参照
Darioのメモ全文はこちらで公開されている
単なる競争ではなく、イデオロギーの衝突に見える
しかもOpenAIの従業員を「だまされやすいTwitterの愚か者たち」と呼んだのは、人材確保の面でも良い選択ではない
例のツイートを参照
@pgは@samaを「人食い人種の島に落としても5年後には王になっている人」と表現したが、今見ると権力欲を象徴する引用のように聞こえる
Darioはこの時代には珍しい誠実な人物に見える。彼が揺らがないことを願う
結局のところ彼らは皆営利企業であり、一方が間違っているからといって他方が自動的に正しいわけではない
公式発表リンクを参照
AltmanがSCR条項でAnthropicを擁護したことは認めるが、それはあまりに当然のレベルだ
あの引用は最初から否定的な意味に聞こえた。このコミュニティにも序列に対する自然な懐疑心が必要だ
実のところ、両研究所とも**「安全劇場(safety theater)」を演じている
アラインメント問題を解決できていないまま、市場の圧力によって危険な能力競争**を繰り広げている
今回の件をきっかけに、OpenAIのサブスクリプションを解約し、アカウントを削除しようという行動の呼びかけだ
何もしないことは黙認と変わらない
Sam Altmanが嘘をつくって? もはや驚きでもない
人々をますます自分に依存させ、やがて誰も彼を追い出せなくなるようにする
OpenAIは政府の補助金に依存して生き延びようとしている状況だ
Samと経営陣はすでに危機を察知しており、政府資金を必要としている
選挙を前に市場を維持しようとする政治的計算もある
Nvidia、Micron、Oracle、Microsoftのすべてがこの流れに絡んでいる
Anthropic、OpenAI、米国政府の最近の出来事をまとめたタイムラインサイトを作った
HN投稿リンク
DoD: Department of Defense
..W: ..War