ペンタゴンのシリコンバレー問題

シリコンバレーのペンタゴン問題

• イスラエルの国内治安機関シン・ベトのロン・バル長官が、独自開発の人工知能プラットフォームを発表した。
• この技術は、テロリストに関する情報を分析し、リスクを予測して警報を発するために使われる。
• ハマスの攻撃はイスラエルの防衛システムを完全に不意打ちし、これはハマスが準備を公然と進めていたにもかかわらず起きた。

未来の戦争で後れを取るビッグテック

• ミシェル・フロノイは、シリコンバレーと米国政府のあいだの結び付きの重要性を強調している。
• ペンタゴンは新技術に抵抗的だという認識があるが、実際には多数のAIプロジェクトに投資している。
• AI技術は軍事作戦のあり方に影響を与え得るが、テック業界の理想主義者たちが軍事機構を革新しているという神話をあおっている。

ソフトウェアが人間の紛争を解決できるという信念

• 米国の戦争遂行におけるソフトウェアの役割には長い歴史がある。
• ベトナム戦争当時、イグルー・ホワイト作戦は敵の活動を検知するためにセンサーを配備したが、失敗に終わった。
• シリコンバレーは、第二次世界大戦の勝利に貢献した電子産業から発展し、冷戦期にはペンタゴンの後援を受けた。

シリコンバレーとペンタゴンの関係

• シリコンバレーのテック産業はもともと防衛産業と密接な関係を持っており、インターネットはペンタゴンのARPANETから発展した。
• ピーター・ティールは、シリコンバレーを軍産複合体へと引き戻すことを目標にしている。
• ペンタゴンは、米国の技術的優位を維持するためにシリコンバレーの技術を活用しようとしている。

シリコンバレーの防衛技術

• シリコンバレーの企業は国防分野での活動を拡大しており、これは既存の軍産複合体に新たなプレイヤーを加えるものだ。
• グーグルはプロジェクト・メイヴンを通じてドローン映像処理のための技術を開発したが、従業員の反対を受けてこのプロジェクトから撤退した。
• シリコンバレーの企業は国防分野での役割を拡大しており、これは国防予算という安定した収益源に見えている。

GN⁺の意見

• この記事は、防衛技術と人工知能の発展が実際の軍事作戦にどのように適用されているのかについて、興味深い洞察を提供している。
• AI技術が実際の戦場の複雑さを完全に理解し、対応できるのかという疑問を提起している。
• テック業界と国防分野の協力が国家安全保障にどのような影響を与えるのかについて、重要な議論を促している。
• この記事は、シリコンバレーの企業が国防分野により深く関与することで生じ得る倫理的問題を強調している。
• 技術の進歩が常に軍事的成功につながるわけではないことを想起させ、過去の失敗したプロジェクトを例にその点を裏付けている。

[GN⁺]

Hacker Newsの意見

• 記事で挙げられている事例は、恣意的に選ばれているように見える。ベトナムでの失敗を IBM 360 コンピュータのせいだけにすることはできない。ハマスの攻撃はイスラエルを驚かせたかもしれないが、この数年間、Iron Dome はうまく機能してきた。米国はロシアによるウクライナ攻撃を警告していたが、多くの人は耳を貸さなかった。そして原子爆弾を作ったのは理論物理学者たちだった。
• 多くのメディアと同じように、この記事も人工知能をあまりに一般化して説明している。機械学習（ML）の予測機能は、何十年にもわたって現代の軍隊で使われてきた。記事の導入部は、LLM が 10 月 7 日の攻撃における情報面での失敗に大きな役割を果たしたことを示唆しているが、実際にはそうではない。ML は今後も役割を果たし続け、成功と失敗を繰り返し、敵対的 ML への対抗の中でさらに不完全になっていくだろう。不完全な道具を責めても有益ではない。
• 人工知能システムはハマスについてあらゆることを把握していたが、ハマスの構成員は AI が聞きたがるデータを提供していた。相手があらゆる行動や発言を見られるとき、唯一の防御はプライバシーだ。小説『三体』では、プライバシーは人間の心の中にだけ存在し、彼らだけが決して言葉にしなかった戦略に基づいて意思決定できる。SF が現実になっている。
• 明確なユースケースなしに優れたシステムを設計するのは、ほとんど不可能だ。ウクライナはそのようなユースケースを持っており、それを解決しようとする強い動機もある。ウクライナは汎用コンピュータで戦場を統制し、長距離の海上ドローンで複数のロシア軍艦を撃沈した。最近では、コンピュータビジョンベースの目標認識を搭載した低価格の飛行ドローンを大規模に試験し始めている。しかし米国は平時にあり、それ自体は良いことだが、現実には役に立たない技術に何十億ドルも浪費しやすい。
• 「驚くべきことに」という表現は奇妙だ。イスラエルの報道機関は、最前線の分析官たちが警鐘を鳴らしたのに無視されたという話を繰り返し報じている。これは性差別、年齢差別、徴兵制に関する差別のせいかもしれないし、政府内の入植団体がガザ地区への再入植を強く望んでいたからかもしれない。いずれにせよ兆候はあり、準備と訓練を 1 年ほど観察していた。抵抗組織がその秘密を守っていたとしても、平凡な情報将校や軍の将校であっても、いずれ暴力的な反応が起こるという結論には達できたはずだ。
• イスラエルの技術についてはよく知らないが、Pentagon はシリコンバレーでイメージの問題を抱えている。優秀な人材を採用したり、Palintir のような契約企業に雇われたりすることは、どうも魅力的ではないようだ。私たちの世代にとっては、第二次世界大戦よりもイラクやベトナムのほうが身近であり、多くの優秀な頭脳は第一世代移民でもある。最近では広告テックもイメージの問題を抱えているが（人々が制作プロセスをより多く目にするようになったため）、防衛産業よりは大手消費者向け企業で働くほうが、依然として魅力的だ。同僚に米国政府のために、あるいは間接的にでも働いてもらうには、もっと高い報酬を払う必要がある。その代わり、しばしば報酬は少なく、勤務時間外の自由も少ない。
• 記事の終盤で、Cockburn は ChatGPT に IDF と Palantir の仕事について尋ねたところ、もっともらしいでたらめな答えが返ってきたと不満を述べている。DuckDuckGo.com で "IDF Palantir" を検索すれば、複数のニュース記事へのリンクが出てくる。要点が LLM は現時点で信頼できないということならその通りだが、Palantir が IDF と協力しているかどうか分からないという話なら、すでに証拠はある。
• 測定と対策に関する永遠の真理からは逃れられない……道具を持った愚か者は、やはり愚か者のままだ……
• 運用担当者は、オンコール義務に伴う誤報の多さに圧倒されているようだ。エラーを修正する最善の方法は……ただ無視することだ。官僚的な職員が運用しなければならない複雑なシステムは、失敗する運命にある。