『ラベンダー』: イスラエルのガザ地区爆撃を指揮するAIシステム
- イスラエル軍は『ラベンダー』という人工知能ベースのプログラムを開発し、ガザ地区のパレスチナ人を対象とした無差別爆撃において重要な役割を果たしている。
- このシステムは、人間の監督なしに数万人のガザ住民を暗殺対象としてマークし、被害者受容方針も寛容である。
- ラベンダーは、ハマスとパレスチナ・イスラム聖戦（PIJ）の軍事組織員を潜在的な爆撃対象としてマークするよう設計されている。
STEP 1: 対象の生成
- ラベンダーは、ガザ地区住民の大半に対する大規模監視システムを通じて収集された情報を分析し、各個人がハマスまたはPIJの軍事組織員である可能性を評価して順位付けする。
- このAIシステムは、既知の軍事組織員の特徴を学習し、一般住民の中からこうした特徴を見つけ出して評価する。
- ラベンダーは、約37,000人のパレスチナ人をハマスの疑わしい『軍事組織員』としてマークし、暗殺対象にした。
STEP 2: 家族の家と対象の接続
- イスラエル軍は自動化システムを使って対象を家族の家に結び付け、対象が家族の家に入った際に爆撃を知らせる『パパどこ？』のような追加の自動化システムも使用している。
- これらのシステムは対象を継続的に監視し、家族の家に足を踏み入れた瞬間に攻撃できるようにする。
STEP 3: 武器の選択
- ラベンダーによって暗殺対象としてマークされた後、兵士たちは対象が男性であることを確認し、追跡ソフトウェアが対象を自宅で見つけると、爆撃に使用する弾薬を選択する。
- 低価格の『ダム』爆弾は精密誘導爆弾よりも多くの付随的被害を引き起こす可能性があり、主に下位組織員を暗殺するために使用される。
STEP 4: 民間人死傷者の承認
- 戦争初期の数週間、イスラエル軍はラベンダーによってマークされた各下位組織員を暗殺する際、最大15人または20人の民間人を殺害することを許容していた。
- この『付随的被害の程度』は、すべての疑わしい下位組織員に広く適用され、その階級、軍事的重要性、年齢に関係なく適用された。
GN⁺の意見
- ラベンダー・システムは、AI技術を軍事作戦に適用した事例であり、これは将来の戦争でAIの役割が増大することを示唆している。
- 人工知能が決定する暗殺対象リストに依存することで生じる倫理的問題と、誤ったターゲティングによる民間人被害の可能性が大きい。
- この技術が戦争の様相をどのように変えるのかについて深い議論が必要であり、国際法と戦争法規に対する新たな解釈が求められる。
- ラベンダーのようなシステムの導入は軍事的効率性を高める可能性がある一方で、同時に無実の民間人の命を危険にさらし得る二面性を持つ。
- この技術が今後国際社会にどのような影響を与えるのか、そしてそれに対する規制や対応策を整備する必要がある。
1件のコメント
Hacker Newsのコメント
研究者たちは、間接的な関連性に基づく個人の標的化について、かなり前から懸念を提起していた。こうしたシステムはもともと監視目的で使われていたが、今では単なる監視を超えて、実際に人を殺すために使われている。
人工知能（AI）が事前に人を殺す判断を下すという考えに懸念を示している。このケースでは人間の承認があったが、人間の介入なしにロボットによって人が殺される状況まであと一歩だと指摘している。
多くの人は見出しだけ見て本文を読まないだろうと指摘し、記事の第2段落に注目するよう勧めている。
Serialポッドキャストの今シーズンを聴いてみるよう勧めている。
イスラエルの行動を否定的に描く話ではあるものの、少なくとも軍事目標を攻撃しようとする試みとして読める。
この技術の精度に疑問を呈し、結果よりも先進技術らしく見えること自体に関心があるようだと指摘している。
イスラエル国防軍（IDF）は、軍事施設や軍事活動中のハマスの工作員だけを殺すことに関心があったわけではないと述べている。
AIの使用がIDFの目標達成にどんな利益をもたらしたのか疑問を呈している。
The Guardianもこの話を一面記事として扱っており、事前に詳細の提供を受けていた。
ある情報筋は、人間のスタッフは機械の判断に対して「判子を押すだけ」の役割しか果たしていなかったと述べている。