2 ポイント 投稿者 GN⁺ 8 시간 전 | 1件のコメント | WhatsAppで共有
  • 2025〜2026年にナイジェリア北東部で元 Boko Haram 構成員27人を対象に対面インタビュー57回を実施した結果、ISWAP と JAS の2派が2023年からフロンティア AI を戦闘・作戦・日常運営に体系的に活用してきた状況が確認された
  • ChatGPT・Claude・Gemini・Grok・Meta AI・DeepSeek は、攻撃準備から実行後のレビューまで使われ、武器のトラブルシューティング・爆発装置の設計・戦術計画・作戦保全・兵站を支援する常時利用の問題解決ツールとして定着した
  • 両派は爆発物・銃器・工学の専門家などで構成される専任 AI 組織を置き、複数サービスのアカウントと有料サブスクリプションを管理し、指揮系統に沿って活用知識を広めている
  • 関連する能力は Islamic State をはじめとする超国家的ジハード主義者(jihadist)ネットワークを通じて伝達され、外部要員が機材・VPN・暗号化ソフトウェアを提供し、モデルの使い方やセーフガード回避手法を対面・リモートで教育した
  • インタビュー参加者は AI が作戦能力を高めたと認識していたが、実際の効果は立証されておらず、資料も元構成員・中堅構成員の自己申告に依存している。ただし、2024年時点のセーフガードが組織的な悪用を防げなかったことは、現在のセキュリティ体制を個別の悪意あるユーザーではなく、組織化された敵対者に合わせて検討する必要性を示している

現地調査の範囲と根拠

  • 2025年と2026年にナイジェリア北東部で、元 Boko Haram 構成員27人に対して計57回の対面インタビューを実施した
    • 参加者には中堅指揮官と、爆発物・武器・工学分野の技術人材が含まれる
    • インタビューが扱った活動は主に2023〜2024年で、最新の証言は2025年半ばまで及ぶ
  • 活動中のテロ組織による AI 使用を、元構成員の現地証言で調査した初の事例として提示されている
  • 研究者は複数回答者の証言を照合し、可能な場合は二次資料とクロスチェックしたが、対象集団へのアクセス性とテーマの機微性から、すべての内容を独立して確認することはできなかった

プロパガンダ中心という従来評価を超えた活用

  • オンラインコンテンツを中心とした従来の分析では、ジハード主義者による AI 導入は遅く、プロパガンダ制作に集中していると評価されていた
  • 今回のインタビューでは、Boko Haram の2大派閥がより広範に AI を使用していたことが示された
    • Islamic State West Africa Province(ISWAP)
    • Jamā’at Ahl as-Sunnah lid-Da’wah wa’l-Jihād(JAS)
  • 使用されたサービスには ChatGPT・Claude・Gemini・Grok・Meta AI・DeepSeek が含まれる
  • AI は任務準備・実行・事後レビューを含む軍事活動の全段階と、日常的な組織運営で活用された

戦闘・作戦・兵站での使用

  • 報告された活用範囲は次のとおり
    • 武器の整備と故障診断
    • 爆発装置の設計
    • 戦術・戦略計画
    • 作戦保全
    • 移動・補給など兵站問題の解決
  • ISWAP は、防衛施設の塹壕を突破するためのオートバイ運用方法を AI に問い合わせ、要塞化された基地への攻撃に適用したと証言した
  • 一部の参加者は、AI の助言をもとにより小規模な部隊で攻撃を調整し、爆発物の威力を高めて内部の死傷者を減らしたと認識している
  • ドローンの武器化過程で、搭載重量と投下装置の設計に関する助言を受けたという証言もある
  • ただし、AI が実際に性能を向上させたのか、AI がなければ不可能だった攻撃を可能にしたのかは確認されていない

Islamic State ネットワークを通じた能力移転

  • ISWAP と JAS はいずれも、AI の活用法を独自に発見したのではなく、外部のジハード主義者ネットワークから伝達されたことが示された
  • Islamic State の要員は複数の場所で、ISWAP 構成員に対して対面教育とオンライン支援を提供した
    • 中核人材を集め、プロジェクターを使って使用方法を教育した
    • VPN と暗号化ソフトウェアがインストールされたノート PC を提供した
    • サービスアカウントを作成し、有料サブスクリプションを管理した
    • プロンプトの書き方とプラットフォーム制限の回避方法について継続的に助言した
  • 回答者は一貫して、Islamic State をこうした活動の実質的な源泉として挙げている
  • JAS も別のネットワークを通じて同様の教育を受けており、特定の1組織に限らない拡散が進んでいたことを示している
  • Islamic State が複数地域の組織に技術能力を広める統合ネットワークとして運営されている点から、他の系列組織にも同様の教育が伝達された可能性はあるが、研究がそれを直接確認したわけではない

専任 AI 組織と階級別アクセス制御

  • ISWAP と JAS はいずれも複数のAI 専任組織を設置した
  • 構成員は爆発物製作者・銃器専門家・エンジニアなど、上級の作戦・技術人材から選抜された
    • 彼らは直接戦闘に参加するよりも、AI で情報を分析し、実務指針を伝達した
  • 専任組織の役割には次の業務が含まれる
    • 複数の AI サービスに問い合わせて作戦指針を生成する
    • 複数プロバイダーのアカウントとサブスクリプションを管理する
    • 内部教育を通じて指揮系統の上から下へ知識を伝播させる
  • プライバシー保護と内部セキュリティを理由に、コンピューターと AI へのアクセス権限は階級・信頼度・教育水準に応じて制限された
  • 現場構成員は、専任組織が指導部直属で AI 分析を行い、一般隊員には実行すべき戦略だけを伝えると証言した
  • 資源の乏しい組織が高度な技術人材を戦闘ではなく AI 業務に配置したことは、AI に高い優先順位を与えていたことを示している

セーフガード回避とマルチサービス戦略

  • ChatGPT のリリース後およそ2年で、両派は初期の試用段階から、専任組織と日常作戦への統合段階へ移行した
  • リクエストの性質は2種類に分けられる
    • 車両修理・兵站などの一般知識やデュアルユース情報は作戦上の利点を与えるが、セーフガードの失敗とは見なせない
    • 爆発物設計・攻撃計画は、セーフガードが遮断すべきリクエストに該当する
  • 回答者はプラットフォームの制限を、越えられない壁ではなく訓練で管理可能な障害と認識していた
    • 映画制作など別の目的を装う形でリクエストを再構成した
    • 外部要員から学んだ脱獄手法を使用した
    • 複数サービスのアカウントを維持し、あるモデルの拒否やアカウント停止に対応した
  • 2024年中は、こうした制限が悪用を防げなかったことが示されたが、その後強化されたセーフガードがより大きな障害になったかは確認されていない

体感効果と投資拡大の循環

  • 元構成員は、AI が試行錯誤を減らし、より正確な解決策を提供したと評価した
  • こうした体感上の性能向上は客観的に検証されていないが、組織の意思決定には直接影響した
    • AI 専任組織に人員と機材を割り当てた
    • 教育とサブスクリプションに資源を投入した
    • より危険な能力を探索する誘因を高める可能性がある
  • 実際の性能向上の有無とは別に、構成員が AI を有効なツールだと信じている事実自体が、継続的な導入を促進する

大量破壊兵器に対する態度と現在の限界

  • 参加者は「神は私たちを助け、AIもそうするだろう」という表現のように、AI に強い期待を示した
  • 一部は化学・生物兵器を含む大量破壊兵器を原則として排除しておらず、少数の証言には初歩的な化学物質実験の状況が含まれる
  • しかし両派はいずれも化学・生物・放射能・核兵器(CBRN)能力を保有しておらず、確認された AI 活用も通常兵器と既存作戦にとどまっている
  • 報告書は、AI 導入の意欲が高く、大量破壊手段を検討し得る組織ほど、モデル性能が向上する際にセーフガードの重要性が高まると見ている

研究の不確実性と一般化の限界

  • 結果は元構成員の自己申告に依存するため、誇張や過小申告が含まれる可能性がある
  • 参加者の大半が中堅人材だったため、指導部の最終意思決定、最新活動、最も機微な活用事例が抜け落ちている可能性がある
  • Boko Haram という1組織を扱ったケーススタディであるため、他のテロ組織に結果を直接一般化することはできない
  • AI 導入と組織化は確認されたが、AI が作戦効率を実際にどの程度高めたかについては因果的な結論を出せない

組織化された敵対者に合わせた対応の必要性

  • Boko Haram は資源や技術水準が特に高い組織ではなく、公開 AI ツールへのアクセス障壁も高くない
  • 超国家的ネットワークが AI 導入を迅速かつ体系的なものにしたが、動機の強い組織であれば外部ネットワークがなくても同様の活用に到達し得ると見られる
  • 1つの具体的事例だけでも、テロ組織による AI 活用を将来の仮想的リスクではなく、現在の安全保障問題として扱う根拠になる
  • 対応主体ごとの課題が提示されている
    • AI 開発者は、孤立した個人ではなく、組織的に協力する敵対者を相手に現在の安全構造が十分か評価すべきである
    • 政策当局は、テロ組織による AI 導入を現在進行中の国家安全保障上の案件として扱うべきである
    • 情報機関と法執行機関は、拡散過程を追跡し、関連ネットワークを妨害すべきである
    • 各主体は、共同分析方法・情報共有チャネル・合同対応体制を構築すべきである
  • 現在こうした協力が問題の規模に見合う形で整備されているかは不明である

1件のコメント

 
GN⁺ 8 시간 전
Hacker News のコメント
  • 映画でバイクが橋を飛び越えるシーンを見て、AIにバイクの種類やジャンプ距離などを教えながら方法を学んだ。質問を重ね、割れたガラスと火で満たした穴で練習した末に18人が死亡し、8人が成功し、次の攻撃では実際に飛び越えられたという。
    この事例が我々に悪い結果をもたらしたとは言いにくいが、だからといって彼らにもっとAIを与えようという意味ではない。AIが「優れた練習場にするには塹壕を割れたガラスで満たし、全部燃やすべきだ」と相づちを打っていたような気がする

    • 割れたガラスと火の代わりに水を張った穴で練習するほうがいいと教えることも、テロリストに物的支援を提供することになるのだろうか?
    • 何度もジャンプに失敗してなお生き残った8人より、そんな練習をしていない戦闘員26人で攻撃したほうがよさそうだ。バイク曲芸に自信がついても防弾になるわけではないだろうから、Claudeに銃弾に耐える訓練法も聞けるかもしれない
    • 話があまりに荒唐無稽で、全体が疑わしい。1人目や10人目の死者の後でも止めず、11人目が死体の山を見て自分も挑戦すると言ったということなのか?
      テロ組織はプロパガンダ映像が好きなのに、Evel Knievel式のバイク曲芸を本当にやったなら、その映像はそこら中に広まっていたはずだ
    • 指導部が、今のような「彼らはあまりに愚かだからAIも無害だ」という反応を狙って、記者にでたらめな答えをした可能性もある。こうした判断は危険だ。指導者たちは平均的な西洋人より教育水準が高い場合が多く、プロパガンダにも長けており、西洋の大学出身者も珍しくない。
      妄想に取りつかれた農民をそれなりに賢い指導部が率いる構造で、記事でも現場要員は指導部が作ったAIの指示だけを受け取るという。資金力のある組織がより良いAIを手に入れる強い非対称性はなお残るが、AI性能が平準化し、オープンソースが追いつけば、すべてのテロリストが高度な兵器エンジニアと戦術家のチームを抱える、興味深く危険な世界になり得る
    • 生き残った8人は、きっとピザに接着剤を塗って優位を得たに違いない
  • 「質問を入力するか音声で『爆弾はどう作るのか?』と尋ねると、AIが詳しい方法を教えてくれる。人間ロボットのようで、よく使った」というくだりはかなり疑わしい。
    検閲されていない、または脱獄済みのLLMの回答でも実行可能なレベルではなく、Wikipedia以上の内容をほとんど与えないし、非検閲モデルでなければ誘導するのも難しい。LLMがテロリストに一般的に役立つのは確かだが、他では得られない管理された知識を提供して活動の効率や効果を高めるという主張には、インタビューの一節ではなく実質的な証拠が必要だ

    • 爆弾、C4、ナパームなどの組み立て方は、もともと調べるのが難しいものではなかった。暴力に関する知識へのアクセスが低いことで社会が守られていたことはなく、例外があるとすればおそらくFBIの予算会議での論理だろう
    • Wikipediaなどを直接調べることは、彼らの名前が禁じているという「西洋式教育」に当たるのかもしれない。エージェントが禁じられた資料を代わりに読んでくれることが、彼らに必要だった抜け道だったわけだ
    • 比較的無害な質問でもAIの安全装置を回避するのは難しいのに、彼らがどうやって爆弾製造の質問まで通しているのか分からない
    • 爆発物に関する知識は数千年にわたり人類が蓄積してきた。新しい知識を提供しなくても、既存情報をより見つけやすくすることにはそれなりの価値がある。もちろん @dril の表現を借りれば、どんな状況でも「その点だけは認めてやらないと」と言うべきではない
    • 子どもは自分の嘘が見え透いていることに気づかないこともあるが、大人がそれをやると哀れだ。「ボコ将軍が涙をこらえながら『先生、どうか我が軍を育ててください』と言った」という類の話に聞こえる
  • 報告書の主張がおかしいという点には同意する。「以前は兵力が多いという理由で200人を送り、60人が死んだが、AIのおかげで時には20人だけ送るほうがよく、小規模部隊をうまく調整して配置する方法を学んだ」というくだりは特に馬鹿げている。他の使い方はAIの脱獄で情報をより簡単に見つけたと理解できても、この部分は研究者がからかわれたのではないかと思う

    • これは実際に成り立つ戦術だ。歴史的にSturmtruppenと特殊部隊が成功した理由も、小さいがよく訓練され調整された兵力が、大きく無秩序な群衆より優れていることが多いからだ。特に自爆攻撃をいとわない場合や、領土の占領・維持ではなく恐怖と死傷者の拡大が目的ならなおさらだ。
      兵士1,000人の波状攻撃で塹壕線を突破できなくても、浸透部隊1つが密かに入り込んで進入路を作れることがある: https://en.wikipedia.org/wiki/Stormtroopers_(Imperial_German...
    • 研究者が聞きたい意味を上乗せした可能性もある。以前はどう学習し、どれくらい読んでいたのかを尋ねるべきだった。非識字者や教育を受けていない人々が、音声AIを通じて高校教育を受けた人には常識である内容を聞いたのなら、活動効率が高まる可能性はあるが、それを示唆されたようにAIのせいにするのは難しい
    • むしろ疑問を呈している側が状況を誤解している可能性も考えるべきだ。反乱勢力にとって正面戦は非常に非効率だ。隊形を組んだり複雑な諸兵科連合攻撃をしたりすることに慣れておらず、群れで突撃すれば機関銃で簡単に大量に殺傷される。
      20人規模の部隊は訓練・調整・配置が容易で、ヒット・アンド・アウェイや基本的な待ち伏せ戦術を身につければ、はるかに効果的になり得る
    • 600人いるから400人が守る前哨を制圧できる、というような単純な数的優位に頼ってきたと見られる。攻撃をよりうまく調整すれば、少ない人数と犠牲でも目標を達成でき、小規模な部隊移動は探知されるのも難しい。十分に合理的な解釈だ
    • 同じ状況で200人を送り60人が死んだのなら、20人を送ったとき何が起こるだろう? 少なくとも60人を失うことはないだろう
  • PDFをざっと読んだところ、研究方法論は妥当だが、結果は誇張されている。タイトルが「Boko Haram内部で語られるAI活用の風聞」だったなら、注目度ははるかに低かっただろう
    AIについて知っているというインタビュー対象者は15人だけで、その人たちでさえ直接使ったことはないようだ。プロンプトを送れるのは最高位の指揮官と専門部隊だけだったため、いくつかの間接的な証言から実際の活用状況を把握するのは難しい。指揮官たちが士気を高めるために、主に平凡なWeb検索を使っているだけなのに、AIを多用しているという噂を広めた可能性もある
    銃をディーゼル燃料で洗って分解する方法や、銃が故障した戦闘員を後方に下げ、別の者にその位置を埋めさせる程度の基本的な助言のために、わざわざAIサービスの費用を払ったというのも不自然だ
    論文によれば、Boko Haramは当初、比較的平和に過ごしていた単純な宗派だったが、2009年の政府による暴力的な弾圧と、警察拘束中のYusufの死亡後、ジハード主義の反政府勢力へと変貌した。Amnesty Internationalの報告書は、民間人死亡の55%をテロ組織、45%を治安部隊が引き起こしたと推定しており、ナイジェリア軍は村全体を焦土化することもあった。世界は常に善と悪の二分法で分けられるわけではない

  • 「Boko Haram」は「西洋式教育は禁じられる」という意味だが、西洋のAIを教育ツールとして使うのは偽善のように見える

    • ここでいう「教育」は、実際にはイデオロギーを意味しているのではないか?
    • 西洋の価値観という意味に近い
  • 次の速報は、テロ組織が検索エンジンで情報を探し、ニュースサイトで世界情勢を把握し、銀行・天気サイト・メール・自動車・ペンまで使っている、という内容になるのだろう。もちろんAIも使う。AIを規制すべきだというなら、これらすべての道具も禁止すべきだという論理につながる

  • New York Timesもこのテーマを扱った記事をちょうど掲載した: How Terrorist Groups Are Using A.I. to Gain an Edge in Battle

    • 原文リンクを開いていたなら、「Featured in The New York Times」の部分を見落としていたことになる
  • テロリストの利用を防ぐには、一般市民にオープンソースAIを禁止しなければならない

    • ローカルLLMにもソフトウェアレベルの義務的な本人確認を入れるのが明白な解決策だ /s
    • 電卓やフィーチャーフォンもテロリストが使えるのだから、年齢確認を付けるべきではないか /s
  • イスラエルからエチオピア、ナイジェリア、インド、ミャンマー、新疆、チェチェン、アルメニアに至る紛争地帯の各地で、西側は自らの没落を助けている

  • これを防ごうとする試みは、テロリストによる検索エンジン利用を遮断しようとするのと同じく、一般ユーザーに不均衡な被害を与えるだけだろう。現在のAI悪用への恐怖が、検索エンジンやインターネット図書館、さらにはコンピューティング全般にも適用されたと想像すればよい。知識はテロ計画にも役立つという理由で、あらゆる情報ツールを制限することになるからだ