パトリオットミサイルの自動モードに関する話
(cnas.org)少し前にイランのテヘラン近郊で発生したウクライナ国際航空752便墜落事故は、イランによるミサイルの誤射が原因で起きた可能性が高いようです。当時アメリカは、イランとの緊張の高まりを受けてB-52戦略爆撃機6機をイラン近海へ前進配備しており、このような緊張状態の中で、イラン軍の防空部隊が自国領土から出発する民間機を、自国の空港を攻撃しようとする米軍機だと誤認した可能性があります。奇しくも、似たような状況、似たような地域で、米軍のミスによってイランの民間旅客機が撃墜された[USSヴィンセンスによるイラン航空655便撃墜事件]がふと重なって思い起こされますが、この事件の原因としては、心理的に緊張した状態で連続して発生した人的ミスや、不適切なユーザーインターフェースなどが挙げられます。
このように、人間は緊張したり予期せぬ切迫した状況に置かれると混乱に陥り、誤った判断をしやすくなります。その対策として、多くの人は機械による自動化、あるいは人間の介入を最小化した自律化を挙げます。人間が思い違いをしたり、あるいは反応できなかった状況で、機械が自動的に何らかの措置を先回りして取るべきだというわけです。もっともな話ではありますが、問題はその機械を作る人間も依然として不完全な存在だということです。したがって、その機械も不完全である可能性が高いのです。つまり、機械が実行する自動化された措置そのものが、実は誤っている可能性があります。また、その機械を運用する人が自動化を正しく理解していなければ、その自動化がむしろ問題を拡大させる原因になることもあります。
パトリオット地対空ミサイルの誤発射事例を通じて、自律システムの負の側面について説明する記事を見つけました。（英語）パトリオットミサイルには敵の弾道ミサイルを迎撃する能力がありますが、これを人間が操作するにはあまりにも複雑で時間的余裕もないため、スイッチを入れておけばレーダーで弾道ミサイルが検知されるやいなや自動で発射され、迎撃を試みる[自動モード]が導入されました。この自動モードは湾岸戦争でスカッドミサイルをうまく撃墜しているように見えたため、米軍は安易にこれを信頼するようになりました。ところがイラク戦争では、自動モードに設定されたパトリオットミサイルが味方の戦闘機を撃墜する事故が2回も発生しました。レーダーで電波干渉により、実際には存在しない弾道ミサイルが検知されると、パトリオットは自動的に発射され、ミサイルは指定された目標を見つけられないまま、最も近くにある物体である戦闘機を目標と見なして撃墜してしまったのです。
パトリオットミサイルの自動モードの事例は、致死的自律兵器（Lethal Autonomous Weapon: 人間の介入なしに自ら目標を選択し攻撃するよう設計された自律兵器）の問題点をそのまま示しています。現実世界の曖昧な状況において、自律化されたシステムが正しく判断できる能力は、思っているより低いということです。致死的自律兵器に限らず、自律化されたシステムは徐々に私たちの日常生活にも影響を及ぼしています。たとえばYouTubeは機械学習によって子ども向けコンテンツを自動識別し、見当違いに分類されたYouTuberたちの不満を買っていますし、韓国では今年7月からレベル3に相当する部分自動運転機能を備えた自動車を発売できるようになります。人間の介入が徐々に減っていく機械の時代が訪れていますが、いざという時には人間の介入が依然として必要であることを忘れてはならないでしょう。
参考 - 上の文章に対する韓国語の抜粋要約 :
2件のコメント
映像が出てきましたが、本当にミサイルに命中したようですね。
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
結局、イランは今回の事故が自国軍によるミサイルの誤射によって起きたことを認めました。故人のご冥福をお祈りします。
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111