悪いソフトウェア設計は軍艦さえ衝突させる
(imseongkang.wordpress.com)2017年8月21日、米海軍の排水量9千トン級イージス駆逐艦ジョン・マケイン（DDG-56）号が、シンガポール近海のマラッカ海峡で積載量3万トン級のタンカー、アルニック MC（Alnic MC）号と衝突し、乗組員10人が死亡、5人が負傷する事故が発生しました。この事故は、混雑した航路でジョン・マケイン号の操艦権限を引き継ぐ過程が約3分間遅延したことで発生しました。当該艦艇が所属する米海軍第7艦隊の司令官ジョセフ・P・オーコイン（Joseph P. Aucoin）中将は、この事故直後に更迭されました.
事故を調査した米国NTSB（国家運輸安全委員会）の報告書では、原因として複数の要因が挙げられており、その中には事故の1年前にジョン・マケイン号へ搭載されたIBNS（統合艦橋航行システム）の不適切な設計も含まれていました。軍艦を近代化する過程で、艦の操舵および推進を操作するインターフェースをタッチスクリーンベースのソフトウェアへ変更しましたが、このインターフェースは全体的なUIが不適切で、複雑性を大きく高めていたため、人為的ミスが起きやすく、それをすぐに察知しにくい環境となっており、事故に寄与したということです。このため米海軍は、タッチスクリーンベースの操作インターフェースを廃止し、従来の機械式操作装置に戻ることを決定しました.
これを一見すると、単にタッチスクリーンを採用したこと自体が誤りだったようにも見えますが、実際には誤ったUIによって複雑性が高まったことが根本的な問題でした。これに関連して、[メルトダウン：便利さがもたらす危険の時代](クリス・クリアフィールド、アンドラーシュ・ティルチク, 2019)という本を見ると、システムの複雑性や結合度が高まることがどれほど危険かを、さまざまな事例を挙げて説明しています。リンク先の記事では、上で言及したIBNSのユーザーインターフェース設計を中心に、どの部分が良くなかったのかを詳しく説明しています。
5件のコメント
現代のUI/UXの失敗により、旧式のインターフェースへ回帰するという皮肉
上で言及した本[メルトダウン]には、UI/UXに関する問題によって惨事が起きた事例についても載っています。たとえば2009年に発生した[エールフランス447便大西洋墜落事故]は、経験の浅かった副操縦士が突発的な事態に直面してパニックに陥り、操縦桿を引き続けていたために起きた事故でしたが、事故に寄与した要因の中には、危機を把握した操縦士が自ら操縦桿を握ったものの、副操縦士が引き続き操縦桿を引いていた事実に気づくのがあまりにも遅れた点もあります。機長側の操縦桿と副操縦士側の操縦桿で異なる命令が入力されているという警報音は鳴っていたものの、すでに複数の警報が同時に鳴っていた状況だったため、その点に気づいたときには手遅れだったのです.
エールフランス447便大西洋墜落事故 :
https://rhfvm1111.blog.me/220275551718
この本に載っている事例ではありませんが、誤った操作インターフェースやソフトウェアが事故を引き起こした事例は、上で述べたような航空分野だけでもいくつもあります。たとえば1994年に発生した[中華航空140便名古屋空港墜落事故]では、操縦士が誤って触れやすいレバーを誤操作した状況と、深刻なバグのある自動操縦ソフトウェアを更新していなかった状況が重なり、大惨事が発生しました。近年、[ライオン・エア610便墜落事故]と[エチオピア航空302便墜落事故]が立て続けに起きて問題となったボーイング 737 MAX機種の場合も、事故が発生した核心的な原因は、自動操縦ソフトウェアによって形成されたSPOF（単一障害点）にありました。ボーイング 737 MAX機種には、特定の状況で操縦士の意思に関係なく水平尾翼を操作する機能が、十分な説明もないまま自動操縦ソフトウェアに追加されていましたが、この機能は機体に搭載された2つのセンサーのうち1つのセンサー値だけを使用していたため、そのセンサーが故障すると、機体が墜落する方向へ飛行方向を強制的に固定され、ついには墜落に至ったのです。しかも、2つのセンサーが異なる値を示したときに警告する機能はもともと内蔵されていましたが、これをボーイングが追加オプションに変更して販売したため、操縦士たちは適切な警告を受けることができませんでした。
中華航空140便名古屋空港墜落事故 :
https://rhfvm1111.blog.me/220226606257
ボーイング 737 MAX機種の欠陥 :
https://namu.wiki/w/%EB%B3%B4%EC%9E%89%20737%20MAX/%EA%B2%B0%ED%95%A8
ユーザーインターフェースの問題と人的ミスが組み合わさった、もう一つの代表的な事例としては、1988年に米海軍のイージス巡洋艦ヴィンセンス（CG-49）がイランの民間航空機を戦闘機と誤認して撃墜した事件もありますね。米国とイランの緊張が再び高まっている情勢を見て、思い出しました。
USSヴィンセンスによるイラン航空655便撃墜事件：
https://namu.wiki/w/…
痛ましい事例が多いですね。人命がかかっている分野では、何よりも信頼性と直感性が重要なのだと思います。
UI/UXを改善する場合も、このような分野では審美性や利便性よりも、この点を重視すべきなのでしょう。
最近、中華航空140便名古屋空港墜落事故の再現映像が公開されました。操作ミスを起こしやすいインターフェース、欠陥のある安全装置、欠陥を適時に修正しなかった航空会社の対応の遅さ、操縦士たちが自動化機能を正しく理解していなかった点など、複数の要因が重なり、ミスからわずか2分もたたないうちに大惨事が発生する様子が再現されています。
https://www.youtube.com/watch?v=IN4Y7dWXY1s