責任の追及

責任回避の構造

• 責任回避マシンでDan Daviesは、組織が「責任回避の構造」を形成すると主張する。これは、意思決定の結果を吸収したり曖昧にしたりして、誰も直接責任を負えないようにする構造である。
• たとえば、あるホテル会社の上級管理職が清掃スタッフを減らすことを決めると、それは財務諸表上の数字を改善できるかもしれない。しかし、顧客がチェックインしようとしたときに部屋の準備ができておらず、スタッフもいつ準備できるのか分からないと言う。不満を申し立てる相手もおらず、その決定が顧客の予定を台無しにしたことを知らせる方法もない。責任は消え去り、永遠に失われる。

責任回避の構造の仕組み

• 責任回避の構造が機能するには、フィードバックを遮断しなければならない。つまり、意思決定の影響を受ける人のフィードバックが、システムの運用に影響しないようにする必要がある。
• 医療保険が処置を拒否するとき、航空会社がフライトを欠航にするとき、政府機関が給付を受ける資格がないと宣言するとき、投資家がすべての企業にAIをアプリへ統合するよう指示するときなど、責任回避の構造は至るところに存在する。
• これは、実際に意思決定が行われたという前提のもとで成り立つ。責任回避の構造のもう一つのメカニズムは、意思決定そのものが連鎖していき、その起点が見えなくなるというものだ。

責任の意味

• 「責任」とは何かを少し考えてみる必要がある。Daviesは「責任の根本法則」を提示する。すなわち、決定を変更できる度合いこそが、その決定に対して責任を負える度合いである。
• Sidney Dekkerの責任の定義によれば、責任とは「ある出来事がどのように起きたのか、その出来事を引き起こした条件は何だったのか、そして当時なぜその判断が妥当だと思われたのか」を説明することである。これは、よりよい意思決定を行うための学習の前提条件である。

AIとの比較

• AIに意思決定を委ねることは、責任回避の構造を作る便利な方法である。しかし、企業や政府など、どのような規模の組織もすでにこうした構造をうまく形成している。
• AIがもたらす責任回避は新しいものではなく、既存のものを拡張したものにすぎない。これは恐れを和らげてはくれないが、有用な手がかりにはなりうる。企業に責任を負わせようとする試みが失敗してきたのであれば、アルゴリズムに対しても成功する可能性は低い。新しい方法が必要である。

GN⁺のまとめ

• この記事は、組織がどのように責任を回避する構造を形成するのかについての洞察を与えてくれる。これは特に、AIのような技術が責任回避をどのように拡張しうるかを理解するうえで有用である。
• 責任回避の構造は、意思決定を行う人と、その決定の影響を受ける人とのつながりを断ち切る形で機能する。
• AIは責任回避をさらに容易にしうるが、これは新しい現象ではなく、既存の問題を拡張したものである。
• このテーマは、組織内の責任構造を改善し、よりよい意思決定を行うための方法を探るうえで興味深い。