責任が消える排水口、Accountability Sinks
(250bpm.substack.com)- Accountability sinkとは、判断が公式な手続きに置き換えられることで、決定は実行される一方、誰が責任を負うのか、誰に異議を申し立てればよいのかが曖昧になる制度的現象である
- 手続きは効率・安全・組織の記憶を生み出すが、上から下ろされたルールは、現場が問題を理解していても 盲目的な遵守 を促しうる
- 空港でのジリス処分、航空会社のゲート係員、クレジットカードの氏名制限、ホロコーストの行政、家事分担の事例はどれも、判断が手続きに吸収されるときに生じる 責任の空白 を示している
- 逆に、学界の終身在職権、Xerox PARC・Bell Labs・DARPA型の研究保護、ベンチャーキャピタル、Google SREの blameless postmortem は、責任負担を減らすことで、よりよい判断を可能にしている
- 複雑な社会で手続きはなくならない以上、重要なのは、手続きが人を隠す装置ではなく、現場の判断を生かす制度設計 になるようにすることである
Accountability sinkの基本構造
- Dan Davies の著書 The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind は、人が行っていた判断が公式な手続きに置き換えられる現象を accountability sink と呼ぶ
- 人が直接判断していた事柄が手続きに変わると、誰かが意図的に決めたというより、プロセスが実行された という形になる
- 手続きが誤作動しても、責める相手も、抗議する先も消えやすい
- 組織には、人間の判断を手続きへ変えようとする強い誘因がある
- 決定は論争を招きうる
- 利害が絡めば反発や恨みが生じる
- 非人格的な手続きは、責任感や罪悪感なしに同じ決定を繰り返し適用できる
手続きが生んだ責任の空白
- 1999年4月、北京からKLM便でアムステルダム郊外のSchiphol Airportに到着した ジリス440匹 は、必要な輸入書類がなかったため、アテネの顧客へ引き渡されなかった
- 誤りを修正して送り返す措置も行われなかった
- 空港職員は書類上の問題を前に、440匹を産業用シュレッダーにかけた
- 命令はオランダ政府の農業・環境管理・漁業部門から出され、KLM経営陣は後に、その命令は「その内容と実行可能な代替案の欠如ゆえに非倫理的」だったと述べた
- 職員たちは命令に従ったという意味では「形式的には正しく」行動したが、KLMはその決定が assessment mistake だったと認めた
- このシステムの事実上唯一の安全装置は、動物処分を担う人々が、その結果が十分に異様に見えれば、個人的に指示を拒否するかもしれないという曖昧な期待だけだった
- 倉庫で働く人が、倫理的理由で政府命令を覆す権限を持つのは一般的ではない
- ふだん99%は命令に従い、100件目で突然独立して判断してくれると期待するのは、心理的にも管理上も現実的ではない
- 航空会社のゲート係員は、搭乗拒否のような悪い知らせを乗客に伝えるが、会社の方針上、変えられることはほとんどない
- 顧客は人間に話しているが、実際に相手にしているのは、より上位で決められたルールと手続きである
- 怒りたくても目の前の個人を責めにくく、会社は 匿名の組織の声 として話すことになる
- クレジットカード会社の事例では、プラスチックカードのデザインが氏名を 24文字 までしか許容しなかった
- 職員たちは、長い名前を持つ申請者の問題をビジネスチームに提起した
- ビジネスチームは、その比率が非常に小さいという理由で、カード再設計ではなく申請却下を選んだ
- 申請者は信用状態が良くてもカードを受け取れず、理由も知らされず、抗議先の責任者も見つけにくい
- 技術的欠陥が手続きによって覆い隠された形である
- 夫婦が皿洗いの順番を週ごとに交代すると決めた事例は、小さな規模でも同じ問題が起こりうることを示している
- 一方が病気になると皿洗いがたまるが、もう一方は自分の番ではないという理由で責任を感じない
- 責めるべき相手も明確ではない
官僚制と大規模手続きの危険
- ホロコースト研究者たちは、大量虐殺が可能だったのは、大衆的憎悪が形式化された 行政手続き に変換されたからだと見る
- ユダヤ人を他の住民から切り離し、一カ所に集めることは、虐殺へ向かう核心的段階だった
- ブルガリアでは、ユダヤ人をゲットーや地域の「労働収容所」に集めず、農村へ送って農作業を手伝わせた
- 全国に散らばった後では、列車に乗せて強制収容所へ送る次の段階を進めにくかった
- ユダヤ人を集中させる業務は虐殺成功に重要だったが、その仕事を担った官僚たちは、自分が直接人を殺しているとは感じていなかった
- 彼らは、毎日こなす退屈な行政事務を処理しているだけだと考えていた
- ニュルンベルク裁判を見ると、「誰も責任を負っていない」という感覚が残る
- 多くの被告は単に命令に従っただけでなく、自発的に行動していた場合もあった
- 違法命令への不服従に対して、ドイツ兵が受けた結果は驚くほど軽かったという研究も関連している
- それでも最終的解決の実行には数十万人が関わっていたため、なぜ一部だけが処罰されるのかという恣意性の感覚が残る
- 歴史家 Götz Aly のインタビューでは、1965年に同じ基準を適用していたなら、殺人幇助でドイツの男女 30万人以上 に終身刑を科す必要があっただろうと語られる
- Wannsee Conference の秘書のような事務職も命令をタイプしていたが、当時は彼らを刑務所に送るべきだとは見なされなかった
手続きの利点と責任回避の両面性
- 公式手続きはたいてい有用である
- 効率を高め、同じ決定を繰り返し適用して 規模の経済 を生み出す
- パイロットが離陸前チェックリストを確認するように、安全性を改善する
- 過去事例から得た教訓や解決策を手順としてエンコードし、組織の記憶 を保存する
- しかし官僚制の深いところでは、手続きは単なる効率化の手段を超え、責任を管理し回避する技術になりうる
- 今日の西側社会の不満は、人を人間ではなく機械の部品のように扱うシステムに閉じ込められているという怒りと結びついている
- 手続きが決定を下し、失敗しても説明したり責任を負ったりする人がいない
- 国家や民間企業が責任を非人間的な手続きに移し、救済手段を与えないなら、民主主義さえ中身のない概念のように感じられる
- 専門家への反発、裁判官への懐疑、腐敗への寛容さも、この観点から別様に見えてくる
- 専門家は非人間的システムの設計者に見えうる
- 裁判官は正義よりも手続きに忠実なように見えうる
- 腐敗は悪いが、少なくとも名前と顔のある人間が下す決定のように見えうる
- 自動音声応答、終わりのないメニュー、人につながらないカスタマーサポートの体験は、こうした不安をさらに強める
責任緩和がよい結果を生む場合
- 責任制限は、ときに意図的に必要な制度である
- 学界の tenure は、科学者を事実上解雇しにくくすることで、危険だったり非伝統的だったりする研究を行う自由を与える
- 研究者は管理者に対して、予定通りの成果を出したり、失敗を謝罪したりする必要が減る
- Xerox PARC、Bell Labs、DARPA のような成功した研究機関でも、似たパターンが見られる
- 研究者を、即時的な有用性要求、官僚的監視、上層部への継続的な正当化要求から守る管理者がいた
- ベンチャーキャピタルモデルも、スタートアップ創業者の責任を緩和する
- 創業者は成功のために努力すると期待されるが、失敗したからといって責任追及はされない
- 失敗リスクはすでにVCが価格に織り込んでいる
- VCは資本所有者と創業者のあいだの accountability sink のように機能する
ルールを破る必要があった現場
- 2017年10月1日のラスベガス銃乱射事件の後、ある病院の救急外来には銃創患者数百人が一度に押し寄せた
- 医療スタッフは、確立されたルールや手続きを何度も破りながら対応した
- 教科書上では triage は最も経験豊富な医師が担うべきだが、現場では看護師に triage を任せた
- Pyxis の認証手続きが流れを妨げたため、etomidate、succinylcholine、O negative 血液を現場近くに確保した
- ventilator が不足すると、Y tubing を使い、体格と tidal volume が近い2人を1台の ventilator につなぐ方法を用いた
- あるコメントはこの事例について、「彼が英雄でなかったなら即座に解雇されていただろう」と表現した
- Gmail SRE の経験では、障害対応時に強制される手続きはほとんどなかった
- SRE はサービス可用性について上層部に責任を負うが、障害処理中に定められたプロセスに従うことは求められなかった
- 多くの手続きを使ったが、強制ルールというより、チームが選んだガイドラインや推奨事項に近かった
- 障害後には、ソフトウェア修正と同じくらい、手続き調整も対応の一部だった
- Google SRE 文化の blameless postmortems は、個人責任を明示的に制限する
- postmortem は、特定の個人やチームを不適切な行動で非難するのではなく、事故に寄与した原因を見つけることに集中すべきである
- 皆が、その時点で持っていた情報の範囲で、善意のもとに正しいことをしたと仮定する
- 処罰への恐れがあると、人は問題を表に出さなくなる
航空安全と正直な報告
- 1991年2月1日、Los Angeles International Airport の滑走路でジェット旅客機が小型通勤プロペラ機と衝突し、最終的に 35人 が死亡した
- Asterisk の記事 は、管制官 Robin Lee Wascher の事例を扱っている
- Wascher は USAir flight 1493 に着陸許可を出す数分前、SkyWest flight 5569 に runway 24L で「taxi into position and hold」と指示していた
- 彼女には離陸許可を出した記憶がなく、その便がまだ滑走路上にいた可能性に気づいた
- Wascher は管制塔に戻り、監督者に対し、USAir が衝突した相手は SkyWest flight 5569 だと思うと伝えた
- Wascher のミスと、そのミスが35人の死につながったことは明らかだったが、彼女は処罰されなかった
- 同僚たちは報道陣を防ぐため、ホテルの部屋の外で見張った
- 数か月後のNTSB公聴会では、自分の記憶を誠実に証言した
- 管制塔へ戻る機会も与えられたが、彼女は辞退した
- 刑事訴追された人はいなかった
- Wascher を排除しても、安全性は改善しない
- 彼女は特に悪い管制官ではなく、平均的な記録を持つ平均的な管制官だった
- 同僚たちは、同じことは誰にでも起こりえたと強調した
- 正直な報告によって、2基目の地上レーダー購入、妨害照明の移設、副次業務の削減といった改善が行われるなら、Wascher を解雇するより航空安全にとってはるかに大きな効果がある
- 処罰は、他の熟練管制官が自分では制御できない事柄への責任を負うことを嫌がらせ、結局は経験の浅い人材に置き換わる効果を生みうる
行き詰まったシステムを解く責任迂回
- HealthCare.gov は2013年10月1日に予定通り公開されたが、訪問者はすぐにさまざまな技術的問題に直面した
- 一部推計では、最初の1週間で関心を持った人のうち 1% しか登録できなかった
- サイトの失敗は Obama の中核政策の失敗につながりかねず、ホワイトハウスの最優先課題がWebサイトの性能になった最初の事例として扱われた
- Jennifer Pahlka の Recoding America によれば、その後チームは2段階の計画を立てた
- 関連経験と技術を持つ小規模な技術チームを集める
- Webサイト実装の責任機関である CMS の信頼を得る
- 新たに加わった技術者たちは、責任追及のためではなく助けるために来たのだと明確にした
- 一般的な失敗対応のように監督が強化され、行動範囲が狭まる代わりに、CMS は信頼できる技術者たちと働けるようになった
- CMS は技術やサービスの調達方法は知っており、healthcare.gov だけでも 60件 の契約を発注していたが、今や契約条件ではなくコードを見られる人々がチームに加わった
- Dominic Cummings は、2020年3月のCOVID危機時における NHS のPPE調達状況を回顧している
- 発注したPPEは夏まで届かないと言われたが、最大需要は今後3〜4週間だった
- 従来どおり中国から船便で運ぼうとしていたため、彼は航空会社が止まっているのなら飛行機を中国へ送り、物資を持ち帰れと要求した
- Boris Johnson だけが、官僚制、EUルール、財務省指針などを迂回せよと言い、「あらゆる法的責任を個人的に負う」と言えた
- Johnson が責任を引き受けたことで、公務員の負担は軽くなり、硬直した公式手続きの中で立ち止まるのではなく、問題を解けるようになった
市場という巨大な責任緩和装置
- 自由市場は accountability sink の最大の事例として扱われる
- 政府は法の支配、契約執行、納税と法令順守を保証しつつ、市場の日常的な作動には介入しないことを期待される
- 市場は、社会の各所に散らばる情報を集め、希少資源配分を最適化する情報処理装置としてしばしば説明されてきた
- 責任の不在は、起業家が大きなリスクを取ることを可能にする
- 会社が失敗すれば非難は創業者自身に向かうが、誰かが追いかけてきて処罰するわけではない
- 安全策だけで動く必要が減る
- 共産主義経済の失敗には需要と供給の法則の無視が主要因だったが、すべての企業経営陣が上層部と共産党に責任を負わねばならなかった構造も、リスク回避を生んだ可能性がある
- その結果、科学者が技術を発見しても、新技術や新たなビジネス慣行の実装成果が低く、全般的な経済停滞につながったという解釈がある
制度設計のための区別
- 公式手続きはたいてい有益であり、複雑な現代社会は手続きなしでは維持できない
- すべての公式手続きが accountability sink というわけではない
- 自ら設計し、自分に課した手続きは、問題が起きても責任を免除しない
- 上から課された手続きは、目標を損ねても盲目的遵守を促しうる
- すべての accountability sink が硬直性や隠蔽につながるわけでもない
- 手続きは、影響を受ける人を責任負担から守りつつも、あらかじめ定めた解決策を強制しないよう設計できる
- blameless postmortem はその一例である
- ゲート係員のような状況では、実際には例外的なエスカレーション能力が多少ある場合が多いが、公には不可能だと維持しなければならない
- その結果、顧客の立場からすると、十分に不快な振る舞いをしないと例外・エスカレーション・特別対応を引き出せないという二次的効果が生じる
- Ayn Rand の Atlas Shrugged の引用は、赤信号の前で責任転嫁を恐れて動けない人々と、「私が言う」と責任を引き受ける Dagny Taggart の場面を通じて、同じ問題を小説的に示している
まだコメントはありません。