コンピューターは決して責任を負えない。
(simonwillison.net)- 1979年のIBM社内研修に登場した伝説的なページで、AI時代にもふさわしい内容
A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
コンピューターは決して責任を負えない。
THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
したがって、コンピューターが経営上の意思決定をしてはならない。 - Twitterで原典の出典情報を求めたところ、Jonty Wareingが回答:
- 誰かが父親の作業書類の中から発見したが、その後洪水で破壊された
- IBMアーカイブとのやり取りでも見つからなかった。支社がアーカイブされない資料を作成するのは一般的だった。
- JontyがIBMから受け取った回答
- 画像が最初にオンラインで共有されたのは、2017年2月の@bumblebikeのツイート
- 1979年の社内研修資料のものであることを確認
- 2021年12月の@bumblebikeによる別のツイート: 2019年の洪水でほとんどの持ち物とともに破壊された
- 退職者クラブのZoomミーティングで問い合わせたが、該当する年代の人はほとんどいなかった
2件のコメント
「決定に責任を負えない人は、決して管理者になってはならない。」
Hacker Newsの意見
コンピュータの利用が責任回避の手段として使われていることを指摘している。Neil Postmanの著書 <i>Technopoly</i> からの引用を通じて説明しており、コンピュータがあたかも真の権威の源であるかのように見せることで、責任を回避する傾向があるとしている
自動運転車について疑問を呈している。責任が運転者からメーカーへ移ることになり、メーカーがその責任を望むのか疑問だとしている
ICカードの導入は銀行の責任を利用者へ転嫁するためのものだと主張している。セキュリティは強化されたが、実質的にはクレジットカード詐欺の責任を利用者に負わせようとする意図だとしている
なりすまし被害も同様に銀行詐欺であることを強調している。これを「なりすまし被害」と呼ぶことで、銀行の問題ではなく個人の問題へとすり替えられているとしている
企業は責任を嫌い、それは誰もが嫌うものだと述べている
ある会社では、管理職が責任を負う可能性があるため、意思決定をしようとしない方針があるとしている
「責任」という言葉が今では意味のないセラピー的言語になっていることを指摘している。CEOが責任を取ると言っても、実際には何の結果も伴わないとしている
Norbert Wienerの著書 <i>God & Golem Inc.</i> からの引用を通じて、人々が自動計算機に求めているのは、より正確な計算ではなく、責任を転嫁できる箱なのだと説明している
法的原則としては運用者が責任を負うべきだと主張している。そうでなければ、放火防止のためにマッチを禁止しなければならない、という比喩を用いている
「アルゴリズム」に関する現在のAIブーム以前から、すでにこうしたことは起きていたと言及している
デジタルフォレンジックで用いられる原則が逆に適用されていると説明している。法廷でデジタルフォレンジック調査官は、機器上で行われた作業について証言できるが、誰がその作業を行ったのかは分からないとしている
コンピュータは非常に決定論的に見えるが、実際には不確実性が存在することを専門家が説明すると、一般の人々は衝撃を受けるとしている
小売店のセキュリティ警報が鳴ったとき、コンピュータが問題を起こしたのだと社会的に正当化されている事例に言及している。コンピュータが問題を起こしたように見えるが、実際にはそうではないとしている