富士通 Horizon のバグで無実の人々が収監された事実は「最初から」知られていた
(arstechnica.com)- 英国郵便局の Horizon 会計システムの欠陥は導入初期から知られており、その誤りが無実の郵便局支店長たちの起訴と有罪判決に影響を与えた
- 1999年から2015年の間、欠陥のある会計データによって金が消えたように見えたことで、900人以上の sub-postmaster と postmistress が窃盗または詐欺の容疑で起訴・有罪判決を受けた
- 裁判所は1999年から確認されていた29件のバグを知らされておらず、Post Office はシステムが正常に動作しているという立場を維持しつつ、富士通社員の法廷陳述書の修正に関与したとの証言と報道が出ている
- 現在までに覆された有罪判決は93件にすぎず、一部の被害者は刑務所に送られ、ほかの被害者は存在しない不足分を埋めるために Post Office に金を支払い、数千人が補償を待っている
- Fujitsu は被害者補償に貢献する道義的責任を認めており、英国政府は虚偽の有罪判決を受けた人々を迅速に無罪化し補償するための新法を準備中である
Horizon の欠陥は導入初期から知られていた
- Fujitsu 欧州部門の共同 CEO である Paul Patterson は、公開調査で Horizon ソフトウェアのバグが「導入開始時から」知られていたと明らかにした
- Patterson は「バグとエラーは複数のレベルで非常に長い間知られていた」と述べ、システム導入初期からバグ・エラー・欠陥があり、関係当事者がそれを認識していたと語った
- Horizon は1999年に Fujitsu 子会社の International Computers Limited が英国郵便局に導入した会計ソフトウェアだった
1999～2015年の起訴と被害規模
- Horizon の欠陥ある会計データは支店で金が消えたように見せ、1999年から2015年までに 900人以上の sub-postmaster と postmistress が窃盗または詐欺容疑で起訴・有罪判決を受けた
- 一部の無実の人々は刑務所に送られ、ほかの人々は実在しない不足分を埋めるために UK Post Office に金を支払った
- BBC 報道によれば、これまでに覆された有罪判決は93件にすぎず、数千人がなお補償合意を待っている
裁判所が知らなかったバグと修正された陳述書
- The Guardian の報道によれば、郵便局職員の事件を扱った裁判所には、富士通システムで1999年から確認されていた29件のバグが伝えられていなかった
- バグが認められた場合でも、富士通社員の法廷証言用陳述書は Post Office によって修正され、Post Office は無実の人々を法廷に立たせながらも、システムが正常に動作しているという立場を維持しようとしていた
- Patterson は、富士通社員が Post Office に提出した陳述書からその詳細が抜け落ちていたことに驚き、ほかの人々が陳述書を修正した証拠を見たと述べた
- 公開調査の主任弁護士 Jason Beer KC が、これを「恥ずべきこと」だと見るかと尋ねると、Patterson は「shameful and appalling」と答えた
- Patterson は、英国法に関する自身の理解では、Post Office が起訴で依拠したすべての証拠は subpostmaster の前に提示されるべきだったと述べた
私的訴追権と制度改革の可能性
- Financial Times は、公開調査が2023年12月に Post Office の弁護士らが富士通の陳述書を書き直したとの内容を聞いたと伝えた
- Post Office は、英国で民間企業が利用できる私的訴追権を活用し、900件のうち700件の有罪判決を得た
- 残る有罪判決は、スコットランド検察が提起した事件から出た
- このスキャンダルは、組織が人々を法廷に立たせることを可能にする私的訴追制度の改革につながる可能性がある
Fujitsu の謝罪と補償責任
- Patterson は同じ週の初め、英国議会議員らに対し、Fujitsu が「司法の恐ろしい誤判」で果たした役割について謝罪したいと述べた
- 彼は、Fujitsu が最初から関与しており、システムにバグとエラーがあり、sub-postmaster の起訴で Post Office を支援したことを認めた
- Patterson は、Fujitsu には被害者補償に貢献する道義的責任があると述べた
1999年から続く問題認識と政府対応
- 被害者側弁護士の Flora Page は、運用に投入された非常に悪いコードと、訴訟支援サービスへ流れ込んだ非常に悪いデータとのつながりを、過去に誰も明確に見てこなかったのかと Patterson に尋ねた
- Patterson は、そのつながりと、何がどこで起きていたのかについての理解が、Fujitsu と Post Office の双方で1999年にまでさかのぼって存在していたと答えた
- Post Office 担当大臣 Kevin Hollinrake は BBC に対し、補償と答えを得ることが自分の「最優先事項」だと述べた
- Hollinrake は、結婚破綻や自殺など人々の人生に恐ろしい影響があったとし、可能な場合には刑事訴追を通じて責任を問うべきだと述べた
- 英国政府は、虚偽の有罪判決を受けた人々を迅速に無罪化し補償するための新法を計画している
1件のコメント
Hacker Newsの意見
Fujitsuの欧州部門共同CEOであるPaul Pattersonが、「Fujitsuの社員がPost Officeに提出した証人陳述書にその内容が抜けていたことに驚いており、他の人たちが証人陳述書を編集した証拠も一部見た」と述べたくだりは衝撃的です
隠そうとしていたのが単にずさんに作られたソフトウェア契約だけだったのなら、このスキャンダルがどうしてここまで悪化し続けるのか理解しにくいです
今では、まだ明らかになっていない根本的な不正行為がさらにあるのではないかと疑ってしまいます
Fujitsuにも責任はありますが、Post Officeが陳述書を修正したのだとすれば、それを誰が確認すべきなのかは曖昧です
警察に書面の陳述を出したとき、警察が自分の陳述を改ざんしていないか最後まで確認する責任が自分にあるべきではありません
もちろん気づいたら問題提起すべきですが、裁判所関連機関が証拠を捏造しないと信頼できるべきです
こうしたことは、下位組織が自分たちの責任を隠そうとして、より大きな組織全体をはるかに大きなコストリスクにさらしたり、個人や組織が自分たちは正しいと信じて対応をどんどんエスカレートさせたり、権力があるから元の過ちの代償を避けるためにさらに大きな過ちも押し通せると信じたりするときに起きます
規模が小さい場合でも珍しくなく、信頼と誠実さの文化がない会社では、失敗に関する情報を社内で抑え込もうとして、より悪く有害な行動に出ることがよくあります
そのうえFujitsuはNHSのような英国政府機関の多くにもソフトウェアを提供しているため、巨大契約だけでなく、自分たちが嘘をつき、その結果として人々が刑務所に送られ、自殺までしたという事実を隠していたことになります
刑事・民事責任はもちろん、契約選定のあり方にまで望まぬ注目を集める、途方もない政治的怒りを招く話でした
実際に、羞恥、借金、キャリアの破壊によって人々が自殺し、この事件は死を生みました
毎回、驚くほどばかげていて不可能に見えるのに、繰り返されます
コメディや出来の悪いサスペンス映画のように、犯罪もどんどん拡大していくようです
Paula VennellsのWikipedia記事を見ると、Post Officeは1999年から2015年までに700人の支店長を起訴したとあります [0]
計算すると約8日に1人の割合ですが、支店長が詐欺を働いたり起訴されたりする基準となる割合は分からないものの、これはあまりに高い数字ではないかと思います
起訴の頻度がここまで高くなった時点で、Post Officeは内部調査をすべきだったのではないでしょうか
[0] https://en.wikipedia.org/wiki/Paula_Vennells
これは弁解の余地がありません
その時期は、この件がまさに進行していたかなり重要な期間です
特に彼を取り上げる理由は、Vennellsにポストを譲った後、ITVへ数年移ったからです
まさにそのITVが、この事件を再び大衆の目に触れさせたドラマを制作したところです
ただし、シリーズ制作が始まるかなり前にITVを去っているので、外部からの影響というより創作上の選択だったのかもしれません
https://en.wikipedia.org/wiki/Adam_Crozier
強欲で非道徳的な幹部たちが、自分たちの欠陥を他人に投影した極端な例だったのかもしれません
まじめな話、犯罪者なら何年も郵便局を運営するという面倒な道をわざわざ選ぶでしょうか
もし数百万人いたなら、700人という数字は印象的かもしれません
今も続いていることがあります
起訴は今も進行中ですが、主導しているのはPost OfficeではなくCrown Prosecution Serviceです
Fujitsuは長年そうしてきたように、CPSとPost Officeへデータを提供し続けており、証人陳述書もまだ提供しているのかは分かりません
支店長たちは今も、Horizonソフトウェアのバグが残高の誤りを引き起こしていると訴えています
支店長たちは今も、不足額が発生すると罰金を科され、Post Officeに支払わなければならず、その金額は給与から自動的に差し引かれます
この件に関するHNスレッドをまとめてみようと思った
ほかに漏れている重要な投稿があるか気になる
2012年にコメントが1件付いた投稿が1つあり、その後7年間はほとんど何もなさそうなのが興味深い
Fujitsu CEO Deposition – Post Office Horizon IT Inquiry - https://news.ycombinator.com/item?id=39059302 - 2024年1月（1件のコメント）
Fixing Horizon bugs would have been too costly, Post Office inquiry told - https://news.ycombinator.com/item?id=39039712 - 2024年1月（59件のコメント）
Fujitsu says it will pay compensation in UK Post Office scandal - https://news.ycombinator.com/item?id=39023695 - 2024年1月（26件のコメント）
How a software glitch at the UK Post Office ruined lives - https://news.ycombinator.com/item?id=39010070 - 2024年1月（326件のコメント）
Post Office Horizon scandal explained: Everything you need to know - https://news.ycombinator.com/item?id=38983144 - 2024年1月（8件のコメント）
A TV Show Forced Britain's Devastating Post Office Scandal into the Light - https://news.ycombinator.com/item?id=38951802 - 2024年1月（168件のコメント）
British Post Office Scandal - https://news.ycombinator.com/item?id=38937705 - 2024年1月（149件のコメント）
How the Post Office's Horizon system failed: a technical breakdown - https://news.ycombinator.com/item?id=38931792 - 2024年1月（4件のコメント）
Ex Post Office CEO hands back award after IT failures lead to false convictions - https://news.ycombinator.com/item?id=38930011 - 2024年1月（127件のコメント）
Post Office Horizon Enquiry – Fujitsu Report on Eposs PinICL Task Force (1998) - https://news.ycombinator.com/item?id=38926582 - 2024年1月（1件のコメント）
Fujitsu bosses knew about Post Office Horizon IT flaws, says insider (2021) - https://news.ycombinator.com/item?id=38890468 - 2024年1月（8件のコメント）
Mr Bates vs. the Post Office - https://news.ycombinator.com/item?id=38869011 - 2024年1月（3件のコメント）
What went wrong with Horizon: learning from the Post Office Trial - https://news.ycombinator.com/item?id=38867712 - 2024年1月（19件のコメント）
UK Post Office: 700 Horizon software scandal victims to receive £600k each - https://news.ycombinator.com/item?id=37561428 - 2023年9月（40件のコメント）
After 20 years, the Post Office scandal cover-up is happening in plain sight - https://news.ycombinator.com/item?id=36778486 - 2023年7月（1件のコメント）
The UK post office database scandal – “can't see the bug = user is a thief” - https://news.ycombinator.com/item?id=35837576 - 2023年5月（2件のコメント）
Hundreds of lives ruined by faulty UK Post Office computer system - https://news.ycombinator.com/item?id=35792896 - 2023年5月（4件のコメント）
Ex UK Post Office staff tell inquiry of stress of IT scandal - https://news.ycombinator.com/item?id=30394685 - 2022年2月（2件のコメント）
Post Office scandal: Public inquiry to examine wrongful convictions - https://news.ycombinator.com/item?id=30329668 - 2022年2月（149件のコメント）
Post Office scandal: 'I want someone else to be charged and jailed like I was' - https://news.ycombinator.com/item?id=30329510 - 2022年2月（2件のコメント）
Bad software sent postal workers to jail - https://news.ycombinator.com/item?id=26973583 - 2021年4月（1件のコメント）
Convicted Post Office workers have names cleared - https://news.ycombinator.com/item?id=26924882 - 2021年4月（187件のコメント）
UK court clears post office staff convicted due to ‘corrupt data’ - https://news.ycombinator.com/item?id=26913037 - 2021年4月（284件のコメント）
UK legal system assumes that computers don't have bugs - https://news.ycombinator.com/item?id=25518936 - 2020年12月（24件のコメント）
Post Office scandal: Postmasters celebrate victory against convictions - https://news.ycombinator.com/item?id=24661321 - 2020年10月（2件のコメント）
Bankruptcy, jail, ruined lives: inside the Post Office scandal - https://news.ycombinator.com/item?id=24440476 - 2020年9月（1件のコメント）
Postmasters were prosecuted using unreliable evidence - https://news.ycombinator.com/item?id=23454606 - 2020年6月（2件のコメント）
Faults in Post Office accounting system led to workers being convicted of theft - https://news.ycombinator.com/item?id=21795219 - 2019年12月（104件のコメント）
Post Office hires accountants to review sub-postmasters' computer claims - https://news.ycombinator.com/item?id=4143107 - 2012年6月（1件のコメント）
最近のテレビ・ミニシリーズが世間の関心を呼び、それによって大手メディアが大きく取り上げ始めたように見える
この一覧は、コンピュータサイエンスや技術関連の期末課題、あるいは良質なMedium/Substackの記事やシリーズにできそうだ
教授にとってはコンピュータ倫理のケーススタディとしてもよさそうだが、より多くの詳細が出てくるまで、もう少し待つ必要があるかもしれない
Private Eyeは、Computer Weeklyが最初に報じて以来、この事件を継続的に取り上げてきた
記録として、私が投稿したものとコメントも1つある
Computer Says 'Guilty' - https://news.ycombinator.com/item?id=27392724 - 2021年6月（1件のコメント）
イングランドおよびウェールズでは、司法妨害は最高で終身刑まで科され得る犯罪である
個人的には、その証人陳述書を書き換えた弁護士たちには適切な罰だと思う
共同作業や編集そのものを犯罪と見るのは難しく、犯罪は、それが虚偽または欺瞞的な陳述だと知りながら署名する点にある
「法廷で扱われることになるFujitsu社員の証人陳述書が、その後Post Officeによって編集された」という部分は衝撃的だ
これを行った人たちには、相当の懲役刑と罰金が科されるべきだ
新しいソフトウェアシステムが、以前は見えなかった不正を見つけたのだとしたら、人々の人生を台無しにする前に、その結果を確認し、再確認し、三度確認する責任がある
現在のAI分類器を作っている人たちも肝に銘じるべきだ
そうしたシステムも、監視対象の選定、顔照合、AIベースの法律ソフトウェアにすでに使われているか、近いうちに導入される可能性が高い
「コンピューターが有罪だと言っている」という状況から、それほど遠くない。たとえコンピューターが直接そう言わなくても、誤った種類の人間に、自分は正しいことをしているのだという十分な大義名分を与えさえすればよい
オランダの税務当局でも非常によく似たことがあり、ここのINDが完全に明るみに出れば、この種の事例はさらに多く出てくると思う
ある程度は、ほとんどのソフトウェアプロジェクトでよくあることでもある
ソフトウェアにバグや問題があると分かっていても、リリース日を延期するほどのブロッカーとは見なさないことが多く、ゲーム開発のようなリスクの低い分野ではそれで何とかなる
しかし、人々の生活や財産がかかったソフトウェアでは通用しない
まして、その問題がシステムのバグによるものかもしれないとよく分かっていながら、人々を犯罪者として告発するなど、なおさら許されない
「素早く動き、何かを壊し、完全なリリース停止級には見えないバグは無視する」というやり方そのものが正しいのか疑問を抱くこともできるが、事業・法務面での対応は明らかに誤っており、問題の大半は、それを隠そうとした幹部や事業担当者たちの疑わしい行動に由来している
他人に罪をなすりつけた人は、その犯罪そのものと同じ制裁を受けるべきだ
関連記事がさらにある
Fixing Horizon bugs would have been too costly, Post Office inquiry told
https://news.ycombinator.com/item?id=39039712
Fujitsu is sorry that its software helped send innocent people to prison
https://news.ycombinator.com/item?id=39038263