テスラ、致命的事故で主要データは存在しないと主張するもハッカーが発見

• テスラは自動運転事故に関連して、核心データは存在しないと主張
• しかし、ハッカーが社内データを見つけたことで論争が発生
• これにより、テスラの証言の信頼性とデータ保有の実態に疑問が提起される
• テスラの法的責任と証拠提出への姿勢が改めて注目されている
• 自動運転技術の危険性と透明性の問題が再び浮き彫りになった

---

テスラ事故データ隠蔽論争の概要

• テスラはある致命的な自動運転事故に関連し、同社が当該事件の核心データにアクセスできないと主張した
• しかし、あるハッカーがテスラの内部システムで関連データを発見し、以前は存在しないとされたデータが実際には存在することを立証した
• これにより、テスラが法廷証言で真実を隠した、あるいは少なくとも社内データ管理システムへの理解が不足していたのではないかという疑問が提起されている
• この事件は、法的責任の所在、証拠提出義務、そして自動運転車データ管理の透明性など、複数の問題を引き起こしている
• また、自動運転技術の信頼性と、今後の事故対応の過程におけるテック企業の姿勢への関心が高まるきっかけにもなっている

[GN⁺]

Hacker Newsの意見

• アーカイブリンク を共有

• 自分の理解が合っているか確認したい。事故データは自動的にTeslaへ送信され、送信されるとすぐに削除扱いになるのか？ この構造だとデータへのアクセス権をTeslaが独占し、好きなように利用可否を決められることになる。法廷でこんなやり方が通るとは思えないが、これまではそうだったようだ。そして当然、Teslaサーバー上には事故データ削除に関する監査記録があるはずだと期待するが、実際に存在するかは誰も確認していない

  • 車両データはTeslaに限らず、すべてのメーカーが独占的に管理している。標準化されたデータロギングや参照方法はなく、部品ごとのログも各サプライヤーにしか解釈できない
  • もう少し好意的に解釈すると、事故後は第三者が車両やメモリにアクセスして車主や運転者の個人情報が露出するリスクがある。また車両状態データが公開されると、提示する主体によって歪められる可能性もあるので、正式な専門家だけがアクセスすべきだとも考えられる。航空機のブラックボックスの現場処理に近い発想だ
  • もう一つの理由は、Teslaにアップロードされる他種のデータのアップロードコードと衝突している可能性があることだ。最初のデータ（任意データ）の場合、Teslaサーバーに保存されたことが確認できれば、車内のデータを消して保存領域を確保するのは合理的だ。事故時には最適ではないが、削除が悪意によるものだと断定はできないと思う
  • 状況は「通話品質向上のための録音」に似ていると思う。規制当局の要求で顧客には知らせるが、実際には自分たちに不利なら録音はないと言い、有利なときだけ録音を公開する。Teslaは膨大な顧客データをずさんに扱った事例が多く、最近では車内映像まで社内で共有されていたことがあった。あるポルノ俳優が自動運転Teslaで動画を撮ったことがあるが、その映像も「品質向上」目的としてあちこちに出回っていたのだろうと思う
  • 以前は車両テレメトリデータを請求するためにTeslaを相手取って訴訟を起こさなければならなかった事例が多かった。自分に不利に使うためではなく交通事故訴訟に使おうとしていたのに、Teslaはデータを公開しなかった。一方でTeslaは、本人の同意なしにテレメトリデータを報道機関へ公開して自社防衛に使ったり、さらには虚偽の印象を与えたりもしていた。たとえば「車両は運転者に注意を促した」と言うが、調べると実際には衝突18分前に1回通知があっただけ、といった具合だ

• 以前、eBayでmodel3のインフォテインメントユニットを購入してハックしてみたことがある。内部に保存されているデータ量は膨大だった。システムにアクセスした後で車両VINを取得でき、その車が出品されていた廃車オークションまで特定できた。記録された位置情報から、車主が住んでいた場所、勤務先、よく行く店など生活パターンがそのまま見えてしまった。最後に記録されたGPS位置はNorth CarolinaのT字交差点で、Street Viewを使えばその車が衝突したと思われる木まで確認できた

  • ハードウェアが気になる。Linuxベースのコンピュータで、SDカードかSSDを使う構成なのか、どんなファイルシステムなのか知りたい
  • 「車主の生活の断片を見た」という表現に、もしかして死まで含まれていたのではないかと冗談を添える

• 法廷で再生された注釈付きビデオによれば、Teslaは170フィート先で車両を、その後116フィート先で歩行者を検知していた。しかしTeslaは、彼らが立っていた場所、信号や標識のある道路の突き当たりをまっすぐ貫く経路を計画した。つまり車両と歩行者を検知していながら、その間を突っ切ろうとしたことになる。このソフトウェアの状態がどれほど深刻なのか疑問だ

  • 実際にここまで問題がある事例として動画を添付する: vimeo.com/1093113127/e1fb6c359c。単に歩行者を検知してそちらへ進もうとしただけでなく、実際に歩行者をはねた後もそのまま経路を進み続けている
  • AIが世界を変革しスカイネットのようになると言われるが、実際の経路探索はCounter-Strikeのボット並みだ
  • いわゆる dog/pig problem だと思う。こうしたシステムの問題は「object permanence（対象の恒常性）」がないことだ。170フィート先で車両を検知しても、近づくと検知が維持されず、歩行者も同様だ。Teslaのシステムは固定物（停止車両や標識）をフィルタリングしており、これは他ブランドでも運転支援システムではよくあることだ（ただし駐車支援モードを除く）。ただし多くの他社ドライバーはシステムを過信しない一方で、Teslaのドライバーは支援機能を過度に信頼する傾向がある。関連動画リンク: The Mitchells vs. the Machines のシーン
  • 自分の推測では、実際に検知された車両と歩行者は被害者とは別の存在だったのではないかと思う。（被害者なら a vehicle や a pedestrian とは表現しなかったはずだ）

• 「2019年4月25日午後9時14分の事故直後、決定的なデータが自動的にTeslaサーバーへアップロードされ、中央DBに保存された。本社は衝突スナップショットを受信したという自動メッセージを車両へ送信した。その直後、同じデータが現場で『unlink』処理され、つまり車両内部のコピーが削除扱いになった。Teslaは事故時にはこうした手順が一般的だと法廷で説明した。」この一連の手順すべてが衝撃的だ

  • 人々がこの会社にこうも大きな信頼を簡単に与えることに驚く。EVの先頭走者であり続けようが、AI/ロボット分野の新たな強者になろうが、こうした企業行動は実際には想像以上だ。こういう不道徳さはまるでアパーチャ・サイエンスのようだ
  • その手順が正当に弁護可能で、しかも問題を起こさないケースが想像できない。コンプライアンス、法的要件、データ保持に大きな疑問があり、こんなコードを誰がリリースに含めたのかも気になる。1人のミスではなくチームレベルの決定だった点を強調したい
  • もっと大きな問題は、Teslaが中央サーバー上のデータまで「積極的に削除」したことだ
  • 自分が引用した部分（車内データの削除）はそれほど不自然ではなく、サーバー側で削除された部分の方がはるかに衝撃的だ
  • 事件事故関連の以前のHN記事では最上位コメントが慰謝料が過大だと述べていた。このスレッドでは議論が少し変わるのか注目している

• Volkswagenが排ガス不正で摘発されたとき、CEOは解任され起訴された。Teslaもそうあるべきではないかという疑問を呈する

  • ディーゼルゲートの特異な点は、実際に誰かが処罰されたことだ。企業、特に刑事面で処罰されることは非常にまれだと思う
  • 担当判事は判決文で「Teslaが当初データを提出しなかったことが故意だったとする十分な証拠はなかった」と判断し、その代わり原告が自らデータ収集に使った費用をTeslaが補償するよう命じた
  • Big Tobacco訴訟のように、民主党系の州司法長官たちの連合が必要だと思う
  • CEOの解任は取締役会の権限だ。Teslaの取締役会は会社価値が異常に高く、CEOとその価値が直接結びついていると信じている
  • この件はVWとはまったく別の状況で、共通点はどちらも自動車会社だという点だけだ。TeslaのCEOが解任・起訴されるべきかもしれないが、VW事件が前例だからそうなるという話ではない

• Teslaがsecure boot技術を備えるようになれば、今後は誰も彼らの欠陥を見つけにくくなる。そうなれば事故データの「紛失」可能性はさらに高まり、警察がボディカメラ映像を「なくす」のと同じことになるだろう

  • このコメントには強く同意する。ハッカーたちが問題を明らかにできたのは、secure bootや暗号化イメージが適用されていなかったおかげだ。組み込み開発者ならMCUbootのようなものは皆知っている。ただ管理職は複雑さを嫌って導入をためらうが、ひとたび承認されれば、すべてのファームウェアはSignalのチャットのようにメーカーだけが開けるものになる。PSA規格のハードウェアは多ビットのグリッチ攻撃にさえ耐える必要があり、もはやハッカーには手が出せない

• Tesla社員の法廷証言の翻意についての記述を引用し、「実質的には偽証したということだ」と見る

  • 一番気になるのは、実際にこうした嘘をついた社員たちにどんな処罰が下るのかという点だ。制度上、彼らは会社の代理として行動したという理由で、むしろ保護されるのではないかと疑問に思う

• 今回の記事を読んで、Teslaは絶対に買わないと決めた。ハッキングを試みたgreenthehackerを称賛する。これからもStarbucksのベンティのホットチョコレートを長く飲みながら幸せでいてほしい

  • 今日より前に本当にTeslaを買うつもりがあったのか気になる。それ以前にも自動運転絡みの死亡事故は何件もあったのに、今回の件だけが特別に違って感じられる理由は何だろう。自分にとっては、FloridaでTeslaが大型トラックの下に潜り込んで運転者が死亡した事故がきっかけだった
  • 「Starbucksのベンティのホットチョコレートを長く飲め」というのは、実質的に糖尿病になれと願っているようなものではないかと、軽妙に反応する
  • Muskが過去にドイツ空軍（ルフトヴァッフェ）を引き合いに出して冗談を言ったことも、Tesla購入意思には影響しなかったのかと尋ねる冗談もある

• 今起きていることは、Elonの性格を正しく見抜いていた人にとってはまったく驚くことではないと思う。機能も、スケジュールも、さらにはビデオゲームのランキングまで誇張や虚言ばかりで……Twitter買収も、自分自身の欺瞞を拡張するための動きだったと見る