なぜ別れを告げざるを得ないのか：Google経営陣は道徳的コンパスを失った
(mayrhofer.eu.org)- Androidのセキュリティ責任者が、Google経営陣の倫理的な方向感覚の喪失を理由に辞任を決め、同僚に送った別れの手紙
- 2017年に Director of Android Platform Security の提案を受諾。当時のGoogleは、カーボンニュートラル目標・Pentagon契約の取り消し・AI原則など、公益志向の文化を持つ会社だった
- 在職中に、デバイス全体の暗号化のデフォルト適用、エンドツーエンド暗号化バックアップ、Insider Attack Resistance など、ユーザー保護の成果を実現
- 最近Googleが carbon-neutral目標を放棄し、US Ministry of WarとのAI契約を締結、内部での議論なしに経営トップが決定したことが辞任の直接の原因
- 平和主義者でありヨーロッパの研究者として、侵略戦争を遂行する軍隊のための仕事に関わることはできず、今回の契約が自分やEU市民への監視につながり得るという懸念が核心的なメッセージ
入社の経緯と初期のGoogle
- 2017年、Director of Android Platform Security の職の提案は断れなかった。当時すでにTrumpは大統領だったが制御可能に見え、何より9年前のGoogleは別の会社だった
- Androidは open source first で、ユーザー数はちょうど20億人を突破したところだった
- 2009年から外部でAndroidセキュリティを研究していたが、ソースは公開されていても 内部Androidチームとの直接の接触 は非常に難しかった
- 世界でもっとも広く使われているLinuxベースのオープンソースOSを内側から率いる機会であり、Dave Kleidermacher と Nick Kralevich の信頼に感謝を表している
- 研究者でありコンピュータセキュリティの終身教授として、シリコンバレーで学術精神と 公益のための倫理原則 にもっとも合致する職だった
- 入社当時、Googler は自らのアイデンティティや価値観を仕事に持ち込むことを歓迎され、期待されており、文化は透明で多様な議論に開かれていた
かつてのGoogleの公益志向の価値観
- 会社全体の目標は 完全なカーボンニュートラル の達成であり、従業員が反対の声を上げた後に Pentagon契約は取り消された （2018年の公開書簡に署名）
- 2018年に Sundar Pichai が発表した AI原則 には、追求しない領域が明記されていた
- 人に危害を加える、または直接助長する武器および技術
- 国際規範に違反する監視目的の情報収集・利用技術
- 国際法および人権原則に反する技術
- "Don't Be Evil" は単なるスローガンではなく、難しい判断を下すときの 北極星 (north star) だった
- Android Securityチームのモットーは「デバイスが1000ドルでも100ドルでも、ユーザーが有名人でも難民でも、自分たちでも破れないほど安全にする」だった
- ユーザーの利益保護を最優先し、ときには他のGoogleアプリやサービスの事業上の利害と衝突してもユーザーを優先した
在職中のセキュリティ成果
- Android 10 では、もっとも安価なデバイスにも デバイス全体の暗号化 をデフォルトで適用し、業界を前進させた
- Appleに議論が集中する中、エンドツーエンド暗号化されたAndroidバックアップ を静かに導入し、現在の法執行機関 vs ユーザープライバシーの議論でも有効な事実上の標準を打ち立てた
- Insider Attack Resistance、ARM MTE、プライバシー優先の デジタル認証情報 などは、Google内部の悪意ある部分からもユーザーを守るための協業の成果だった
- Androidのレジェンドと呼ばれる Dianne Hackborn など最高の専門家たちに入社初期に出会い、誰もが新入りに親切で知識を共有してくれた
変質したGoogleと辞任の決断
- Google経営陣は AIモデルのエネルギー使用 を理由に、カーボンニュートラル (carbon-neutral) 目標をひそかに放棄した
- さらに深刻なのは、経営陣が US Ministry of WarとのAI契約 に署名したこと
- 現在の米国政府の "any lawful purpose" は、すでに国際法違反であることが繰り返し示されている
- こうした変化は社内で議論・共有されることなく、最高経営陣が一方的に決定 しており、以前に経営ラインにいたにもかかわらず内部チャネルから聞かされなかった
- "Maximum lethality, not tepid legality" を掲げる US Ministry of War の行為を、明示的・黙示的・直接的・間接的のいかなる形でも支持できず、辞任以外に選択肢はないと判断した
決断の両面
- 一方では非常に難しい決断
- いまも善をなそうとする 人々、前向きな変化の機会、卓越したエンジニアたち、blameless post-mortem と失敗を扱う成熟した文化が恋しくなるだろう
- 他方では避けられなくなった容易な決断
- 平和主義者として、侵略戦争を遂行する軍隊 のためには働かないとずっと以前に決めており、純粋に防御的な行動とは区別している
- ヨーロッパの研究者として、現在の米国政府は自分に敵対的な存在となっており、"any lawful purpose" には EU市民の大量監視 まで含まれると判断している
- 今回の契約は、Google (AI) 製品が自分や周囲の人々に対して直接使われる可能性を意味すると見ている
今後の計画
- 契約上の通知期間は辞任を提出した月の末日から 3か月 であり、2026-08-31 までは限られた時間、内部チャネルで連絡可能で、進行中のプロジェクトを締めくくり引き継ぐ予定
- DoW契約 に該当し得るAIシステムの作業からは直ちに離脱する（現時点まで関与していた認識はない）
- その後は外部から複数のチャネルで連絡可能となり、エンドツーエンド暗号化通信・保存プロトコル、プライバシー保護型デジタルID、組み込みシステムセキュリティ、OSおよびサプライチェーンセキュリティの仕事を続ける予定
- これらのテーマの交点は、依然として Android（特にAOSP） のセキュリティとプライバシーである
- Google経営陣が道徳的コンパスを取り戻すことを切に願っている
Addendum (2026-06-12)
- 別れの手紙は予想以上に広く公開された
- 依然として Android が、開放性・柔軟性・セキュリティのバランスを備えた現時点で最高のモバイルOSだと再確認した
- いくつかの制約と不便さは残るが、それより良い代替を知らない
- Android Security および Privacy チームは、ユーザー保護を継続的かつ一貫して改善することに尽力している
- Googleを去る決断は、当該チームのメンバーに対する評価ではなく、残るチームが今後も正しい判断を下し続けると信じている
1件のコメント
Hacker Newsの意見
特に気にしているわけではないが、Googleが今になって道徳的な羅針盤を失ったと言えるのは、退職するのではなく引退できるほど金持ちになった人だけができる主張だと思う
Googleは文字通り世界で最も巨大かつ体系的な追跡・プロファイリング企業であり、LLMの台頭でその規模はさらに大きくなっている
そうした点を、機会のためであれ何であれ見て見ぬふりをしてきて、今になって道徳的な羅針盤を失ったと言うのは偽善に見える
会社は変わり続けてきたが、同時に大して変わってもいない。いつももっともらしいことを言い、他人にどう振る舞うべきかを説くのは好きだったが、正しいことのために実際の売上を手放そうとしたことはほとんどなかった
よくある正当化は、Googleがやらなくても誰か他の誰かがやるし、その誰かは当然Googlerたちほど道徳的ではない、というものだった
ある程度年齢を重ねているなら、Googleがプライバシーを侵害し邪魔でもあるディスプレイ広告に公然と反対していた時代を覚えているはずだ。それがGoogleの中核イメージだったが、DoubleClick買収で大金を稼げると気づく前の話だった
Googleの道徳的な羅針盤は、この人が入社するずっと前から失われていた。だからといって特別に邪悪だという意味ではないが、ごく普通の上場企業の列に加わったということだ
なぜ広告の追跡・ターゲティングと自律型致死兵器の開発を道徳的に同じレベルに置くかのように振る舞うのか分からない
皮肉っぽい言い方が本当に正当かは分からない。Googleの人たちが純粋な善意の人ではなかったことは皆分かっているが、それを受け入れていても、戦争における特定のAI利用は受け入れられないと言うのは、別に不整合には聞こえない
別の言い方をすれば、私の株式はついにすべてベストされ、2017年にGoogleが倫理的希望の最後の砦ではないと誰も知りようがなかったのだから、今や道徳だけを理由に退職するとシグナルを送れるほど、経済的に独立するだけの金持ちになったということだ
ただし「Googleが道徳的な羅針盤を失った」という表現は、実際には一度も正確だったことがない
この時点では、企業が反応するのは経済的な流れだけだということはかなり明白で、その流れは人々が本当に望むものによって左右される。一般的には、人々のほうが道徳的な羅針盤を失ったのだと思う。口で言うことではなく、政治における投票と財布による投票という意味で
個人的には、人々が軍との協業を無条件に拒む理由がよく分からない。平和主義者だというのは理解できるが、それでも納得はできない
歴史を見れば、弱さによって生じた悲劇があまりにも多い。例えばドイツとソ連はどちらもポーランドに侵攻できたし、カティンの森事件は国家的な傷として残っている。チンギス・ハンのような侵略者を打ち負かしたくない人がいるだろうか？ 揚州十日や嘉定三屠を聞いたことはないのか？ なぜ文明が野蛮に屈するのを許さなければならないのか？
誤解しないでほしい。私は戦争が嫌いだ。イラク戦争のような終わりなき戦争にはずっと怒りを感じているし、G.W. Bushとその閣僚は本当に邪悪だったと思う。もちろん危険は現実に存在する。防衛のために作られた軍隊であっても、抑制がなければ容易に暴政や帝国主義の道具になりうる。だからこそ厳格な文民統制と、権力への抑制と均衡を維持しなければならない。しかし、だからといって軍隊が本質的に常に悪だということにはならないのではないか？
彼らは、自分たちの存在の根本的事実、つまり圧倒的な軍事力がなければ不可能だったほど世界の富を不均衡に享受しているという事実に、きちんと向き合う必要がない。ウクライナに住む人たちは、こんなふうには語らないと思う
年を取るにつれて、Jessup大佐にますます共感するようになった: https://www.youtube.com/watch?v=9FnO3igOkOk
その国は同盟国に対してますます敵対的になっており、国際舞台で正当化しにくい奇妙なことをしている
あらゆる外交政策上の選択は、軍事衝突と核戦争を防ぐ方向に整えられている。そのため、紛争を外交で解決しようとする傾向が過度に強くなる
しかし一般の人々はこれを理解しておらず、核兵器に支えられた今日の平和を本物で恒久的なものだと想定している。地下に隠された核兵器を考慮せず、現実を反映しない平和主義のような政策を擁護している
現在の状況はこの一文に要約される。苦しい時代は強い人を作り、強い人は良い時代を作り、良い時代は弱い人を作り、弱い人は苦しい時代を作る
物書きなんだけど、先週、LLMが登場する何年も前に書いた自分の本を読み返していて、「XではなくYだ」という構文を自分が使っているのを見てギクッとした
今や道徳的ジレンマが生じている。あまりにも苦しいLLMロボット口調に感じられて、次の版でその文を直したくなる。でも同時に、それは自分が書いたものであってLLMではなく自分の言葉だったのだから、残しておきたくもある。人間が向き合うべき道徳的ジレンマとはこれだ！
自分もたまに考えをLLMに吐き出して整理させたうえで、繰り返し自分の言いたい内容を磨いていく
20年あまり前に『Zen and the Art of Motorcycle Maintenance』を読んだが、何を言うかとどう言うかを同時に決めようとすると文章を書くのが難しくなる、という要旨がずっと残っている。LLMに考えを吐き出すのは推進力を得る一つの方法だ
ただ、LLMが過剰に使う否定の並列パターンは本当にイライラさせられるし、いつも手動で消さなければならない。そういう考え方がコーディングには利点があるのか気になることもある。たとえばコーディングでは防御的な否定がコード品質を高めることがあるが、文章では使いすぎると良い文を薄めてしまう
でも、何かがLLMの助けで作られたかどうかをかなり高い確率で判断できるという感覚が、もはや失われたらどうするつもりなんだ？
どうせ見分けがつかないのだから構わないと考えるのか、それとももしかするとLLM補助の成果物を消費してしまうかもしれないから何も読まなくなるのか、気になる
自分は、ありふれた兆候だらけでさえなければ構わない。そういうのは単に下手な文章で、読みたくないだけだ
「Claudeで自分が作ったものを見てくれ、LLMが世界を変えるぞ！」
「いまいちだな、書き手がブログ記事を書くのにLLMを使ったんだな」
書き手が倫理的な立場を固めるのに8年かかったというのが驚きだ。その間にGoogle株は600%上がったし
Googleで働いていた者として言うと、Googleがこの10年代になってようやく道徳的な羅針盤を失ったと主張するのは完全に滑稽だ
ましてこの人が入社した2017年にGoogleが道徳的羅針盤を持っていたことを示唆するなんて話にならない
まったくの冗談で、少し自己省察したほうがいい
ここでの否定的な空気が理解できない
彼はセキュリティ分野のトップクラスの専門家で、Androidプラットフォームのセキュリティを率いる仕事は多くの人に非常に大きな良い影響を与える機会だった。実際に彼は10年間そうしてきた
人はさまざまな相反する要素を天秤にかける。最初は、興味深く研究志向のアイデアをAndroidに適用しようという高い志があったのかもしれないし、今ではその多くを実現できたのかもしれない。だから今は別の要素を考慮しているのかもしれない
人が金のためだけに動くとか、個人資産がある基準を超えたから決断したのだと推測するのはひどい。特にその人を知らないならなおさらだ
自分が知るほとんどすべての学者は、個人的な好奇心、知的野心、問題を見つけて解決しようとする必要、前向きに貢献したいという強い欲求によって動いている。自分も学者で、Reneを知っており、彼についてもそれが当てはまると信じている
その人が自分の仕事で金を稼いだなら、それは良いことだ
これでもう自分は少数派ではない気がする。このスレッド全体の態度は「否定的」かもしれないが、ずっと現実的で率直な真実を含んでいる
いつものように付け加えると、この人はGoogleから支払われた金を全部返すべきだ。もちろん、こういう敬虔な文章の歴史の中でそんなことは一度も起きたことがなく、だからこそミームは続いていく
みんな、自分の道徳的羅針盤に合わせて、Googleがいつ道徳的羅針盤を失ったのか好き勝手な日付を出しているように見える
その流れで言えば、BrinとPageが、PageRankは広告と結びつけば消費者に決して利益をもたらさないという論文を出し、その後でPageRankベースの広告会社を始めた瞬間にGoogleは悪になったと自分は感じる
Googleの事業全体は、最高経営陣が道徳的羅針盤を捨てたことの上に成り立っている
Sergey BrinとLarry Pageは「広告で資金を賄う検索エンジンは本質的に広告主寄りに偏り、消費者のニーズから遠ざかるだろう」と書いていた。それでも結局、広告事業に乗り出した