- Eric Schmidtのスピーチの核心は、AIへのやじよりも、インターネットの副作用を認めながらも 責任の所在 をぼかす表現にある
- Google経営陣としての在任期間は、広告、データ収集、行動操作、A/Bテストのような インターネットのビジネスモデル が定着した時期と重なる
- 「同じ道具」が良いことにも悪いことにも使われたという枠組みは、ダークパターン を設計された構造ではなく副産物のように見せてしまう
- 学生たちにAIの意思決定の部屋に入るよう勧めながらも、以前の技術で何が間違っていたのかという 失敗分析 は欠けている
- AIがインターネットと同じ道をたどらないためには、過去の悪い部分が自然発生したのではなく、人々が 構築した結果 だったことを認めなければならない
卒業式スピーチでぼかされた責任
- Eric SchmidtのUniversity of Arizonaでの卒業式スピーチは、AIに関する発言がやじを浴びた場面で知られているが、より重要なのは インターネットの副作用 を認めた前半にある
- Schmidtは、地球上のすべての人をつなぎ、世界の情報を提供することが、知識の民主化、貧困の緩和、そしてより賢く親切な社会につながると信じていたと語る
- 同時に、同じ道具が人々を孤立させ、誰もが声を持てるようにしたプラットフォームが 公共の言論空間 を損ない、怒りに報酬を与え、最悪の本能を増幅して、互いに話し接するやり方を荒々しいものにしたとも認める
- 民主主義を分極化させ、若い世代を不安にさせる技術を作ろうとした人はいなかったのであり、「それは私たちの計画ではなかったが、そうなってしまった」という言い方をしている
- 良い結果を期待した部分は能動的に語る一方で、悪い結果は「起きてしまった」という受動的な表現で処理し、責任がどこにあるのかを曖昧にしている
Google経営陣としての立場
- Schmidtは2001年から2017年までGoogleのCEOおよびその他の経営職を務めており、この時期はインターネットビジネスのダークパターンが開発され、業界に定着した時期と重なる
- Googleは、広告、データ収集、ユーザー行動の操作、あらゆるものをA/Bテストする手法といった インターネットのビジネスモデル を主導した企業として扱われている
- Steve Wozniakが初期のAppleコンピュータを作っていた時代について、閉じたエコシステムや機器の統制を意図していなかったと言うなら誠実に聞こえるかもしれないが、Schmidtに同じ距離感を当てはめるのは難しい
- Schmidtが自分を検索エンジンという「道具」を作った人としてのみ捉え、広告会社、データ収集会社、行動修正やダークパターンの層と切り離して考える態度が問題として提起されている
- 「同じ道具」が肯定的なXにも否定的なYにも使われたという枠組みは、悪い結果を設計・構築された構造ではなく、高尚な目的の副産物のように見せてしまう
AI発言と学生たちのやじ
- スピーチ後半でSchmidtは学生たちに対し、AIに関する決定が下される部屋に入り、自分の声を届け、人間的な価値と判断を持ち込んでほしいと語る
- 技術はそれ自体では単なる 道具 であり、何を最適化するかは人が決めるべきで、学生たちの生涯においてその「誰か」は学生たち自身になるだろうと述べる
- 「自由」「開かれた議論」「意見の異なる人々とともに生きる、遅くて雑然としているが美しいプロジェクト」「平等」「多様な視点」を選べというメッセージが続く
- 学生たちは以前の世代のように技術の別の姿を経験したことがなく、所有できず、データが他人に保管され、行動が追跡され、データが売られ、広告の対象にされる ダークパターンの技術 しか知らない
- そうした学生たちに、過去の中核的な意思決定者が次の技術の波に熱心に参加するよう語りかける場面は、単にAIが嫌いだからやじを飛ばした事件よりも、はるかに複雑な意味を持っている
欠けているのは謝罪と失敗分析
- Schmidtは、過去の悪い結果が自らの在任期間と意思決定の空間で起きたことは認めつつも、なぜ失敗したのかについての 省察 を示していない
- 有用な道具の上に悪い技術的・事業的な層が作られるのをなぜ許したのか、なぜ防げなかったのか、どの部分で責任を負うべきなのかについての説明が欠けている
- 学生たちにとって本当に価値のある助言は、新しい技術の部屋に入れという話ではなく、以前の技術で何が間違っていて、どのような決定がそうした結果を生んだのかという具体的な分析だった
- AIへの恐れは抽象的な技術そのものではなく、Silicon Valleyの意思決定者たちが以前の新技術を任されたときにダークパターン版を構築したという記憶から生まれている
- 過去に対する謝罪、責任の認定、反復を避ける方法がないまま「そうなってしまった」という受動表現だけが残れば、AIもインターネットと同じ方向へ進むのではないかという不信が強まる
次の反復を防ぐための条件
- インターネットの悪い部分は、道具が大衆に解放されたあと自然に生まれたのではなく、人々が実際に 悪い部分を構築した 結果だと整理される
- AIがインターネットと同じ道をたどらないようにするには、なぜそうなったのか、どのような意思決定がそうした結果につながったのかを認めなければならない
- 次世代のSchmidtたちだけでなく、今なおSilicon ValleyやWashington DCで影響力を持つSchmidtのような人物たちにも、過去の決定が現在の技術環境を形作ったという点を納得させる必要がある
- 責任ある立場の人々による認定と省察がなければ、次の技術でも同じビジネスモデルとダークパターンが繰り返される危険がある
- 次はもっと良くしなければならないという結論は、技術楽観主義ではなく、過去の失敗を責任を持って扱う姿勢から出発する
厳選された技術トピックを続けて受け取りたいですか？
Telegramチャンネルをフォローしてください。 @GeekNewsJP
1件のコメント
Lobste.rsの意見
文章で読みたい人向けに書き起こしがある
見る価値があった。Caseyはもともと頭の切れる人だけど、今回のテーマは彼が普段扱っている技術の話よりもずっと重いテーマだった
Schmidtは学生たちに「技術についての決定が下される部屋に人間性を持ち込め」といったことを言っているが、聞こえはもっともらしい。だが今の状況を見ると、AIのように皆に影響する技術的な決定は別の人たちが下していて、肝心のその他の人々はその部屋にまったくいないように見える
文中でも指摘されているように、突然語り口が完全に受動態へ切り替わる箇所が核心だ。「私たちがこれを作り、悪い結果が出て、それは私たちの責任だった」とも、「私たちがひどい過ちを犯した」とも、「私たちがこのように失敗した」とも言わない
Joseph Weizenbaumも1976年の『Computer Power And Human Reason』ですでに同じ問題を指摘していた。上級管理職でさえ、自分たちを、自分では責任も理解もしていない技術の無垢な被害者として描き、「悲劇には行為はあったが行為者はいなかった」とでもいうように責任が消えていく。技術的・政治的・社会的必然性という神話は、良心を麻痺させ、現実に存在する行為者たちの肩から責任を軽くする強力な鎮静剤のように機能する
「システムが責任を負うのであって、人ではない」といった言い回しが繰り返され、私たちがそんな未来を望むのかと問うことさえ消えてしまう。ただそれは近づいてきており、止められず、元に戻すこともできない、という態度だけが残る
ぞっとする内容だったが、自分の不安をうまく捉えていた。私はこの時代のインターネットの申し子の一人なので、この動画はその感覚に名前を与えてくれたように感じた
Caseyは自分を少し低く見積もりすぎた。とてもよくできた動画で、あのスピーチの主要な場面を見たときに自分が感じた反応ともよく一致していた
それに、I Think You Should Leaveを引用したことも笑えた。ここには「みんなでこの件をやった犯人が誰かを探してるんです」みたいな空気が多すぎる
「私たちはよりよい世界を作りたかっただけなのに、成り行きで悪いことが起きてしまった」というような態度は、本当に多くのことを露呈している。Eric Schmidtは文字通り偽善的で、行動によって害を及ぼしてきた多くの人々と同じように、自分の行動を正当化している
もう一つ重要な軸は世代の問題だ。Schmidtの世代は政治的・経済的権力を過度に握っている。今の若者たちは愚かではなく、何が起きているのかを見ている。自分たちの人生が年長者に支配され、しかもその人たちは若い世代に雇用不安、経済的困難、ディストピア的な技術、環境危機を引き受けろと言う。そしてそのすべてが「ただ起きただけだ」と言うが、誰もが、その状況を作り出したのが彼らだとわかっている。学生たちがブーイングするのも当然だ。私でもそうしただろう