- 人工知能の脅威とはロボットではなく、権力者が人工知能をどう使うかへの懸念である
- デジタル広告と説得の仕組みは、ユーザー一人ひとりの弱点を把握して操作する方向へ進化している
- 機械学習アルゴリズムは、私たちには理解できない方法で人間の行動を予測し、誘導する
- データ収集とアルゴリズム操作は、政治や社会的影響力の行使に利用されている
- 私たちはデジタルシステムの構造を透明に再設計し、人間の価値を守る方向で技術を発展させなければならない
人工知能と権力：現実的なリスク
- 人工知能に対する本当の恐れは、ターミネーターのようなロボットではなく、権力者が人工知能を利用して人間を統制することである
- **ジョージ・オーウェルの『1984』**のような監視システムが現実になる可能性がある
- 企業は、個人の自由と尊厳を侵害しうる技術を開発している
- Facebook、Google、Amazon、Alibaba、Tencent のような企業は、広告を通じたデータ収集と分析に注力している
デジタル広告と説得構造の進化
- 従来の広告は限られた物理的空間とターゲティングに依存していたが、デジタル世界では個人ごとの最適化された説得が可能である
- インターネット広告は、私たちが見たもの、検索したもの、会話した内容をもとに、どこまでも追いかけてくるパーソナライズ広告を生み出す
- 物理的な世界と違い、デジタル空間では数十億単位の説得構造をリアルタイムで運用できる
機械学習アルゴリズムの力と限界
- 機械学習アルゴリズムは、大量のデータを通じて個人の行動を予測し、操作するために使われる
- プログラマーでさえ、アルゴリズム内部がどのように動作しているのかを完全には理解していない
- データが多いほどアルゴリズムの性能は強力になり、そのため企業はできる限り多くのデータを収集しようとする
ソーシャルメディアと政治的操作
- Facebook と YouTube は、アルゴリズムを通じて政治的傾向を分析し、操作できる
- たとえば Facebook は、非公開掲示板を利用して特定の人口集団にだけ情報を表示させる
- たった1つの投稿でも、数十万人の投票行動を変化させた事例が存在する
- YouTube の推薦アルゴリズムは、ユーザーを過激なコンテンツへ引き込む**「ラビットホール」効果**を生み出す
デジタルシステム再設計の必要性
- 私たちは今、自分がどんな情報を見ているのか、他の人が何を見ているのか分からない状況にある
- アルゴリズムは、民族、政治的傾向、性的指向などの個人的特性を把握できる
- 中国は顔認識技術を利用して監視体制を強化しており、西側諸国も同様のリスクに直面している
- デジタル技術を人間の価値に基づいて再構成し、透明性を確保しなければならない
- 技術、創造性、政治構造に至るまで、包括的な変化が求められる
結論：デジタル技術とともに増大する責任
- デジタルプラットフォームは価値ある道具である一方、個人と社会に深刻な脅威にもなりうる
- 現在のシステムは、私たちが「商品」として取引される構造になっている
- より良い未来のためには、技術の透明性、人間中心の価値、そして創造的かつ政治的な変化が必要である
- 「莫大な潜在力を持つ技術は、莫大なリスクとともにやってくる」という認識を持つべきである
1件のコメント
Hacker Newsの意見
インターネット広告の大半は中身がなく、詐欺的だと感じる
Splendor Song Chalta raheのような広告音楽が好きで、繰り返し聴いている広告を避けるためにSafariでAdBlock ProとAdBlockを使っている
所得格差についてずいぶん不満を言ってきたが、多くのことが説明できる
クッキーを受け入れ、広告を見て、ニュースレターのポップアップを閉じ、広告についての動画を見る
Redditのテレメトリ実装は非常に攻撃的だ
広告ブロッカーが存在するというコメントが多いが、要点を外している
広告を消費する人間をスプーフィングして、広告指標を無意味にする攻撃を始められないか気になる