- Hinge、Uber などの主要アプリでは、高度化したアルゴリズムと心理的手法が、ユーザーからの利益を最大化する方向で作動している
- 社会の日常的な相互作用のそれぞれにAIベースの仲介者が関与し、追加の利益を引き出す構造を生み出している
- 企業はLifetime Customer Valueの最大化のため、ユーザーの反応に合わせてアルゴリズムを素早く調整する
- 競争で後れを取らないためにはこの流れに乗らざるを得ず、集団的問題とみなすことができる
- データ、機械学習、心理的手法を動員した大規模な操作が日常化しており、根本的な変化なしには改善が難しい
問題提起: アルゴリズムと心理的手法の日常化
- Hinge、Uber などの主要サービスは、ブースト、チップ画面、営業アルゴリズムなどさまざまな手段によって、ユーザーからできる限り利益を引き出す構造になっている
- 日常生活のほぼあらゆる領域に仲介AIが介入し、先端的なAIアルゴリズムによって「もう少し」を引き出すやり方が社会全体に広がっている
- コーヒーを買う、デートをする、友人にお金を送るといった日常的な活動の中で、悪意ある仲介者が自動化され、収益を追求するようになっている
市場の自浄可能性とアルゴリズムの適応
- 多くの人は操作に疲れ、自ら回避するようになると思われがちだが、企業はすでにそれを予測し、データダッシュボードを通じて即座に対応している
- AIは、利用者が不快感を覚える前に感情調整や追加報酬の提供を行い、離脱を防ぐように作動する
競争と集団行動の問題
- こうしたシステムから離れようとしても、競争環境ではすべての事業者が参加しなければ不利になる現象が強まる
- あらゆる**指標(メトリクス)が競争の対象となり、「Red Queen’s Race」**のように後れを取らないため、社会関係資本や価値観までも犠牲にされる
現実の社会構造と変化の難しさ
- 社会全体がこの構造に深く組み込まれており、個人の離脱だけでは根本的な変化を実現しにくい集団行動問題が存在する
- アルゴリズム主導の民主主義では、選択権(投票)さえも実際の変化とかけ離れており、既存構造の中での改革ではなく、**根本的な変化(革命)**こそが実質的な解決策であることを示唆している
結論と問題の本質
- 広告、価格差別、大規模データに基づく操作はいずれも本質的に正しくない
- 現代資本主義は『ワイヤーヘディング(wireheading)』現象のように人間の行動を極端に誘導しており、本質的にこの問題は規模と無差別的操作という新たな水準に達していることを強調している
1件のコメント
Hacker Newsの意見
一部の人にとってはプレミアムを払って列を飛ばすこと自体が目的だった、という状況の説明。しかし、みんながプレミアムを払い始めると結局列はそのまま残る、という現実への言及。こうした現象はオーストラリアの商用航空で目立っており、Fly in Fly out勤務のおかげでクラブ級がありふれ、搭乗優先やポイント航空券もほとんど意味をなさなくなっているという話。要するに、差別的価格設定と地位追求は、消費者相手では社会的に有害なパターンになるという点を強調。Uberが嫌いだった個人的経験や、タクシーサービスが悪化した現実、違法な参入を黙認したUberの事業方式への批判もある。しかし今ではUberがあまりに当たり前になり、料金高騰もあまり気にならなくなった状態だとも認めている。オーストラリアでチップ文化が導入されることへの不快感も表明されており、法で保障された最低賃金とペナルティレートがあるのだから、チップ機能は無効にすべきだという立場。欧州航空で手荷物込みを義務化する議論の例や、清潔な下着を弱さだとからかわれる空気まで、ヨーロッパの独特な文化も説明している
非アメリカ人はチップ文化に対して断固として拒否すべきだという立場。チップを受け取り始めると賃金がさらに下がり、状況がいっそう悪化するという警告とともに、チップそのものを受け取るべきではないと主張
UberやLyftの価格は高いとはいえ、昔のタクシーサービスと比べれば今のほうがはるかに良い点を強調。ニューヨークなど大都市を除けば、昔は電話帳で名前を探して怪しい業者と予約しなければならず、車をつかまえるのも大変だった時代を回想。今ではどこでもアプリですぐ呼べて速度も速い。運転手や乗客を相手にした不公正な商売は明らかに問題ではあるが、それでも昔のやり方に戻りたいとは全く思わないという強調
特にヨーロッパの格安航空会社では、優先搭乗券をほぼ全員が買う現象を体験したという話。以前は追加料金を払って先に進むことに意味があったが、今では優先搭乗の待機列のほうが長いことすらあるという皮肉を強調。Uberの料金高騰時間帯では、アプリの価格変動を少し眺めて安くなった時に取るやり方。タクシー料金はUberの2〜3倍高く、愛想も良くなく、評価機能もないためタクシー利用を避ける傾向がある。実例として、空港までUberより安くタクシーに乗れた経験も共有。タクシー運転手がUber料金と同額の現地決済で乗せてくれた一方、別の乗客には5倍の料金を取っていたという呆れる経験も紹介。Uberを使わないという態度は人生をより面倒にするだけだという結論。ヨーロッパでは2人以上なら電車よりUberのほうが安くなることも多いという話も付け加えている
みんながプレミアムを払い、再び待機列が生まれるなら、市場論者なら結局プレミアム込みの実勢価格が本当の価格になってしまうと主張。列に並ぶコストがもっと高くならないと解決しないという見方を共有
待機列を気にせず、いちばん最後に入る気楽さをむしろ楽しんでいるという見方。プレミアムを払わず、ロビーでのんびり待って列がほとんど消えた頃に入ればよいという個人的態度
技術の発展と操作に対する人間のタイムレスな対応方法は離脱(disengagement)だという主張。これは理論ではなく、すでに起きている現象であり、デジタルデトックス、若年層のダムフォン復活、公開フィードの代わりにプライベートDM、「おやすみモード」世代などの実例に言及。人々は操作を実感し、少しずつオプトアウトしていくという診断
私の離脱値はもう無料では渡さない、という意見。わざとランダムに離脱して、どちら側にも効果を予測できなくさせる戦略を使うという話。ダムフォン流行やデジタルデトックスですら、今や単なる一つのライフスタイル市場になってしまった現実や、操作への認識さえ新たなビジネスの題材になったことを皮肉っている。アルゴリズムをどこまでハックできるか、自分とは違うようにプロファイリングさせられるかという実験的な問いも投げかける
2012年以降、アプリやソーシャルメディアなど、人生を商品化・収益化するサービスを完全に断った経験
企業は今後「離脱収益」を狙うようになるだろうという苦い見通し。YouTubeの watch?v=9h9wStdPkQY（リンクは言及のみ）など参考資料も共有
資本主義から完全に離脱することは不可能だという意見。挙げられたさまざまな離脱行動（デジタルデトックス、ダムフォンなど）は、ただ被害を少し減らす程度であり、本当の搾取から自由になれるわけではないという現実認識
離脱は無関心(nonchalance)とは違い、これが必ずしも良い人間的対応ではないかもしれないという懸念。無関心は個人的態度だが、離脱は集団的効果を目指すものであり、多くの場合は前向きな変化につながらないことを心配している。むしろ共同体の悪化や基準の低下が続き、それが平等や包摂の名のもとで進みながら、実際には二極化が深まっている現実を指摘。『Occupy Wall Street』や『アラブの春』以降、無関心(hyper-individualism)が流行し、政治家や経営陣までも責任感を失って自分のキャリアにより集中するようになった背景を説明。参考として Broken Windows Theory のウィキペディア、The Subtle Art of Not Giving a F*ck
著者が作った製品(openpilot)は、14日ごとにインターネット接続がないと動作が止まる問題があると指摘し、関連コードリンクを共有
Georgeの技術的でない文章はたいてい避けるが、今回は意味があると評価。普段は自己省察が足りず、必要な反省もなされないことが多いが、今回は自己省察を促す機会にできるという話。最近のHNコミュニティでも似た空気が増えていると感じると述べ、変化の必要性への危機感を共有
"Are we the baddies?" というタイトルを見て、個人的役割への省察が出てくるのかと思ったが、そうではなく残念だったと表明
ただ流行を追っているだけの人もいるのではないかという疑問。深い省察なしに表面的に真似しているだけのような文章のニュアンスに言及
geohotがLLMを使ってAdvent of Codeで上位に入った事例に触れ、やや皮肉な反応
参考までに関連ツイートのリンクも残している
「政府が全員に$1000から始まるS&P 500口座を開設すれば社会保障は解決する」という主張を引用し、これは本質的には大企業（またはその系列）への継続的な公的資金流入を保証するだけだと指摘。UBI（ベーシックインカム）も本質的には活力のない経済現象の傍証であり、政府が仕事を提供する代わりに、存在そのものに対する給付を行うことを容認する構造的問題を説明
ベーシックインカム(UBI)について、「存在するだけで快適にしてくれる」ような解釈には同意しないという意見。UBIは最低限の生存を保障し、それ以上の追加所得は自分で稼げる点を強調。スカンディナビア諸国の例を、UBIが必要になる市場経済構造の根拠として提示
S&P 500企業は、株式が買われても実際には資金流入が発生しない構造だと説明
ETF（指数連動ファンド）は更新とリバランスの過程で、特定企業が外れると株価が大きく下落することもある。例として最近PltrがRussel2000指数から除外された後に大きく下がったという事実を共有
インターネットブラウザ、現代的インフラ、ハイパースケールクラウドを構築した経験を共有。最初はより良い何かを作っているという誇りがあったが、Product Managerという役割が生まれてから、すべてを後悔するようになったという話
イギリスのTVショー "That Mitchell and Webb Look" のスケッチがタイトルの元ネタだと明かし、YouTubeリンクを共有
この番組の機知に富んだ風刺力に言及。Dr Death のエピソードも現代科学技術を風刺するのに非常に適していると評価し、関連動画リンク
悲しいが笑える別のエピソードのリンクも推薦
古典的名場面のリンクにも言及
もう公式に年を取ったという冗談
人間の協力性がどれほど本質的で、同時にどれほど脆いのかを、人類はまだきちんと理解したことがないという意見。アリのフェロモン信号を取り除いたらコロニーがどう壊れるか、一部のアリに「利益」を集中させたらシステムがどう変わるかという思考実験を提案。そこに自己意識を持つアリを加えて実験を繰り返したら結果はまた違うだろうという想像も述べる。複雑適応系への理解は、自分で作ってみることで学べるという助言とともに、John Hollandの "Hidden Order" を推薦
GeorgeがNVidia独占に対抗してAMDを試そうとしている姿勢に好感を持つという反応。市場独占の解消を望む態度を前向きに評価
しかしAMDチップを使っている最中、バグのせいで長時間の安定動作が難しく、断念したようだという指摘
成功していて情熱的なGeorge Hotzでさえ恋愛問題では初心者の道を歩いているのを見ると、自分のように突出していない人間はなおさら苦労するしかないという共感混じりの感想
この種の投稿を人口統計学的ヒートマップとして見る視点。今では単に面白さを追っていた、より周縁的な人たち（geohotのハッキングなど）でさえこの問題の深刻さに気づき、公に発言し始めたことを意味するという分析。geohotが現象のまっただ中にいることも示唆
「いつか人々は、自分たちが社会という共同体の中で生きていることに気づかなければならない。何がきっかけになるのだろう？」という問いを引用。社会問題を分散的に指摘できるポッドキャストやSNS環境などを評価しつつ、本当に必要なのは現代的な意味での村の共同体だと主張。行き過ぎた個人主義や自己中心的な判断から離れ、他者の必要や状況に合わせて配慮する関係性の回復が重要だと強調
George Hotzから、ほとんど根源的な反資本主義に近いメッセージを聞くことになるとは思っていなかったが、こうした感情を率直に表現した勇気には拍手を送りたい、と述べている