- Hingeのboosts体験をきっかけに、日常的なサービスが心理テクニックとアルゴリズムによって、あらゆる相互作用からより多くの価値を引き出す構造を批判している
- チップ画面、Uberのアルゴリズム、コーヒーの購入、デート、配車、友人間の送金に至るまで、仲介者が入り込み、ユーザーに少しずつさらなる圧力をかけている
- 市場が操作に疲れたユーザーを保護するだろうという期待とは裏腹に、企業はダッシュボードとAIで顧客生涯価値をより精緻に最適化している
- エンゲージメントを最大化しなければ競争に負けるRed Queen’s raceが起こり、社会関係資本や価値までもがMolochに消費される
- 広告、価格差別、ビッグデータ・機械学習・心理学を用いた大規模な操作は正当化しがたく、現代資本主義はwireheadingに近づいていると見る
日常的なサービスが価値を抽出する方法
- Hingeに登録した後に接したboostsが問題の出発点となっている
- チップ画面、Uberのアルゴリズム、さまざまなゼロサムな相互作用は、心理テクニックによって社会のあらゆる瞬間から少しずつ多くの価値を引き出す事例へとつながる
- コーヒーの購入、デート、配車、友人への送金といった普通の社会活動にも仲介者が生まれている
- この仲介者は最新のAIアルゴリズムでユーザーからさらに多くを搾り取る役割を担う
- ユーザーが操作されていると感じれば市場が是正するだろうという期待は薄い
- 企業はダッシュボードでこうした反応を先に把握する
- AIを調整して、人々があまり操作されていないと感じるようにできる
- 目標は短期的な抽出を超えて、顧客生涯価値の最大化にある
競争と改革可能性への懐疑
- 競争から抜け出すことも難しい
- 競合事業を運営するにはエンゲージメント指標を最大化しなければならない
- すべての指標が目標となり、エンゲージメントを最大化しなければエンゲージメントを失うRed Queen’s raceになる
- 社会関係資本や価値までもがMolochに捧げられる状況へとつながる
- 個人が選択を拒むだけでは解決しにくく、これは集団行動問題に近い
- 民主的改革の可能性にも懐疑的である
- アルゴリズムが自らを消し去る投票を許すのか、という疑問を投げかける
- 投票と行動の分離は、Uberがドライバーへの支払い額と乗客料金を分離する構造になぞらえられる
- 改革はなく革命しかない、という強い表現まで使う
- 金融崩壊、World War 3、大規模な飢饉のような極端な出来事の後でも、大規模な操作を許容できるのかと問いかける
- 広告、価格差別、ビッグデータ・機械学習・心理学を用いた大規模な操作は許容できないと断じる
- 現代資本主義はwireheadingであり、多数の顧客をMolochに食わせたあとでようやくこの教訓を学ぶことになるだろうと見る
1件のコメント
Hacker News の意見
人によっては、お金を多く払って列を飛ばすこと自体が目的です。しかし全員がプレミアムを払うようになると、列がまた自分の前にできることまでは予想していませんでした。
オーストラリアの航空マイレージ利用者はおおむねこういう状況で、以前は参入障壁が高かったため特典がありましたが、FIFO勤務がクラブ等級を一般化させたことで搭乗上の利点はほとんど消え、特典航空券もほぼありません。
なので、地位追求と差別価格の追求が消費者に対して武器化されると、反社会的なパターンだと言えると思います。Uber は、法違反をいとわない人たちに保証までして市場に入り、利益を継続的に海外へ流出させていたので嫌っていましたが、タクシーサービスがあまりにひどくなったおかげで、今では Uber とサージ料金に慣れてしまいました。
オーストラリアで PayWave や飲食サービスにチップ機能が入ってきたことも、皆どこか気味悪く感じています。オーストラリアらしくありません。法定最低賃金と割増手当があるのだから、その機能はオフにすべきです。
欧州で航空券に手荷物込みを義務化しようとする動きにもかなり嘲笑がありますが、清潔な下着が必要だということを軟弱さだと見る筋金入りの信奉者が、いまだにいます。
従業員が低賃金なのは分かりますが、チップを払い始めると賃金はさらに下がり、全員がより悪い状況になるという滑りやすい坂道です。
今はどこでも比較的すぐに車を呼べます。運転手や乗客に対する搾取的な事業慣行は深刻で、より強い規制が必要ですが、昔のやり方に戻りたいとは思いません。
Uber のサージ料金もこちらでは数分の間に 40→50→38ユーロのように大きく動くので、アプリを少し見ていて良い価格のときに捕まえればいいのです。タクシーはほぼ常に 2倍、空港では 3倍まで高く、無礼なことも多く、評価もできないのであまり乗りません。
最近タクシーに乗ったときは、空港まで 10分の距離で Uber が 15ユーロで、実際のタクシー運転手がそのまま 15ユーロ払えばいいと言うので乗りましたが、同じ車の後部座席に乗った別の乗客には 72ユーロを請求していました。10分の運行でほぼ 90ユーロ稼いだことになります。
Uber が嫌いだから使わないというのは、得られるものに比べて生活を不便にしすぎます。タクシー業界には衝撃が必要でしたし、いまだに何も学んでいないように見えます。事前予約が必要で、アプリは出来が悪く、はるかに高いです。2人以上なら電車より安い場合も多く、「できれば電車に乗るべきだ」という国ではかなり妙なことです。
操作されたときに人間が見せる古くからの反応である離脱を過小評価してはいけません。
これは理論ではなく、今起きていることです。デジタルデトックスの流行、若年層でのフィーチャーフォン復活、公開フィードから非公開 DM への移行、「おやすみモード」世代はすべて同じ現象です。人々は操作を感じ取り、通知を一つずつ切りながら抜け出しています。
デジタルデトックスやフィーチャーフォン復活も今や市場になっており、単なる「ライフスタイル」にすぎません。人々は操作を感じていません。操作に気づくことさえ市場になっていて、きっとそれで成功している YouTuber もいるでしょう。
興味深い問いは、プロファイリングアルゴリズムをどこまで欺けるかです。自分ではない何かだと信じ込ませられるのか、どれだけ壊せるのかのほうが重要です。
watch?v=9h9wStdPkQY は言語と内容のためリンクの頭を外しましたが、何をすべきか、たぶん誰の動画なのかも分かるはずです。
「気にしない」は個人レベルでは機能しますが、離脱は集団レベルで機能すべきものに見えます。社会科学の専門家ではありませんが、離脱が前向きな変化につながるには、割れ窓理論と結び付く必要があると思います。問題は、すでに多くの人がその離脱段階にいることです。
皆にとって不快な雰囲気の中で環境は一緒に衰退しますが、誘導された集団的変化は起きません。フィーチャーフォンとデジタルデトックスは例外に近く、実際には受け入れられる基準が体系的に下がっています。さらに悪いのは、それが平等と包摂の名の下に進む一方で、集団間の不均衡はさらに大きくなる点です。
Occupy Wall Street とアラブの春以降、「気にしない」ことが流行になりました。これは企業マーケティングに近い自己最適化、グロースハック、データ駆動型ライフスタイルと対比され、80〜90年代の好景気への郷愁から hyper/super/über のような形態素もよみがえり、新自由主義的な自由市場加速主義と Bitcoin もその流れに合致しました。
「気にしない」は、市民の個性を強調するために注意を奪う既存システムを批判したものでしたが、政治家や企業運営者はこれを、現在の役割の責任より自分のキャリアにより集中することだと誤解しました。ますます接続される世界で、彼らももはや「気にしなく」なったのです。
https://en.wikipedia.org/wiki/Broken_windows_theory
https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...
政府がすべての人に出生時に1,000ドル分のS&P 500口座を開設してやれば、社会保障の財源になるという発想は良い点を突いている。結局そのお金は、最大手企業や、いずれ大きくなると見なされる企業への保証された資金流入となり、公的な現金を民間企業へ再分配するもう一つの方法になる
似た例として、ベーシックインカムは動的でない経済の証拠のように見える。「あなたと家族を養えるまともな仕事はおそらく見つからないだろうから、政府が存在する間は楽に暮らせるようお金を渡そう」という事実上の承認であり認定である
民主化された市場経済には、ベーシックインカムに近い何かが必要だと思うし、スカンジナビア諸国がその主張を裏づけていると思う
ETFはリバランスを行う必要があるため、特定の株を増減させ、ときには除外もする。SPYを買えば、現在の構成銘柄だけでなく、将来組み入れられる企業にもエクスポージャーを持つことになる
ある企業が指数から除外されると、ETFが機械的に動くため株価が大きく下がることがある。「大きい」は相対的だが、先週PLTRがRussell 2000から外れた後にかなり下落したのが一例だ
Georgeの非技術系の文章は概してひらめきに欠けるように見えるので避けがちだが、今回の文章は実際に筋が通っている
もちろん、彼が普段称賛し、つるんでいる人々との関係を振り返る自己省察にまで至ることはないだろうが、少なくとも他の人々は内面を見つめ、違う行動を取れるかもしれない
何かが変わらなければならない。HNでもここ数年、こうした空気が増えているように思う。私がより見えるようになっただけかもしれないが、問題はGrapeの存在そのものというより、それがどこから出てきたのかにあるのかもしれない
著者は自分の製品から始めるべきだ。その製品は少なくとも14日に一度インターネットに接続しないと動作を停止する
https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...
https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
初期のブラウザと現代のインターネットインフラで働き、現在のインターネットを可能にしたハイパースケール・クラウドインフラの構築にも関わった。起きていることのかなり多くに自分の手が届いていて、本気でより良い何かを作っていると感じていた
その後、プロダクトマネージャーという役割が生まれ、自分がやってきたすべてを後悔するようになった
小さな事業を長く運営して実行可能な会社を作り、その後、誘惑に負けてかなり大きなテック企業でプロダクトマネージャーとして働いた。優れた製品を作ることについて自分が知っていたこととはあまりにもかけ離れていたが、小さな会社で「すべて」をやって学んだやり方で仕事を押し進めるにはとても向いていた。成果は多かったが、ほぼ常に燃え尽きと不安に苦しんでいた
非常に人気のあるクラウドやオープンソースソフトウェアにも関わったが、ほとんどは嫌だった。特に、プロダクトマネジメントとプロダクトマネジメント産業複合体がその役割を現実から切り離しながらも、創業者やCレベル、旧世代の愚行を直せと要求するやり方が嫌だった。Miroボードと終わりのないGDocsのコメントスレッドにも疲れた
だから高い報酬まで捨ててプロダクト組織を離れ、再び作る仕事に戻った
同意しないわけではなく、プロダクトマネージャーという役割の台頭について個人的な経験をもっと聞きたいだけだ。ただ、PMとPM中心の文化だけを責めることはできないとも思う。まだ尊敬できる、あるいは受け入れられる行動や意思決定をするリーダーシップチームに出会ったことがなく、もちろん自分に問題がある可能性も大いにある
タイトルは英国の番組That Mitchell and Webb Lookのスケッチに由来する: https://www.youtube.com/watch?v=h242eDB84zY
Dr Deathも現代技術にぴったりの解釈だ
https://m.youtube.com/watch?v=Skl71urqKu0
https://www.youtube.com/watch?v=uRbj1Q4tXNo
外に出て人と話せばいい。デーティングアプリの周りに堀があるわけでもないし、人間はいまでも現実空間に存在している
デーティングアプリの契約書が、見知らぬ人に気軽に声をかけることを禁じている例はまだ見たことがない。仲人もまだいる
こういう文章は一種の人口統計的ヒートマップとして興味深いと思う。以前は geohot のハッキングのように自分の関心事だけを追っていた人が、今では問題を認識し、文章を書くほど動機づけられているということだから。
geohot は私から見ると、その地図のかなり中心に深く入り込んでいる
現代版の村が必要だ。すべての決定を個人主義的かつ自己中心的にだけ行うのではなく、互いの要望や必要に合わせるべきだ。親が間違っていると分かっていても、ときには自分の主張を押し通さないことも必要だ。完全に分断され、取引的な存在になるのではなく、相互依存的な社会を育てる時だ
ただ、この文章で Hotz が表現した感情と同じものを自分も感じてきたし、彼がそれを口にした点は高く評価する
答えは「そうだ」であり、どれほど悪いかへの答えは本当に悪いだ。人間は、生得的な協力がどれほど不可欠で、またどれほど脆弱なのかをこれまで理解してこなかった。
アリのコロニーからフェロモンの道を使う能力を奪ったらどうなるだろうか。
アリのコロニーのフェロモンの道を利用して、一部のアリが他のアリを犠牲にして「利益」を得るようにしたらどうなるだろうか。
アリには自己意識がほとんどないのかもしれないが、そこに意識まで加え、操作されているという事実を知らせたうえで上の2つの実験をやり直したらどうなるだろうか。
人間が使っているような複雑適応系を理解する良い方法は、自分でそのようなシステムを作ってみることだ。John Holland の “Hidden Order” は、その方法についてのヒントを与えてくれる