- 新しいソーシャルプラットフォームは、既存の問題を直すと言って出発しても、ベンチャー資金と成長圧力を受けた瞬間、つながりよりもエンゲージメントを最適化する構造に閉じ込められる
- Circliqはオフラインの集まりとコミュニティを通じて現実のつながりを作ろうとしたが、拡大と投資の論理は結局、既存のソーシャルメディアと同じインセンティブを要求すると見なした
- BeReal、Instagram、Twitterは、真正性・写真共有・近況アップデートから始まったが、デイリーアクティブユーザーと感情的反応を増やす方向へ変わった
- 個人のデジタルデトックスやスクリーンタイム制限だけでは、TikTok、Instagram、Xが使うA/Bテスト、行動心理学、機械学習ベースの設計に対抗するのは難しい
- 解決策は、また別のアプリではなく、広告・ベンチャー型の成長モデルを変え、サブスクリプション・協同組合・公共財型の資金調達とアルゴリズムの透明性を通じて、ルールそのものを変えることにある
新しいソーシャルプラットフォームが繰り返す道筋
- 新しいソーシャルプラットフォームは、既存プラットフォームの問題を解決するとして登場するが、たいてい同じ道筋をたどる
- 純粋な意図から始まる
- ベンチャー資金を受ける
- 成長圧力を受ける
- アルゴリズム操作でエンゲージメントを増やす
- 結局、当初の目的が損なわれる
- BeRealは真正性を、Clubhouseは親密さを約束したが、どちらのサービスも同じ構造的圧力から自由ではなかった
- 問題の核心は、新しいアプリ1つで直せる欠陥ではなく、ユーザーの関心と関係に値札を付ける経済構造にある
Circliqが止まった理由
- Circliqは、終わりのないフィードの代わりに現実世界を、アルゴリズム操作の代わりにオフラインのつながりを、依存の代わりに本物の関係を目指したソーシャルプラットフォームだった
- 投資家が、拡大の方法、イベント数、ユーザーの視線を最大限増やす方法を問い始めると、サービスも既存のソーシャルメディアと同じ問いに閉じ込められた
- 資本を調達していたなら、Circliqも同じパターンに入っていた可能性が高い
- より多くのユーザーとより多くのイベントが必要になる
- 成長指標が中心的な目標になる
- 結局、問題の解決者ではなく、問題の一部になり得る
「つながり」から「抽出」へ変わる段階
- ソーシャルプラットフォームの変質は、創業者が悪いからでもユーザーが弱いからでもなく、インセンティブ構造が結果をほぼ決めてしまうために起きる
- 繰り返される進行段階は次のとおり
- 純粋な意図: 人をつなぎ、本物の瞬間を共有し、コミュニティを作ろうとする
- 成長命令: 投資を受けるにはユーザーが必要で、追加投資を受けるには指数関数的な成長が必要になる
- エンゲージメント最適化: 成長はエンゲージメントを求め、エンゲージメントはユーザーをプラットフォームに長く留めなければならない
- アルゴリズム操作: 怒り、嫉妬、恐怖、憤激のような強い感情的反応を引き起こすコンテンツがより多く露出する
- 完全な不一致: 人をつなぐという当初の使命が、収益のための感情操作と孤立したスクロールに変わる
- BeRealはフィルターなしの同時写真共有で真正性を約束したが、ベンチャー資金とスケール拡大の後には、「真正性」よりもデイリーアクティブユーザーと四半期指標が重要になった
- Instagramは友人同士で写真を共有するシンプルなアプリとして始まったが、Facebookに10億ドルで買収された後、時系列フィードはエンゲージメント最適化アルゴリズムに置き換えられた
- Twitterは140字の近況アップデートから出発したが、強い感情的反応を生むコンテンツを増幅し、バイラルな発言を広めるプラットフォームに変わった
個人の意志だけでは不十分な理由
- デジタルデトックス、スクリーンタイム制限、意志力、アプリブロックアプリは、システムの問題を個人レベルで解決しようとする方法に近い
- 主要なソーシャルプラットフォームは、行動心理学者のチーム、何千ものA/Bテスト、機械学習を使って心理的な脆弱性を見つける
- 断続的で変動する報酬は、スロットマシンのように継続的な報酬よりも依存性が高く、プラットフォーム設計に活用される
- TikTok、Instagram、Xは中立的なツールというより、ユーザーを捕まえておくために設計されたスロットマシンに近い
- 引っ張って更新
- いいねタブ
- 終わりのないスクロール
- ランダム報酬
- コルチゾールを刺激するタイミングの通知
- Z世代のうつと不安は、スマートフォンとソーシャルアプリが2012年前後に爆発的に普及した後、急増した
- 人間は、あらゆる災害をリアルタイムで消費し、何百もの作り込まれたアバターと自分を比べ、24時間つながった状態で生きるようには作られていない
機能し得る構造的解決策
- 個人向けの解決策だけでは十分ではないため、ソーシャルプラットフォームの資金調達とルールを変えるシステム的解決策が必要である
- 可能な解決策は4つに整理される
- 別の資金調達方式: ベンチャー投資と広告ベースの成長マシンではなく、ユーティリティや公共財のように資金を調達する方式
- サブスクリプションモデル、協同組合、公共資金調達は、エンゲージメント指標よりもユーザーのウェルビーイングを優先できる
- Wikipediaは寄付ベースの協同モデルの例である
- こうしたモデルは存在するが、ベンチャーが求める速度では拡大しない
- 規制されたアルゴリズム: 依存性と有害性のためにタバコ会社を規制するように、アルゴリズムの透明性やユーザーの制御権を通じて、依存的な設計を減らせる
- EUのDigital Services Actは、大型プラットフォームにアルゴリズムの透明性を求めている
- 構造的分離: 広告で稼ぐプラットフォームが、社会的相互作用の設計まで担わないよう分離できる
- 代替指標: デイリーアクティブユーザーやプラットフォーム滞在時間ではなく、ユーザーのウェルビーイング、関係の質、現実世界でのつながりを基準に評価できる
- より深い問題は、人間関係を収益のために設計されたシステムに委ねてしまったことにある
- 本物のつながりは、データにならない会話、スケールしない関係、エンゲージメント最適化が不可能な瞬間に起こる
- 目標は、より良いソーシャルメディアではなく、ソーシャルメディアの必要性が下がるシステムなのかもしれない
- 現在のソーシャルプラットフォームは、人々を大陸を越えてつなぎ、運動を組織し、必要な声を増幅するという肯定的な役割も果たしてきた
- しかし、つながりよりエンゲージメント、ユーザーのウェルビーイングより滞在時間、本物の関係より抽出を最適化した瞬間から、方向がずれた
- 依存を収益化し、本物のつながりを難しくする経済モデルを変えなければ、ソーシャルメディアを直そうとする試みもまた、問題の一部になる
1件のコメント
Hacker News のコメント
ベンチャーキャピタル業界に数年身を置いてみて、外部投資こそが企業の道徳性を失わせる最大の理由だという確信がだんだん強くなった
株主を代表しなければならないという法的義務が道徳性をむしばみ、会社を運営する人たちが株主に縛られて自分で判断できないと感じると、依存症研究を警告ではなく手引書のように使うようになる
もちろん、YC と歴史的につながりのあるフォーラムに書く話なのでニュアンスはあるだろうが、外部投資と依存を生む設計の間には、かなり太い線がある
現政権で補助金やセーフティネットが削られ、リスクテイクを後押ししにくくなり、会社を始めたり成長させたりする最速の道が資金調達になる状況も残念だ。オープンソースに寄付するほうがいいと思う
そういう考え方では、私たちが「私たちの製品」と呼ぶものには関心がなくなり、実際の製品である会社を太らせるための餌としてしか見なくなる。できるだけ太らせたあと、いちばん大きな屠畜場に売ろうというわけだ
これはほぼ即座に始まり、シリーズAでさえエグジット計画なしには受けにくい
エグジット計画の存在そのものがユーザーを損なうのだと感じる。誰もユーザーを気にせず、会社を太らせて見栄えをよくすることだけに集中する。その結果、長期的な持続可能性はまったく考えず、できるだけ早く太らせようとしてジャンクフードばかり与えることになる
テック業界には、エンドユーザーに本当に良いものを届けることに再び集中してほしい。まともな生計はまだ立てられるだろうが、今見られるような狂ったレベルのリターンではないかもしれない
短期的な利益だけに排他的に集中することが法的にも道徳的にも倫理的にも求められている、という考えとは闘わなければならない。実際には反社会的で、明らかに破壊的だ
会社に100万ドルと200万ドルの買収提案が同時に来て、取締役会が賄賂を受け取って100万ドルの提案を選んだなら問題になり得る。それ以外ではほとんど出てこない
株主がこの義務を根拠に、取締役会や経営陣に対して自分たちの意向を通すことに成功した判例を、ひとつでも探してみればいい。論理的にもあまり筋が通らない。買収事例を除けば、会社のほぼどんな行動にも株主利益のためだという正当化を付けられる
たとえばアプリをあまりに中毒的にすれば、社会的反発や政府規制を招いて株主に損害を与えると言えるし、この義務には特定の時間軸もない
取締役会や経営陣が投資家を喜ばせようとすることはあり得るが、それは法的義務のためではない。株主利益を無視した役員は、有能な創業者としての評判、解雇リスク、自分の持ち分の価値下落を心配することはあっても、法的リスクにさらされているわけではない
もっとも巧妙な例として Mozilla を見ればいい。プライバシー中心の製品で人々を引き寄せたあと、ミッションステートメントからプライバシーへの注力を文字どおり削除し、「屠殺」を始めた
Craigslist は、規模があっても可能だという証拠だ。ただ、そうした手段と道徳性をあわせ持つ人が、今ではあまりに少ない。ソドムとゴモラの寓話は、こうしたことを放置すれば社会が自ら崩壊するという警告だ
外部投資がこうしたことを強く加速し得るという点には同意する。創業者が責任を外部化できるようにするからだ
だが主な理由ではない。搾取的な会社は、ベンチャーキャピタルが発明されるずっと前から存在していた。結局、すべての会社は金を稼ぐために存在するので本質的に非道徳的であり、だから会社が社会を過度に害しないよう、市場を規制する国家が必要になる
その創業者たちは邪悪なベンチャーキャピタルに堕落させられたのではなく、そもそも道徳性がそれほど強くなかったのだ
[1] https://www.vox.com/2018/6/13/17449118/stanford-prison-exper...
問題はもっと根本的です。収益モデルが利用量に結び付いているなら、当然ユーザーの利益よりも利用量の最大化を追求するようになります。報酬関数がプロダクトの利用量に接続されているなら、変わりようがありません
自動車と対比してみると、自動車会社の収益モデルは、私がどれだけ多く運転するかには依存しておらず、私が買うほど有用だと感じればよいだけです。ジムは逆に回ることもあります。私が使わないほど儲かり、ただ退会さえしなければいいのです
Microsoft OfficeやMario Kartは私を依存させる必要はなく、ソフトウェアを買わせればよいだけです。サブスクリプションモデルのPhotoshopも、依存戦略を追求する理由はありません。お金を払い続けるだけの有用さを作れば十分で、その意味ではジムに近いかもしれません
依存が必要なプロダクトは、無料で使われる一方で提供コストがかかるものです。さまざまな面で、ソーシャルメディアや多くのサービスを無料で期待し、広告で費用を賄わせるようにした私たちにも責任があります
ダークパターンのないソーシャルメディアを作って月額購読料を取ることはできるでしょうが、どれだけの人がお金を払うかは疑問です。ほぼゼロに近く、失敗する可能性が高いと思います。それでも私はおそらく払うでしょうし、そうなるとかなり孤独でしょう
個人的には、解決策は単純ですがかなり強制的なので、政治的反発のため実行は難しいと思います。すべてのターゲティング広告を禁止することです
デジタルプラットフォーム上で広告を回し続けることはできても、広告を選ぶヒューリスティックの結果は、セッションデータ、IPアドレス、時間帯、国、過去の視聴履歴など、ユーザーから派生したデータとは独立していなければなりません
共同創業者たちと初日から下した決定の中で最もありがたく思っているのは、1) 利用量に依存しない収益モデルを持つこと、2) 利用量を目標にしないことでした
私たちが扱う市場は、子どもにスマートフォンやソーシャルメディアの代わりに画面のない代替手段を与えたい親たちなので、少し特殊ではあります。それでもこの経験のおかげで、他の収益モデルも依存的でないソーシャルプロダクトが繁栄する道を開けるという希望を持つようになりました
この程度の価格なら、貧しい国の多くの人でも払えます。よく設計されていて、ユーザーに何かをできる力を与えるものなら、人々は他のものにお金を払うように、こうしたものにもお金を払うでしょう
[1] https://news.ycombinator.com/item?id=38117385
私もお金を払うつもりがあります。データをAI農場に売ったり、絶えず私の視線を奪おうとしたりしない、まともなオンラインの人間コミュニティを積極的に探しています
残念ながら、かつて家のように思っていた多くの場所をソーシャルメディアが食い尽くしてしまいました
従業員20人で、人間のモデレーターまでいます。有料モデルのMetafilterもあります[2]
[1] https://www.washingtonpost.com/technology/2024/08/10/front-p...
[2] https://www.metafilter.com/
私たちは考えすぎているのではないでしょうか？
古くからある専門サイトは今も生きていて、サイト全体のテーマやカテゴリ、議論があります
半農村地域で少し食べ物を育てている身として、permies.comを楽しく見ています。毎日ボランティアが季節や最近の関心事に合わせて新しい質問を投稿したり、関連するトピックを再掲したりします
しかし彼らは10億ドルどころか100万ドルを稼ごうともしていません。だから良いのです
資金集めは本、カード、教育動画を売ることで行い、自虐的なパロディ風の、押しつけがましくない「小さな広告」もあります
小さいことは美しいと思います。現在のインターネットは、私たちの時間、データ、プライバシー、友人をむしり取ろうとする邪悪な爬虫類たちに支配されています。「邪悪になるな」は死に、消え去りました
時計を30年前に戻せばよいのです。私はそうしましたし、幸せです
インターネットの終わりない新しいゴミのフィードから離れる時間であり、対面の人間関係も生まれて、さらに現実感を与えてくれます。2つの活動のおかげで、性格、背景、人生経験が多様な友人もたくさんできました
必ずしも30年前に戻るということではなく、画面なしでも楽しめる数多くの別の活動を見つけることに近いです
どちらの活動も、心がよそに行っているとうまくできません。「今ここにいる」必要があります。テニスはきちんと打とうとすると技術的に難しく、インラインスケートは一瞬でも周囲から目と心を離すと体を痛める可能性があります
そうした現在性や単一の集中は、頭の中に積もった多くのノイズを消してくれます。そして、自分の意図が操作されて、もともと行こうとしていた道から外れることもありません
Addiction by Designをおすすめします。ギャンブル産業における依存設計の力学を扱った優れた本で、今日のスマートフォン／インターネットの世界で見られるものと非常によく似ています
以前この本を勧めてくれた、今では忘れてしまったHNユーザーに感謝しています。ここ数年で読んだ本の中でも、最も良く、核心を突いた本の1つでした
ほとんどのゴルフサイトのように搾取的ではないゴルフWikiを作ろうとして、ほとんど疲れ果てるほど試みていることを思い出す。
投資を受けずにブートストラップでやろうとすると大変だが必要なことで、ごく低コストで運営しなければならない。もどかしいのは、あらゆるネットワークではフライホイールがすべてだという点。
プロダクトが人々のスマートフォンに入れば価値はすぐ見えるが、そのアプリをスマートフォンに入れてもらうには、人が来るだけの価値を作るための多額の資金が必要になる。
だからベンチャーキャピタルの資金はそれほど有害で、mastodon、lemmy、pixelfed のようなプロジェクトは立ち上がりにくい。核心はほとんど常にプロダクトではなくネットワークそのもの。
10年かかっても、ゆっくり着実に続けてみるつもり。失敗しても正直かまわない。ゴルフ場建築に関心のある人たちは、自分たちが愛するコースについて語れる場所を求めていると分かっているから。
https://golfcourse.wiki
小規模なサマーキャンプのカウンセラーをしている友人と話したところ、キャンプの子ども約35人のうち4人が、デバイスから離れていられず帰ったと言っていた。
依存への入口で働く間欠強化の力は、恐ろしいほど強い。
私たち自身と将来世代を、これに対して免疫化する方法はあるのだろうか。
筆者は、ゲームそのものを変える支援を解決策として挙げている。流行している「ドーパミン断食」や、週に一度のスクリーンなしの時間は道具になり得る。間欠強化についての教育を増やしたり、アプリを対象にした D.A.R.E. のようなプログラムもあり得そうだ。冗談交じりの言い方だが、完全に冗談でもない。
技術プロダクトでは、風変わりなギークが机の下の古いコンピュータで活発なフォーラムを運営できるし、気概のある若い「共同創業者」2人が無から会社を作ることもできる。HN もかつては[0]、単一サーバー上の単一プロセスで技術文化全体を揺さぶることができた。ならば、成長しないという選択も可能ではないだろうか。
大規模言語モデルの時代には、信頼できるプロダクトを作るために以前より多くの資本が必要なのは確かだ。それでも供給側は攻撃的な価格設定をしているし、後で値上げしようとしても、昨年の最高水準より優れた基盤モデルの半分はオープンソースだ。
大きなお金を扱い、大きなお金を探せば、そのゲームに引き込もうとする大金はたくさん漂っている。だが、ただ良くて人間的な規模の小さな何かを作りたいだけなら、今ほど良い時代があるだろうか。
数十億ドルへの道には、傭兵のように金を搾り取る行動が必要になるかもしれないが、成長圧力が避けられない自然法則だという意味ではない。
Small Web 周辺の人たちは、何かを言い当てている気がしてならない。
[0] https://news.ycombinator.com/item?id=5229522
この記事が示唆しているが、あえて口にしていない解決策は政府規制だ。
「規制されたアルゴリズム：タバコ会社は、製品が依存性を持ち有害であるため規制されている。アルゴリズムの透明性やユーザーによるコントロールの提供は、利点を保ちながら依存的な設計パターンを減らせる可能性がある。EU の Digital Services Act はすでに、大型プラットフォームにアルゴリズムの透明性を求めている。」
人々に批判的に考え、設計されたドーパミンの罠に抵抗する方法を教えるより、Wordpad や Internet Explorer で「AI」を検索している職業官僚に法案を書かせればいい、というわけだね xD
悪役のように描かれる社内心理学者たちは、この問題の原因ではないし、私たちのあらゆる行動を操る止められない力でもない。
今日の意味でのソーシャルネットワークという概念が生まれるずっと前から、インターネットはすでに「依存的」だった。90年代半ばにも、日没から日の出までコンピュータの前に座っていたし、同じことをしている人を何百人も知っていた。
現代的な資本構造に先立つ掲示板、IRC、AIM、ICQ、MMORPG のような初期のオンライン空間にも、すでに「依存」していた。
Larry Wall の trn プログラムでニュースグループを読むのに依存していた。
trn では、新しい画面いっぱいのテキストを表示するのは非常に簡単だが、3画面前に読んでいた場所へ戻るのは難しかった。同じメッセージの中にまだいるなら3回上にスクロールすればよいが、そうでない場合は大変で、それが振り返りを妨げていた。
そうすると、次のドーパミン報酬、つまり何かを教えてくれる次のテキスト片を探し続けない理由が減っていく。
重要なのは、trn もニュースグループも、いかなる形でもベンチャーキャピタルから資金を受けていなかったという点だ。非VCのスタートアップや企業も関与していなかった。
1991年にニュースグループを見始めたとき、そのソフトウェアは完全にボランティアによって設計、実装、運用されていた。これらのボランティアは主に技術企業、大学、政府研究所で働いていたが、それは当時インターネット接続を主に職場経由で得ていたからであり、ニュースグループへの参加が雇用主の業務評価に反映されるわけではなかった。
したがって、ベンチャーキャピタルが問題のすべてではない。利益動機ですら、問題のすべてではない。この問題は、趣味やコミュニティ上の理由でオープンソースライセンスの下に配布されたプログラムでも起こり得る。