- 信用スコア、LinkedInの推薦、Uberの評価 などの日常的なアプリは、すでに社会信用システムとして機能している
- 中国の社会信用システム に対する西側の誤解は大きいが、実際には限定的で分散した形で存在している
- 西側社会 では各種の行動スコアリングシステムが構築されつつあり、それらを結ぶインフラも発展している
- 企業と政府の間の データ共有と協業、高い乗り換えコストによって、実質的に離脱しにくくなっている
- 今後、ルールとスコアが より透明になれば、ユーザーもゲームのルールを理解 し、選択できるようになる
すでに存在する「社会信用」システム
- 信用スコア、LinkedInの推薦、Uberの乗客評価、Instagramのエンゲージメント指標、Amazonのレビュー、Airbnbのホストステータス などは、いずれもユーザーの行動を追跡して点数化し、それに応じて アクセス権、機会、社会的地位 を決める社会信用システムである
社会信用という概念の拡張
- もともと 社会信用(social credit) は、消費者の購買力を高めるために産業の利益を分配する経済概念だった
- 現在では、行動を追跡・点数化し、そのスコアによって サービスへのアクセス権や社会的地位 を決めるあらゆるシステムを指すようになっている
私たちがすでに生きている現実
- アルゴリズムが 信頼性、責任感、社会的価値 を評価するたびに、私たちは社会信用システムに参加していることになる
- この評価は目に見えない形で 無数のプラットフォーム 上で行われ、現実の生活全体に適用されている
- 中国との違いは、中国政府がこれを公然と説明する一方で、西側では「ユーザー体験」として偽装して隠していることだ
中国の社会信用: 誤解と実態
- 西側では中国の社会信用システムを 全体主義的な監視 として想像しがちだが、実際には2024年時点で全国的なシステムは存在しない
- 多くの民間スコアリングシステムの廃止や 地方パイロットの終了 により、現在は 金融および企業監督 中心に限定されている
- 個人行動のスコア化 はパイロット都市や限定的な実験にとどまっており、範囲と影響は非常に限られている
- 実際に追跡しているのは、その大半が 裁判所の判決不履行(借金、罰金の未納など) に限られている
西側の現実: 分散したスコア化と接続インフラ
- 信用スコア、Uber、Instagram、LinkedIn、Amazonなど 各プラットフォームごとの行動プロファイル が存在し、それらが サービスへのアクセス、機会、社会的つながり を決定している
- 一部の代替型貸し手は ソーシャルメディアのプロフィール まで信用評価に使用している
- 決済アプリや金融サービス は、ユーザーの支払いパターンや取引行動まで分析し、より包括的なリスクプロファイルを構築している
- LinkedInはアルゴリズムベースの可視性 やネットワーク接続力を評価し、AmazonやInstagramも行動データの活用を強めている
- これらのシステムはまだ完全には統合されていないが、互いに 接続されるためのインフラが徐々に整備 されている
透明性とルール
- 中国では分散型でありながらも 評価基準が公開 される場合が多い
- 西側企業の場合、アルゴリズムの 判断基準は完全なブラックボックス として隠されている
企業 vs. 政府: 本質的な違いと現実
- プラットフォーム移行の高い乗り換えコスト (例: Googleエコシステム、LinkedInのネットワーク)
- 各プラットフォームの行動・信用情報は次第に 相互共有・連携・協業 され、影響力を拡大している
- 政府もまた 法的手続きやデータ購入などを通じて企業データを活用している
社会信用システムが拡大する理由
- 国際的に社会信用システムは、詐欺防止、協力促進、大規模な行動誘導 の問題を解決できるためである
- すでに西側社会も より包括的で統合された行動スコア化 の方向へ進んでいる
- 欧州はデジタルIDとスコア連動 を強化
- 米国の一部都市では行動インセンティブの実験
- 大手プラットフォームは 評判データの共有 を進め、金融サービスはソーシャルメディア分析の導入を拡大している
私たちが迎える未来と選択
- システムが次第に より透明に行動スコアを公開 し、ルールが見えるようになれば、ユーザーは自分のスコアに影響する行動を把握できる
- アルゴリズムベースの推薦が実際には隠れた社会信用評価 なのだとすれば、むしろ評価基準を公開するシステムのほうが望ましいかもしれない
- ルールを理解すれば、ユーザーはゲームに能動的に参加するかどうかを決められる
結論
- 今後、中国型の社会信用システムが徐々に西側プラットフォームへ影響を与え、行動スコアのルールと構造がより公開される方向 に進化する可能性がある
- いまは、このシステムが どのように動くのかを把握 し、自分自身もそのゲームのプレイヤーであると認識する時点に来ている
1件のコメント
Hacker Newsの意見
米国のメディアや言説では、権威主義体制での生活がかなり歪めて描かれていると指摘している。実際には多くの国で、少数者や政治活動家、犯罪者など特別な状況でない限り、日常は西側と大きく変わらないという話である。しかし大半の人はこうした話を聞きたがらない。自分たちはそんな生活を決して我慢しないはずだと信じたいからである。西側諸国でも権威主義化は進んでいるが、人々はそれを実感できないため否認しがちである。もちろん生活が完全に同じではないが、権威主義の影響は思った以上に密かに入り込んでくると感じる
複数の国、さらには戦争地域でも、さまざまな政治体制のもとで暮らした経験を語っている。だが実際の日常はほとんど同じだったという。買い物、出勤、友人と会うこと、一杯飲むこと、外食、結婚式への出席など、生活パターンは実のところ多くの場所で似たように維持されていると述べる。西側で非OECD・非民主主義国家を描く際には誤った優越感を抱かせがちで、実際には同じ問題、すなわち富の集中、貧困、迫害される少数者、形式的な政治参加、危険な警察、腐敗を抱えていると説明する。もちろん各国が完全に同じというわけではなく、政治よりも文化や地理の違いのほうが目立つ
しばらくのあいだ移民、あるいは初心者の外国人として暮らしているうちは、現地の現実はあまり見えてこないと言う。しかし徐々に言語を学び、深く入り込んでいくと、信頼できない家族関係、賄賂と無能さの階層構造、法的保護の欠如、希望のない階級社会のような問題に直面することになる。平時でさえそうなのだから、戦争が始まれば多数派民族が少数者を迫害し、追放する
短期的には似ているかもしれないが、もともと米国へ移住したいと考えていた教育を受けた中間上層の移民が多かった理由を説明している。米国のイノベーション、経済力、軍事力も腐敗が蔓延すれば打撃を受けるため、腐敗、あるいは社会的信頼の問題は緩和すべきだと強調する
少数者や政治活動家、法的問題と無関係な生活が似ているとしても、まさにだからこそ自分は西側の自由主義政府を好むと言う。その理想こそが権威主義政府を批判し、西側でそれを守るために戦うべき価値だと考えている
中国で暮らした経験を語り、一般的な市民であれば日常の大半は問題ないと感じたという。もちろん他のアジアと同様にワークライフバランスの問題はあるが、昔のロシア（ロシア人が書いたあの物語）やGDRのような国家統制が極端な環境ではなかった。ファシズム体制下ですら、「不人気な」少数者に属さず無関心であれば日常は平穏でありうる。ただしそうした生活が成り立つのは、戦争が始まるまでにすぎない
カナダからカリフォルニアへ転職した後に経験した信用システムの問題を語っている。年収が高くても信用スコアがないため家を借りるのが難しく、1年分の家賃を前払いして解決した。カナダから米国へ大金を送金する過程も簡単ではなかった。車を購入する際にも、新しく取得したSSNがシステムに存在しないため本人確認ができないとして、ディーラーが取引を拒否した。しかしAmexの長期顧客履歴は米国でも認められ、高額なクレジットカードの発行は容易だった経験がある。自分たちはすでに企業が運営するソーシャルクレジットシステムの中で生きており、そのほうがむしろ消費者にとって良いことすらあるのではないかと考えている
信用スコアは本来、信用力を測るためのものだが、現実には恣意的にアクセスを遮断する役割を果たすことが多いと見ている
自分も15年前にカナダへ移住したとき、ほぼ同じ経験をしたと説明している。技術業界で働き、借金もなく、十分な貯蓄もあったにもかかわらず、信用履歴がないため長いあいだクレジットカードが発行されず、保証人なしでは賃貸契約もできなかった。複数の国で似たようなことを経験するうちに、実際には多くの共同体が移民に差別的であると気づいた。平等主義は理想的だが、現実には縁故主義と偏見が制度に深く染み込んでいることを実感した
信用スコアは完全に企業が管理している。こうした企業のビジネスモデルが何なのか、さっぱり分からない
Amexはこの種の問題にかなり柔軟に対応してくれると感じる。信用スコアがなくても個人カードを簡単に取得できたが、これは会社ですでにAmexを発行され使っていた履歴が役立ったのだと思う
かなり昔のHNコメントとして、「現実生活にもソーシャルクレジットはある」という意見を共有している。たとえばバーテンダーに無礼を働けばその店での評判は悪くなり、ボランティアになればその団体で評判が積み上がる。アルゴリズムがなくても人は覚えている
望むならいつでも別の町へ移ってやり直すことができる。中央集権的なソーシャルクレジットシステムの問題は、評判が一生つきまとうことだ。もし誤って間違った記録が残っても、救済する方法がない。人と人の間なら直接解決できるが、システムはそうではない
実際のオフライン世界の評判、つまりソーシャルクレジットは、たいてい緩く、局所的で、時間が経てば変化したり消えたりする。一方でデジタルなソーシャルクレジットは、自動化されたスコアとして一生つきまとい、絶対的な結果を強制する
誰かが、バーテンダーは客のことを本当によく覚えていると思っているが、実際には1シフトのあいだにもっとひどい客が何人もいるので、大半は気にも留めていない。非営利団体でも、時間が経てば担当者は入れ替わり、昔のボランティアを覚えている人はいなくなる。ある出来事を過度に重大視してしまうのは「スポットライト効果」のせいだ
オフラインの評判との違いは、あらゆる関係が物理的な場所と現場で起きることだ。相互作用には実質的な価値がなければならない。一つの場所で悪い評判が立っても、別の場所へ移ればついてこない
もともと評判とは一種のソーシャルクレジット概念だったが、現代の違いは規模と透明性にある
中国とその他の国の記録システムの違いを例で説明している
一つの中央権力がソーシャルクレジットを掌握し、その権力から法が個人を守れないなら、本質的な違いがあると強調している。そうでないなら、人々はもともとさまざまな方法で互いを評価してきた
ひとたびソーシャルクレジットの「スコア」を一つの中央権力が握れば、それは単なる社会的フィードバックから構造的権力へと変わってしまう
最近の中国の状況を正確に理解する必要があると強調している。2024年現在でも全国規模の個人信用スコアシステムは存在せず、大半は金融および企業監督のためのツールにとどまっているという話を紹介する。米国では3つの民間信用機関が金融に完全に組み込まれた信用スコアシステムを作っているが、公共の信用スコアが導入されるなら、少なくとも透明性と牽制は可能になるだろうと述べる。EquifaxやExperianなどがデータを流出させてもほとんど責任を負わない現実を批判している
もちろん人は常に他人を評価するが、企業が自分を評価し、それを「サービス」として販売するなら、その違いは非常に大きい
Amazonの例を挙げ、自分の購入・返品比率が他社と共有されているわけではない点を説明している
「中国のソーシャルクレジットとスマホの違いは、中国はやっていることを正直に言っているだけだ」という主張に対し、スマホはいくつも選べるし、使わないことすらできるが、国家のシステムからは完全に逃れること自体が不可能だと反論している。企業システム間の移動コストが高くても、国家間の移動コストに比べればはるかに小さい。民間システム同士の協力が強まりつつあるのも問題になりうるが、国家による全面的な統制とは根本的に異なると考えている。政府が民間データを買い集めて基本的人権を制約するなら、それが本当の危険だが（例: カナダでの抗議デモ寄付口座凍結問題）、単にデータ購入の問題だけではない。最後に、ソーシャルクレジットの定義自体が本質的に何を指すのか論争がある
中国で「酒を買いすぎると点数が下がる」といった話について、最初の中国旅行では未成年だったが何の制止もなく酒を買えた経験を共有している。米国よりずっと緩いと感じたとも述べる。また法律で酒の購入量まで追跡するより、結果、たとえば公共の場での飲酒による問題発生を取り締まるほうが効率的だと感じる
中国人の妻とその家族を持つ経験から、未成年飲酒は中国ではより家族の問題と見なされると説明している。16歳が酔えば、周囲の家族や友人のほうが評判をより気にし、警察が介入するのは最後である。むしろ西側よりも、中国のほうが公共の場での酔った無秩序はずっと少ないと感じる
もしパーティーの準備や特売品の購入のために大量に酒を買っても、無条件に点数が下がるなら不合理である。購入イコール即時消費ではないからだ
すでに中国に似たシステムは西側にも存在するのに、規制はむしろ弱いことを強調している。ソーシャルクレジットは新しい概念ではなく、必ずしもオーウェル的な統制でもない。こうしたシステムが政府や企業によって乱用されるのは、私たちがそれを管理し、規制し、透明性を要求してこなかったから生じる問題だという。こうしたシステムがすでに存在するという現実を受け入れることが、データの収集・保有や政府による私的データ取得に規制が必要だという社会的合意点を見いだす第一歩だとしている。現状は資本にしか利益をもたらさず、民主主義と市民の権利を損なっているため、変化が必要だと力説する
信用や評判システムが自然な市場発展の結果だという観点から、スウェーデンの例を挙げ、かなり前から「信用照会」が非常に一般的であると説明している。最近では企業が消費者の信用スコアを開発し、本人が有料購読しなければ自分のスコアを確認できないようにした現象にも触れている。これは企業が単にリスクとコストを管理し、より効率的な取引のために消費者の価値を確認しようとする動きだという
コミュニティで罵倒やトラブルを起こさずに振る舞う自分のやり方の理由を明かしている。過去のUseNet時代には荒らしや攻撃的な投稿をよくしていたが、それは非常に否定的な経験だった。今では個人的な誠実さと、生産的な社会の一員であるという自分なりの基準に従って行動している。他人の評価や評判よりも、自分自身にとって重要な理由からそうした行動を目指している