AIが制度的基盤を破壊する仕組み

• 民主主義の中核制度である法の支配、大学、報道機関は、協力と安定、適応を可能にする構造として説明される
• これらの制度は、権威の階層とルールの枠組みの中で進化と適応を続けることで正当性を維持する
• 透明性・協力・説明責任を基盤とする制度は、個人が知的リスクを引き受け、既存の秩序に挑戦することを支える
• しかし、AIシステムの作動の仕組みが、こうした制度的特性を弱体化・消滅させる方向に働く
• AIは専門性の侵食、意思決定の短縮、人間同士の孤立をもたらし、市民制度の持続可能性を脅かす

---

市民制度の役割と構造

• 法の支配、大学、自由な報道などは、民主的生活の基盤として提示される
  • 複雑な社会において協力と安定、変化への適応を促進するメカニズムとして機能
• 制度の真の力は、権威の階層と役割・ルールの枠組みの中で進化と適応できる能力にある
• 透明性・協力・説明責任を中心とした目的志向の制度は、個人が知的リスクを引き受け、既存の秩序に挑戦することを可能にする
  • この過程は、制度内の人間関係の相互作用を通じて進み、視野の拡大と共同目標へのコミットメント強化につながる

AIシステムが制度に及ぼす影響

• AIシステムの**機能的特性（affordances）**が、制度の中核的属性を持続的に弱める
• AIは専門性の侵食、意思決定プロセスの短縮、人間同士の分断をもたらす
  • これにより、制度の進化・透明性・協力・説明責任が損なわれる
• 現在のAIシステムは、市民制度に対する**「死刑宣告」**と表現される
  • こうしたシステムは、制度の目的と持続可能性を破壊する方向に作動する

結論

• AIシステムは、民主主義を支える中核的な市民制度と両立不可能な構造と位置づけられる
• したがってAIを制度的破壊要因として認識し、警戒すべきである

[GN⁺]

Hacker Newsの意見

• 私は、AIは原因というより、すでに進行していた現象を加速させるメカニズムだと思う
  ソーシャルメディアはすでに人々を孤立させていたが、AIボットがそれをさらに速めている。政治目的の混乱の助長にも使われ、結果として人々をより過激化させている
  大学制度もすでに金儲けの手段になっていたし、人間関係は今も存在している。AIがそれを変えるわけではない
  ただしAIは、批判的思考の欠如を招いている。人々は自分で探究したり創造的に考えたりするより、AIに依存している

  • その意見には同意しない。燃えている落ち葉の山にガソリンを注いだからといって、自分が火を「始めた」わけではないかもしれないが、その火を手に負えなくしたのは確かだ
    AIは、すでにひびの入った構造物に鉄槌を振り下ろす存在のように感じる
  • 「AIは社会の既存の問題を加速させるだけ」というのは、まるで「ヘロイン中毒は社会がすでにやっていたことを少し速くするだけ」と言っているように聞こえる
    触媒そのものが問題であることもある。だからこそ、ソーシャルメディアにもAIにも一定のガードレールが必要だと思う
  • 「火に油を注ぐ」というのが技術的な表現なのだろう。それはたいてい非常に悪いことだ
    AIが状況を悪化させたのなら、その結果として火が制御不能になった責任はAIにある。小さな火種が森全体を焼くのは、結局は油のせいだ
  • 問題の根本は資本主義システムだと思う。あらゆる技術は「数字を伸ばす」ために動員され、外部不経済は税金で処理されるが、実際には政治家を買収するほうが安いからだ
    だから栄養のない食品、無意味な消費、金だけ奪う学校、広告だらけのSNSが生まれる
    今後数年のうちに、株主資本主義が自らを食い尽くす時点が来ると見ている
  • もしボットが社会的混乱をあおっているのなら、それを止めないプラットフォームは共犯だ
    技術的にボットの遮断は難しくない。人間中心の活動のほうがプラットフォームの信頼性やコスト削減に有利なのに放置しているなら、政治勢力との結託を疑わざるを得ない

• 「法の支配、大学、報道が民主主義の土台だ」というのは19世紀には正しかったかもしれないが、今はそうではない
  報道はプロパガンダに満ち、法の支配も政治的利害に左右される。大学も信頼しがたい
  Varsity Bluesスキャンダルを見れば、これが本当に民主主義の柱なのか疑問だ

  • こうした制度の代替はいまのところソーシャルメディアだが、正確性・公正性・好奇心の面でははるかに悪い
    だから私は、むしろAIのほうがより良い代替になり得ると考える。AIと制度は共生関係にあるのかもしれない
  • 逆説的だが、今の制度は歴史上もっとも良い状態なのかもしれない
    昔は知らなかったからこそ、もっと信頼していただけで、今は完璧を求めるあまり「十分に良い」を失っている
    不信は私たちが作った牢獄だ
  • 報道は昔からずっとプロパガンダだった。ただ、過去には代替メディアがなかったので気づかなかっただけだ
    民主主義の利点は、問題を公に議論し解決できる構造にある
  • もしこれがすべて本当なら、では民主主義の新たな土台は何であるべきなのかと問いたい

• 論文のダウンロードリンクはこちら

  • この論文は査読されていない草稿だ。例として挙げられているDOGEやFDAの事例も根拠が弱い
    特にFDAのAI利用への批判は誤った記事に基づいている。実際には製品リコール用に使われている
    結局この論文は、意見書に近い文章だ
  • スペルや句読点の誤りが多すぎて、信頼しにくい
    「AIは社会に有害だ」という主張には共感するが、大衆がなぜAIを使うのかへの理解が足りない
    医療・教育・報道が役割を果たしていないのだから、人々がAIに向かうのは自然なことだ

• 問題はAIではなく、人間の制度における信頼の構造だ
  多くの制度は「聖職者集団」のように権威を前提として維持されてきたが、ゲーム理論以前の時代の設計なので操作に弱い
  いまや人々は制度を神聖な構造物ではなく、壊れ得る構造物として扱っている
  たとえば最近のICEの国外追放キャンペーンは、政治勢力がアメリカ民主主義にSybil攻撃を仕掛けた結果だ
  Sybil attackの説明

  • だとすると、この場合の多数の偽の身元はどこにあるのか気になる

• 私はこうした仮説には懐疑的だ。悪化は原因より先に始まっていることが多い
  ソーシャルメディアやTinderは孤独の原因というより、すでにあった傾向を加速させただけだ
  法の支配、報道、大学のような社会技術も、長い間脆弱性が露呈し悪用されてきた

• 「AIが専門性を侵食する」というタイトルは奇妙だ
  弁護士への相談が30分で500ユーロ、AIがほぼ無料なら、品質が80%でも経済的な選択はAIになる
  AIが社会を変えているのは事実だが、すべての責任をAIに負わせるのは無理がある。制度そのものがすでに健全ではなかった

  • AIが既存の知識構造を解体するからこそ否定的に見る視点がある
    昔は専門家に依存していたが、今は誰もがAIサブスクリプションで知識を得る時代だ
    社会は最大エントロピー状態へ向かっている。こうした状況で価値や合意がどう形成されるのかが疑問だ
  • 私はむしろ、重要な問題であるほど信頼できる助言にお金を払うと思う
    20%間違っている法的助言は、ないより危険だ。問題は弁護士ですらAIに依存し始めるときだ
  • 品質の問題は、失敗の責任が異なることで生じる。弁護士は誤った助言で訴えられるが、AIは免責される

• 結局、弁護士たちが今になってようやく危機感を抱いたように見える。今後10年は、あらゆる知識職がAIに対抗して戦う時期になるだろう

  • 弁護士は単なる生存のためではなく、法の本質的価値を守るためにAIに反対する理由がある
    法は自らを省みながら発展すべきだが、AIは現状を固定化する傾向がある。これは法の精神と衝突する
  • 「12 Angry Agents」とは、気の利いた表現だ
  • 技術が社会を不安定化させるという批判を、陰謀論として片づける態度は問題だ

• 私はすでに制度が致命傷を負っていると感じる
  ソーシャルメディアと無限のコンテンツ消費が報道を弱体化させ、意思決定を麻痺させ、人々を孤立させている

  • 「ソーシャルメディアが人を孤立させる」というのは、doomscrollingのことを指しているのだろう
    実際、SNSはつながりを生みもする。もちろんFacebookは例外かもしれない

• なぜ歯科医に対する制度的不信はないのか？
  1990年代以降、治療はずっと快適になり、生活の質を改善してきたからだ
  一方で他の専門家は、「私たちの言うことを聞けば少しは悪化しない」としか言わない。信頼を得るには、生活を実際に改善しなければならない

  • ただし一部では、歯科医も過剰診療や営業行為によって信頼を失っているという
    私は個人の歯科医院は信頼するが、大手チェーンの歯科は信じがたい
  • 私も歯科医をまったく信頼していない。不必要な施術で金を取ろうとするケースを経験した
    結局、時間と患者を金に換える構造が問題なのだ。丁寧な診療は金持ちだけの特権になってしまう