独裁者のためのスーパーコンピューター構築が民主主義に必ずしも良いとは限らない
(helentoner.substack.com)- OpenAIは OpenAI for Countries とStargate UAEを「民主的AI」の拡大として打ち出しているが、UAEに大規模なAIデータセンターを建設することが民主主義を促進するという根拠は弱い
- UAEはFreedom House 2024の評価で 18/100点 を受けた国で、世襲君主制による権力独占、政党の禁止、政府批判の禁止、活動家の投獄、報道検閲、移民労働者の搾取が問題として挙げられている
- OpenAI側の論理は「米国のAIが民主的価値を広げる」と「米国が中国とのAI競争に勝てば民主主義に有利だ」に分かれるが、Stargate UAEが検閲のないアクセスや民主主義寄りのツール提供を目指している根拠はない
- 大規模なAI計算インフラは 国家権力の中核資産 になりつつあり、UAE王室が巨額の資金を投じる以上、高度なAIチップへのアクセス権や所有権を通じてUAE政府の影響力が強まる可能性が高い
- 半導体やAIインフラの取引が常に悪いわけではないが、チップ数量、所有・利用権、中国への技術移転防止条件が公開されていない状態で、これを 民主主義プロジェクト と宣伝するのは危うい包装である
OpenAIの「民主的AI」という大義名分とStargate UAE
- OpenAIは5月初旬、OpenAI for Countriesを発表し、米テキサス州などで進めている Stargate と結び付けて、各国のAIインフラ構築を支援すると明らかにした
- 発表の核心は、大規模AIインフラが将来の経済成長と国家発展の 基盤資産 となり、「民主的AIレール」を求める国々に権威主義的AIの代替を提供すべきだという論理である
- その後OpenAIは、UAEに大規模AIデータセンターを建設するパートナーシップを発表し、これを「民主的価値 に根差した」プロジェクトとして打ち出した
- 批判の焦点は、OpenAIが民主主義を掲げて最初に結んだ主要取引の相手が、実際には民主主義国家ではなくUAEだった点にある
UAEの政治体制と人権状況
- Freedom House の 2024年国別スコア で、UAEは 18/100点 を記録し、Haiti、Zimbabwe、Iraqより低い水準だった
- 自由度スコア: {p:18}
- UAEの 政治体制 は、世襲君主制が権力を独占する構造である
- 政党は禁止されている
- 候補者は無所属で出馬できるが、体制に意味のある挑戦をするのは難しい
- 諮問評議会の議席は半分だけが選挙で選ばれ、残りは政府任命である
- その諮問評議会には実質的な立法権限がない
- 政府批判は 禁止 されており、人権や政治改革を求める候補者や活動家は 投獄 されたり、大規模裁判 にかけられたりしている
- 収監された反体制派の 家族 まで、組織的な監視と処罰の対象になる
- 報道機関は自己検閲を行うか、政府による 積極的な検閲 を受け、場合によっては 閉鎖 されることもある
- UAE人口の約 90% は政治的権利を持たない移民労働者で、パスポートの没収、賃金未払い、過酷な暑さの中での強制労働といった 労働搾取 が問題視されている
- ある人権団体は、UAEが世界で現代奴隷制の有病率が 7番目に高い 国だと 評価 している
OpenAI側の民主主義論理の二つの柱
- OpenAIのグローバル業務責任者Chris Lehaneは、The Hill への寄稿で、民主的価値がAIの未来を形作るべきであり、米国がAI構築を望む国々を支援しなければ独裁者たちがその空白を埋めることになると主張した
- OpenAI側の説明は大きく二つの論理に分かれる
- 米国のAIは民主的価値 を帯びているので、より多くの人々に提供すれば民主主義が広がる
- 米国は民主主義国家で中国はそうではないため、米国がAIの「競争」に勝つことは民主主義に有利である
- 一つ目の論理は極端な状況ではある程度成り立つかもしれないが、UAEとの取引にはあまり当てはまらない
- ある国が検閲のないAIチャットボットへのアクセスを禁じていたのを許可するなら、情報の自由という面で民主的価値に資する可能性はある
- 非民主的な政府の意思に反して、民主主義寄りのAIツールを提供するケースにも限定的な意味はありうる
- しかし、Stargate UAEがこうしたシナリオを実現しようとしている根拠はない
- OpenAIは、UAEが世界で初めてChatGPTを全国規模で有効化する国になると宣伝したが、従来UAEでChatGPTが制限されていたのか、また米国・オーストラリア・カナダなどがなぜ「全国有効化」ではないのかは不明である
- UAE居住者にChatGPT Plusを無料提供するという報道もあったが、その内容は フェイクニュース だった
ChatGPT運用とUAEの検閲ライン
- UAEでChatGPTが他のAIツールより民主的に運用される計画だという兆候はない
- UAE居住者はGemini、Claude、Llamaのような他の米国製AIプロダクトにもアクセスできるとされている
- OpenAI COOのBrad Lightcapは、UAEでChatGPTが王室批判などの敏感なテーマに関する「red lines」を守るのかと問われ、「まだ分からない。国とのパートナーシップの中で一緒に進める必要がある」と答えた
- この回答は、ChatGPTがUAEの既存の政治的検閲ラインと衝突しないよう調整される可能性を排除していない
AI計算インフラと国家権力
- 二つ目の論理である米中AI競争は、相対的には説得力があるかもしれない
- AIの成功には 計算資源 が大きな役割を果たす
- 現在の米国では大規模データセンターの建設は難しいと見られている
- 他国が資金、エネルギー、許認可を提供すれば、米国企業はより多くの計算資源を確保し、より優れたAIを作れる
- しかし、米国と中国だけを見る構図では、UAEとの取引が持つより大きな含意を見落としてしまう
- 大規模計算インフラ、とりわけ数十万基の先端AIアクセラレータで構成される世界水準の AIスーパーコンピューター は、国家権力の重要な原動力 になりつつある
- この観点から見ると、Stargate UAEはUAE政府の権力とAI影響力を大きく拡大する取引となる
- 公開資料だけでは計算資源の所有権と使用権が誰にあるのか非常に曖昧だが、UAEが巨額の資金を投じる以上、それらのチップに対する相当なアクセス権または所有権を得ない状況は想像しにくい
湾岸地域のAI・半導体取引の条件と不確実性
- 湾岸諸国と半導体取引を行うこと自体が本質的に悪いわけではない
- OpenAIのUAE取引やそれに類する複数の取引の詳細は公開されておらず、一部は まだ最終確定していない
- 米国は国家安全保障上の理由から湾岸地域の独裁政権と長年協力してきており、冷徹なリアルポリティクの観点では、コストより利益が大きい 取引形態 もありうる
- 事後的に米国が良い取引をしたかを判断するには、次の条件が重要である
-
チップ数量
- 計算資源の所有権と使用権
- 中国への技術移転を防ぐ仕組み
- ただし、最良の形のStargate UAE取引であっても、UAE王室が受け入れられる条件でなければならないため、このパートナーシップが強力な民主主義促進手段になる可能性は低い
-
OpenAIのミッションと権力集中の問題
- OpenAIが一般的な営利企業であったり、AIがそれほど重大でない技術であったりしたなら、この取引をめぐる宣伝文句の重要性は小さかっただろう
- しかしOpenAIは、自らを ミッション重視の非営利 と強調し、極めて強力な技術 を構築しようとしている組織である
- 「AIが全人類に利益をもたらすようにする」というミッションは、しばしば安全なAGI構築へと単純化されるが、世界を変えうる技術を本当にすべての人に益する形で開発するという問題は、「安全に作ること」や「米国で作ること」よりはるかに複雑である
- 強力なAIシステムに誰がアクセスでき、誰が統制権を持つのかは、誰が恩恵を受けるかを左右する中心的な問題である
- 既存の権力格差を広げず、独裁体制を強化せず、一般の人々の力を弱めない形でAIを発展させるという課題は、文明規模の未解決問題として残っている
- Stargate UAEを民主主義プロジェクトとして宣伝することは、OpenAIがこうした挑戦を十分に深刻に扱っていないことを示すシグナルに近い
1件のコメント
Hacker Newsの意見
この方向性にはおおむね同意するが、OpenAIのような有名企業がしていることと、CiscoやOracleのようなあまり注目されない巨大産業企業が一世代にわたってやってきたことを比べると、あまりにも多くの特別な弁護が付いて回るのがもどかしい
分析がOpenAIだけで始まりOpenAIだけで終わるのでは説得力に欠ける
Googleが「do no evil」を捨てて批判されたのと変わらない。また、過去にどこかの会社が悪い行いをしても見逃されたからといって、今後ほかの会社により良い基準を期待してはいけないという意味にはならない
AMDによるGloFoの分社化も、もともとはAbu Dhabiに最先端ファブを置く意図があったが、砂漠でサプライチェーンも悪く淡水もない環境で何かをするという現実にぶつかった
腹立たしいことではあるが、少なくとも人々が原則を中心に組織しようとしている点には感謝できる。その原則が実際の動機ではなさそうだとしても。この場合、筆者は明らかにOpenAIをとりわけ嫌って書いている面が大きいが、それでも論拠自体は良い
Joeが違法駐車したと指摘することは「特別な弁護」ではない。その表現はそういう意味ではない
Sam Altmanを解任した、あの取締役会だ
記事が言っているのは米国の独裁者ではなく、湾岸君主国の独裁者たちだという点を見落としている
とても単純だ。第一に、Nvidiaにとっては、信頼しているサウジの投資家たちにグラフィックカードを大量に売るのは素晴らしいアイデアに見える。第二に、湾岸君主国は米国に依存しており、イスラム革命を避けたがっている。第三に、データセンターの電力には太陽電池を使いたがっている。
ユーザーを追跡するだろうか？ もちろんだ。そしてGCHQとNSAは、自国法を迂回する情報共有協定を結ぶことができる。新しい話ではない。単に、どんなSaaSサービスにも自分の考えを預けるべきではないというだけだ
すでに私の購買履歴、住所履歴、通話メタデータがあり、今ではDOGEによって連邦データのかなりの部分もある。私の利益に敵対するためにTwitterフィードまで必要なわけではない。
Webも狂ったようにスクレイピングされているので、境界線はSaaSよりはるかに広いと思う
土着の住民は少数派で、治安部隊はすべて統治者直属の外国人であり、場合によっては土着人口全体より多い。土着の住民も非常に豊かに暮らしているため、すべてを賭けて戦う動機は小さい
むしろAI競争における最悪の汚染源の一つになる可能性を予想している。無尽蔵に供給される石油とガスを燃やしたいという誘惑はあまりにも強い
ある観点からは、そもそもそうした誘惑が生じないようにするほうがよい
LLMの主な効用は、社会へ送るメッセージを増幅する力の乗数であることは明白だと思った
大衆の一人ひとりは、ほとんど複製に近いコミュニケーションと相互作用の厚い毛布の中に閉じ込められることになり、その大半は人間ではないだろう。インターネットを制御する唯一の方法は、結局それを水没させるように覆い尽くすことだと分かった
私はかなり内向的なほうだが、あなたも同じようなタイプなのか、それとも逆なのか気になる。普段は特定の媒体を読んでおり、オンラインの「相互作用」は探さず、ソーシャルメディアは完全に避けている。ソーシャルメディア以前はこれが普通だった。LLMの乱用が人々をより原始的なネットワーク利用の形に戻す可能性はないと見ているのか気になる。
また、インターネットを制御するには覆い尽くせばよいと言うが、実際には法律を操作するために費用を惜しまない様子も見える。「大衆」を見下す以上のものが懸かっている
1780年に人々は蒸気機関の主な効用を何だと考えていただろうか
商業的なやり取りにはそういうものを使えるかもしれないが、人々をソーシャルメディアに引き留めているのは、そうした形では満たされない社会的相互作用への欲求だ。エリートを意味するのだとしても、やはり違う。彼らはすでに人間を緩衝材として使ってこれをやってきたし、十分に裕福なら今後もそうする可能性が高い
メディアはすでに、個人が処理できる水準をはるかに超えて、粘着質なゴミであふれている。平均的な注意力はすでに飽和しているので、AI生成のゴミをさらに流し込んでも大きく変わるとは思えない。
インターネットを制御する方法は、文字どおり制御することだ。各国政府がすでにやっているように
独裁者のために何かを作ることは、正直なところ民主主義に良くない可能性が高い
民主主義が健全であってほしいなら、労働者階級の富を最大化するほうがよい。自分と家族、コミュニティを少し世話できる余裕のある人々は、民主主義に意味のある形で参加する時間と教育を持てる。
米国の独裁者であれ、湾岸諸国の独裁者であれ、ロシアの独裁者であれ、誰のために作るにしても、やらないほうがよいのではないかと思う。もちろん、言うほど簡単ではない
独裁国家で民主主義に参加するとはどういう意味なのか気になる。
皮肉なことに、技術がシンギュラリティ、あるいはそれに近い水準まで発展し、低技能・中技能の仕事の大半が自動化されるほど、西側、とりわけ米国でより多くのディストピア的傾向が見られる。一方で、こうした独裁国家はずっと以前から自国民、今では居住者に対しても強力な福祉制度を持っており、人口が少ないためAIブームの恩恵を得るうえで有利な位置にある
含意はむしろ逆方向だと思う
十分に影響力の大きい技術は、どんな政府でも独裁的・全体主義的に変え得る。権力者にとって、すべてを統制したいというのは最大の誘惑であり、そこから恐ろしい国家と国民統治が生まれる
Orwellの『1984年』では、家々にあるテレビが常に見張っていて、その装置の向こうにいる誰かが実際に見たものを理解している、というのが核心的なアイデアだったことを思い出せばよい
最後の部分がディストピアだと見なされていた。一日中すべての人を見て理解できるほど人手が足りるはずがなく、監視者を誰が監視するのかという問題もある。『1984年』は実現する実用的な方法がなく、恐ろしい幻想に近かった。
歴史上初めて、新しいLLM/生成AIが『1984年』のその部分を現実的なものにしつつある。「危険な思想」を早期警告するには、1世帯あたりGPUが1つあればよく、すでに可能か、まもなく可能になるだろう。各世帯に割り当てられる計算量が小さいため、基礎的で貧弱な知能しか動かせない点も、むしろ完璧だ。AGIなら少なくとも理論上は双方の言い分を聞き、大局を調べて反対側の肩を持つこともあり得るが、単線的なLLMエージェントにはその能力がない。
OpenAIやAppleを含む少なくとも6社が、最新の生成AIをバックエンドに持つ、常に見守る家庭用デバイスを研究しているとの報道がある。たった一文で意味のある支援をするには十分な文脈が必要なので、あなたの最近の生活全体を見ることが必要になる。同時に、それだけで誰に投票するか、まだ発表もされていないどのデモに行くか、あなたを怖がらせて行かせない最善の方法は何かを知るにも十分だ。釘を打つ道具と殺人の凶器の違いに似ている。どちらも同じハンマーだ。
TikTokと中国をめぐるキャンペーンのとき、LGBTの人々が、TikTokがどれほど早く性的指向を見抜いたかを語る動画が多かった。どの動画にも「いいね」せず、誰もフォローせず、追跡可能なプロフィール情報も与えていないのに、時には本人が自分で認める前から見抜いていた。TikTokは、ユーザーが何をどれだけ長く見つめるかを見るだけで分かる。男性の運動動画に女性の動画よりずっと長く留まる、あるいはその逆だけでも十分だ。アプリ利用だけで中国が米国人についてどれほど多くを知り得るかを脅威として示すために使われていたように思う。
それが怖いなら、もっと怖いのはこれだ。LLMバックエンドのデバイスは、すでにどんなテレビ番組を見ているか、どの場面で笑うか、隣の人に何を話すかを見るだけで、はるかに多くのことができる。マルチモーダルである必要すらないかもしれない。字幕と音声テキスト変換だけでも可能そうだ。迫り来る権威主義に反対したいという欲求を、自分で認める前から見抜くこともできる。
Helen Tonerが地球の反対側の民主主義を心配している間に、民主主義の砦はOrwell的社会の最初の動作する実装まで、最後の2段階に近づいていたのかもしれない。第1段階は、皆が自分の利益のためにそうした装置を家に入れるよう説得すること、これは現在進行中だ。第2段階は、その装置を私たちの利益ではない用途に使わせるため、所有企業を脅迫するか掌握すること、これはまだ残っている課題だ
「自分がどの瞬間に監視されているのかを知る方法は、もちろん存在しなかった。思想警察が個人の回線にどれほど頻繁に、どのような体系で接続するのかは推測するしかなかった。もしかすると全員を常に見張っているのかもしれなかった。しかしいずれにせよ、彼らは望めばいつでもあなたの回線に接続できた。あなたは、自分の発するあらゆる音が盗聴され、暗闇の中でない限りあらゆる動きが監視されているという前提の中で生きなければならず、実際に習慣が本能となってそのように生きていた。」
ただし、歴史上初めて多くの国が真の全面的な通信監視に近づいたという点では正しい
出力はテキスト説明ではなく、二値のイエス/ノーだ。LLMでもできるが、同じデータセットで訓練した特定の機械学習モデルのほうが、ほぼすべての定量指標で優れている可能性が高く、その技術はトランスフォーマーが登場するずっと前から存在していた
近所単位の思想警察のような形で
独裁者や独裁政権とのあらゆるビジネスは禁止すべきだ
このリストの上位100か国とは取引してよいと思う: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
それ以外と取引すれば非人道的な政権を強化するだけで、残念ながらそうした政権は自国民を殺すだけでなく隣国も攻撃する。Ukraineを見よ、ひょっとすると近いうちにTaiwanもそうなるかもしれない。金には臭いが残る
先進国の富のかなりの部分は、発展途上国の腐敗を利用して築かれた。だから彼らが西側の権力と協力し、資源と人々の労働を西側企業に安く売りさえすれば、腐敗したままでいる誘因が生まれる
UAEとビジネスをして恩恵を得るほうが、その恩恵が最終的にChinaへ行くに任せるよりはましだ
中東を永遠に抑え込もうとする試みは明らかにうまくいかなかったのだから、今やっていることはリアルポリティクスであり、当然の答えだと思う。サウジはどうせ独裁的だろうし、これは現実版Hearts of Ironをうまくプレイするようなものだ
欠点は明確だ。私たちの世界観と根本的に合わず、今でもせいぜい便宜上の同盟者でしかない人々に、事実上武装を提供することになる。また、私たちが与えたものがChinaに転売されないという保証もない。その政権が悪名高いほど腐敗していることを考えれば、事実上ほぼ確実だと思う
いずれにせよ、「責任者」の誰かが気にしているのかは明らかではない
実はそれこそが核心なのかもしれない
AIの最大のリスクは反乱ではなく、独裁者や全体主義者に人口全体を完全に統制できるようにしてしまうことだ
十分に発達したアルゴリズムは、相互参照や文体などによって、ある人物がオンラインに投稿したあらゆるものを見つけ出し、その人物の見方や意見を高い精度で判断できる。意見がどのように変化してきたかも外挿できる。
政府は、反体制派が自分自身を反体制派だと気づく前に、組織化する時間などはおろか、それよりはるか前に標的にできる
文体分析はよく研究されている分野だ。ある投稿の容疑者となる著者が少なく、各著者についてサンプルとして使える十分なテキストがある場合にだけ実用的だと分かれば安心できる。つまり、全員が潜在的な容疑者である状況で、匿名投稿を著者に結び戻すことは、ほとんどの場合まったく不可能だ。実用的ないくつかのケースでも、せいぜい追加調査のための弱いシグナルを作る程度でしかない。
Greenstadt らの論文 “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity” は興味深く読めると思う
Trump にとっても明らかに重要ではない。人々は証拠なしに、時には正式な起訴もなしに国外追放されている。それこそが権威主義の核心だ。指導者の望む通りにするということだ。Trump を可能にしているのは AI ではなく、抑制と均衡が機能しないシステムだ。同じように W は、終わりのない戦争に突入するために大量破壊兵器について嘘をついた。その理由が真実でなくても関係なかった。彼は逃げ切り、アメリカ国民を犠牲にして自分と防衛産業の友人たちを金持ちにした
https://www.newsweek.com/donald-trump-database-palantir-dyst...
ただし、はるかに大きな規模で作用する
現在は、裕福な個人がますます権力を集中させる流れが見られ、それは公共領域でより顕著になっている。特に彼らが人工知能の発展の所有と統制の最前線にいる点も目立つ。偶然にも、このような流れはしばしば「テクノ・ファシズム」と呼ばれ、結局は再び独裁者の構図に戻ってくる