独裁者のためのスーパーコンピューター構築が民主主義に必ずしも良いとは限らない

• OpenAIは最近、UAEと大規模AIデータセンターを構築するパートナーシップを発表した
• このパートナーシップは**「民主的価値に根ざしている」**とされるが、UAEは代表的な非民主的国家である
• Freedom Houseなどは、UAEにおける市民的自由および政治的権利の抑圧を強調している
• OpenAIは今回の協力について民主的AIの普及を掲げているが、実質的に民主主義へ貢献するかは不透明である
• スーパーコンピューティング資源の移転が権威主義国家の国力強化につながる危険性が懸念される

---

OpenAIのUAE向けAIスーパーコンピューター提携の概要

• 2024年5月、OpenAIはOpenAI for Countriesプログラムと、米国内の大規模AIデータセンターであるStargateプロジェクトを正式に発表した
• OpenAIは、各国政府がAIコンピューティングの集積を国家競争力の中核と認識していると述べ、「民主主義的なAIを世界各国に提供する」という目標を掲げた
• 発表後、OpenAIはUAEと協力して最先端のAIデータセンターを建設するパートナーシップを公開した。この提携は**「民主的価値に基づく」**と説明された

UAEの民主主義の実態

• Freedom Houseの2024年評価によれば、UAEは100点満点中18点で、ハイチ、ジンバブエ、イラクよりも低い評価である
• UAEは世襲君主制であり、政治権力の独占、政党の禁止、限定的な選挙権、実質的な立法権を持たない諮問評議会といった特徴を持つ
• 政府批判、人権擁護、政治改革を訴える候補者や活動家は拘束され、その家族も監視・処罰の対象となる
• メディアは自己検閲または政府による直接検閲を受け、教科書や教育課程も検閲されている
• 人口の90%を占める移民労働者には政治的権利がなく、労働搾取の問題も深刻である。現代版奴隷制の蔓延も国際人権団体から指摘されている

OpenAIの「民主的AI」論理への批判

• OpenAIとChris Lehane（グローバル政策責任者）は、米国のAI技術を拡大することが**「民主的価値の拡散」**だと主張している
• 主な論理は次のとおり
  1. 米国製AIは民主的価値を体現しているため、これを海外へ広げれば民主主義の前進につながる
  2. 米国と中国のAI競争で米国が勝利することは、民主主義の防衛と直結する
• 実際には、UAEでChatGPTの利用可能性が高まったとしても、実質的な表現の自由の保障や即時の民主主義の進展につながるとは考えにくい
• UAE現地の検閲基準に合わせたサービス提供が行われるかどうかさえ不透明である。「政府と共に議論しながら進めていく」というOpenAI COOの回答も、この点を裏づけている

権威主義政府へのスーパーコンピューティング技術支援の影響

• 大規模なAIスーパーコンピューターインフラは、国家権力の極めて重要な要素として台頭している
• UAEが今回の提携をきっかけに、最先端AIチップへの相当部分のアクセス権、あるいは所有権を確保する可能性は高い
• Lehaneが述べたように、このディールはUAEをAI強国の列に押し上げる中核的な原動力となる
• 米国の実利重視の外交において利益があるかもしれないが、権威主義体制の国力増強という否定的な含意も大きい

結論と問題意識

• 半導体・AI協力それ自体が、必ずしも否定的だという意味ではない
• OpenAIとUAEの契約の詳細は、その大半が非公開または未確定の状態である
• ただし、今回の合意がUAE王室に受け入れ可能な条件でのみ成立することは明らかであり、民主主義を促進する力は限定的である
• AI技術が人類全体の利益のためのものであるというOpenAIの目標と、実際のガバナンスや統制権の配分の問題は、まったく別のものとして残る
• 今回の事例は、OpenAIが大義名分と現実的リスク（権力集中、民主主義の後退）を真剣に検討していない可能性を示すシグナルと解釈できる

[GN⁺]

Hacker Newsの意見

• OpenAIのような注目度の高い企業に対して、いつも特別な言い訳や例外を設けるような空気が本当に嫌だ。実際には、CiscoやOracleのような目立たない産業系大企業が何十年もやってきたことだ。OpenAIが何をしているのかの分析だけで話を始めたり終えたりすべきではないと思う
  • CiscoやOracleは、最初から人類のより良い未来に奉仕するというスローガンを掲げて非営利団体として出発したわけではない。Googleがかつて「邪悪になるな」をモットーに掲げ、それを捨てて非難されたのと変わらない。ある企業が悪事をしても見逃されたからといって、今後ほかの企業により高い基準を求めるべきではない、という主張にも納得できない
  • 政治とは可能なことの技術だと思う。少し苛立たしくても、原則に従って動こうとする試みがあること自体には感謝できる。もちろん実際の動機は飾りにすぎないかもしれないが、この件では書き手がOpenAIを名指しで批判したかったのが明白だとしても、論拠そのものは十分に説得力があると思う
  • テック業界は何十年ものあいだ、UAEに大型コンピュータシステムや先端技術を売り続けてきた。AMDがGloFoとして分社化した当初の背景にも、実際にはアブダビに先端半導体工場を建てようという狙いがあったが、砂漠でのサプライチェーンや水資源の問題が現実化して実現が難しかった
  • CiscoやOracleが何十年もやってきたことより、さらにずっと古い話だ。IBMは実際にホロコーストの運営に使われたコンピュータを提供していた
  • OpenAIは「民主主義の促進」を掲げたことで、むしろこうした批判に自らさらされることになったのだと思う。実際には金儲けが目的なのは明らかなだけに、そうした主張を前面に出したことが裏目に出た形だ
• 記事で言う独裁国家の範囲が、米国内の権威主義者よりも湾岸地域の君主国を指している点を見落としていた。第一に、Nvidiaにとっては信頼できるサウジの投資家にGPUを大量に売るのは良いビジネスだ。第二に、湾岸の王政国家は米国との関係に依存しており、イスラム革命を避けるためにも現体制を維持しようとしている。第三に、データセンターの電力供給も太陽光で解決できる。これらの国が利用者を監視するのかって？ もちろんだ。しかもGCHQやNSAとの情報共有協定を通じて現地法の網を回避するのも難しくない。特に新しい話ではなく、結局のところ自分の考えや私生活をどんなSaaSにも預けるべきではない
  • 実際には、それよりもっと巧妙な現実だと思う。すでに自分の購買履歴、住所、通話メタデータ、そしてDOGEのおかげで連邦データまで押さえられている。自分のSNSフィードがなくても、十分に脅威になり得る。しかもSaaSに限った話でもない。Web全体をものすごい速度でクロールしているので、自分の人生の境界はすでにはるかに広く取り込まれていると感じる
  • 結局、HNコミュニティは小さな集団でしかなく、世の中の大多数の人は情報も不足しているうえ、利便性のためにプライバシーを手放すことを最終的には選ぶのだろう。そもそもそういう誘惑が存在しないようにするのが理想的な選択だ、という見方も考える価値がある
• どのような形であれ、独裁者のための技術開発は民主主義にとってプラスではないと思う。民主主義の健全性の核心は、働く階層の富を最大化することだ。人々が自分や家族、地域社会の面倒を見られるだけの余裕と教育を持ってこそ、意味のある民主的参加が可能になる。米国でも、湾岸諸国でも、ロシアでも、どこの独裁者のためであれ開発しないほうがいい（もちろん現実には簡単ではないが）
  • 民主主義への参加と独裁国家の現実は、やや別の話にも見える。むしろ技術進歩が急速であるほど、西側社会、特に米国内部でより深刻なディストピア的傾向が強まっている。一方で中東の独裁国家は以前から強い福祉制度を運営しており、人口も少ないので、AIブームによってより効率的に利益を得られる状況にある
• LLMの本質的な価値は、社会全体に広がるメッセージの力を増幅する役割にあると思う。これからは誰もが、人間ではない存在が送る擬似メッセージに囲まれることになるだろう。インターネットを制御する唯一の方法が、結局は膨大なメッセージで「埋め尽くす」ことだと証明したようなものだ
  • ここでいうhoi polloiが大衆を意味するなら、実際には大衆はそのような道具を商業目的に限定して使い、それでも社会的相互作用への渇望ゆえにSNSにはまり続けるのだと思う。逆にエリートという意味なら、彼らはすでに長いあいだ人間を盾としてこの方法を使ってきたし、今後も十分な富があるかぎりそうし続けるだろう
  • 「力の増幅」という表現は、自分の懸念の本質をよく表していると思う
  • 自分の知識と想像力を過信して、LLMの本質的有用性があまりにも「明白」だと決めつける態度そのものが信じられない。1780年に蒸気機関の本質が何かを断定していた人々の視点を思い起こさせる
  • LLMがメッセージの増幅に使われるという意見はよく目にするが、まったく自明だとは思わない。自分はごく少数の報道しか追わず、オンラインでの相互作用も意図的に避ける内向的な性格だ。SNSが登場する前は、むしろこうしたやり方のほうが一般的だった。LLMが氾濫したら、むしろ原始的なネットワーク利用形態へ回帰することにはならないだろうか？ それに、インターネットを制御するのがメッセージで埋めることだとしても、実際には法的介入に費用を惜しまないのだから、現実はもっと複雑だ
  • この主張には賛成しがたい。報道やメディアはすでに過剰な情報ゴミで満ちており、人々の平均的な集中力もすでに限界だ。AIが生成した雑多な内容が追加されても、大きな変化はないだろう。インターネットを統制する方法は、結局のところ政府が直接乗り出して規制する構造だ
• 私の考えでは、むしろ高度な技術であるほど、どんな政府でもより権威主義的・全体主義的な形へ変質する可能性を内包している。権力者にはあらゆるものを統制したいという誘惑が強く働き、その結果として国家や国民への恐ろしい支配につながる傾向がある
• Sam Altmanの道徳的基準の問題とは別に、抑圧や暴力、他者の占領を行う民主主義国家（米国、イスラエル、インド）と、その反対側にある独裁国家（サウジ、中国、北朝鮮）のあいだに、本当に本質的な違いがあるのか疑問だ
  • 統治される側が直接発言権を持たない状況で、「民主主義国家」という表現自体が奇妙だ
  • 違いを無視して比較すれば、本質的な区別は不可能になる。そして独裁国家の被害者が少数しかいないかのように表現しているが、そこには実際には抑圧されている何十億もの大衆がいるという事実を見落としている
• 個人的には、中国に利益が渡るくらいなら、UAEと取引して利益を得るほうがはるかに現実的な選択だ。中東を永遠に押さえつけることなど通用しないと、すでに証明されている。結局こうした動きはリアルポリティクの観点から見れば最善であり、現実世界のHearts of Ironプレイに近い選択肢だ。サウジがどうせ独裁国家なのだとしたら、むしろ今はこのやり方のほうが得だ
• 民主主義もまた、民主主義それ自体のためには機能しない構造だと思う。すでに失敗したアイデアだ
• 『1984』では、各家庭にテレビが設置され、そのテレビが常に人々を監視するという設定が中核的なアイデアだったことを思い出す。誰かがリアルタイムですべての人を「理解」しながら監視するのは不可能だったので、これまでは単なるディストピア的ファンタジーにすぎなかった。しかし最近のLLM/GenAIの登場によって、各家庭にGPUが1台あるだけで、危険思想の検知のような初期警報は十分可能になった。むしろ限られた計算資源しか残さないように望ましく設計するほうが現実的かもしれない。AGIであれば両方の意見を聞いて中立性を保てるかもしれないが、一方向のLLMエージェントにはその能力がない。現在、OpenAI、Appleなど少なくとも6社が、最新のGenAIを用いた常時視聴型の家庭用デバイスを開発中だ。人生全体を観察して文脈を把握するAIは、利用者の好みや政治的傾向なども把握できる。下手をすれば権威主義政府に本格的に悪用されかねない。TikTokが利用者データなしでも、ユーザーの性的嗜好や関心事を把握していた事例も、ほぼリアルタイムで明らかになった。LLMベースの機器は、テレビ視聴パターン、会話内容、感情表現を分析するだけでも、投票傾向やデモ参加の意思まで推測できる。Helen Tonerは遠く離れた別の大陸の民主主義を心配しているが、肝心の民主主義の本丸ですら、Orwell的社会の実現寸前まで来ているのではないかという恐れがある。第1段階：そうした装置をすべての家庭に設置するよう誘導する（進行中）、第2段階：その企業に圧力をかけ、装置を権力者の意向どおりに使わせること（残る課題）
  • 行動分類を「危険／安全」のように二値判断するのは、本来生成AIの領域ではなく、従来の機械学習・分類モデルでも以前から可能だった。LLMでなくても十分な技術であり、実際には伝統的なMLモデルのほうが効率的だ
• Chris LehaneのWikipedia記事は、まだ実際の経歴に見合うほど更新されていない Chris Lehane - Wikipedia フィクサーとしては最高の経歴だ