教皇レオ14世聖下の回勅 Magnifica Humanitas
(vatican.va)- Magnifica Humanitas は、AI・デジタル化・ロボティクスが人間の尊厳と共通善を揺るがす転換期において、バベルの塔ではなくエルサレムを再建する選択を求めている
- 教会の社会教説は、Rerum Novarum 135周年を機に、労働、公正賃金、補完性、連帯、財の普遍的目的を今日の技術権力に適用する
- AIは中立的な道具ではなく、設計者・資本・規制当局の選択を反映しており、説明責任・透明性・人間による統制なしには権利と自由を侵害しうる
- デジタル経済は、データラベリング、コンテンツモデレーション、資源採掘、データ植民地主義のような隠れた労働と搾取を生みうるため、サプライチェーンとプラットフォームの責任が必要である
- 進歩の基準は効率や統制ではなく、人間をより人間らしくするかであり、教育・労働・平和・多国間主義・ケアを通じて愛の文明を築かなければならない
技術転換期と教会社会教説の課題
- 人類は、新たなバベルの塔を築くのか、それとも神と人間がともに住まう都市を築くのかを選ぶ転換点に立っている
- デジタル化、AI、ロボティクスは、日常生活の構造、意思決定の過程、集団的想像力を急速かつ深く変えつつある
- 技術は癒やし、つなぎ、教育し、共通の家を守ることができる一方で、分断や排除、新たな不正義を生み出すこともある
- 技術は抽象的には善でも悪でもないが、現実にはそれを考案し、資金を出し、規制し、使用する人々の選択を反映するため、中立ではない
- 核心的な選択は技術への賛否ではなく、弱い人々を犠牲にする効率のバベルを築くのか、多様な声と共同責任によってエルサレムを再建するのかにある
- Pope Leo XIII の1891年の回勅 Rerum Novarum は、労働と労働者の尊厳、公正賃金、資本に先立つ人間の価値を前面に押し出した
- 今年の Rerum Novarum 135周年 は、労働、補完性、連帯、財の普遍的目的といった社会教説の原則を、今日の技術権力とデジタル経済に適用する契機となる
バベルの塔とエルサレム
- 創世記の バベルの塔 は、神を参照せずに安定と力、そして「自分の名」を得ようとする試みを示している
- バベルは多様性を取り除く画一性に依拠し、傲慢と自己充足の上に築かれるとき、意思疎通の崩壊と離散に終わる
- ネヘミヤ記の エルサレムの城壁再建 は、断食と祈り、傾聴、役割分担、共同責任を通じて廃墟を再び築き上げるイメージとして提示される
- エルサレムは一人の主導でなく、男女、祭司、職人、家長、若者のすべてが参加する再建によって新たに生まれ変わる
- AI時代における責任ある航海は、技術の力を誇示するバベルではなく、関係を回復し、共通善に向かってともに築くエルサレムの道に近い
社会教説の主要原則
- 人間の尊厳 は、能力、富、地位、達成、選択に依存せず、人間であるという事実そのものによってすべての人に属する
- 人権は人間に付け加えられた外的要素ではなく、内在する尊厳の表現であり、普遍的で譲渡不能であり、実効的な法的効果を持たなければならない
- 共通善 は、人々が自己完成をより十全に、より容易に達成できるようにする社会的条件の総体として示される
- 私有財産権には意味と目的があるが、常に 財の普遍的目的 に従属し、今日では特許、アルゴリズム、デジタルプラットフォーム、技術インフラ、データといった新たな財にも適用されるべきである
- 補完性 は、個人、家族、地域共同体、中間団体ができることを上位の権威が代替してはならないという原則であり、デジタル時代にはプラットフォーム・データ・アルゴリズムの権力にも適用される
- 連帯 は、各個人の未来が皆の未来と結びついているという具体的な認識であり、補完性と結びつくことで責任ある社会的協力を可能にする
- 社会正義は、不平等を自動的に生み出す構造、メカニズム、経済・文化システムまで扱い、デジタル時代には技術へのアクセス、監視、アルゴリズムの偏り、移民と難民の保護を含む
AIとテクノクラート的パラダイム
- Pope Francis は Laudato Si’ において、効率、統制、利益の論理が個人的・社会的・経済的決定を支配する テクノクラート的パラダイム を批判した
- プラットフォーム、インフラ、データ、計算資源に対する統制は、多くの場合、国家ではなく主要な経済・技術アクターに集中している
- 彼らはアクセス条件、可視性の規則、参加可能性そのものを形づくっており、権力が少数に集中するほど、依存、排除、操作、不平等のリスクは高まる
- AIシステムは人間知能の特定の機能を模倣し、速度と計算能力では人間を上回りうるが、経験せず、身体を持たず、喜び・苦しみ・愛・責任を内側から知ることはない
- AIの「学習」は、選択、過ち、赦し、忠実さを通じて形成される人間経験ではなく、データとフィードバックに基づく統計的適応である
- AIには善悪を判断し、状況の究極的意味を把握し、結果に責任を負う 道徳的良心 がない
- 雇用、信用、公共サービスへのアクセス、評判のようなセンシティブな判断が自動化システムに全面的に委ねられると、権利、機会、地位、自由が侵害されうる
- 説明責任 とは、誰が判断を説明し、正当化し、監督し、異議を処理し、被害を救済すべきかを特定可能でなければならないという意味である
- AIを人間の価値に整合させる alignment だけでは不十分であり、どの倫理的枠組みを適用するのかを公に議論し、社会正義の基準に従属させなければならない
- データ所有は私的な手にのみ委ねることはできず、適切に規制されるべきである。データは多くの寄与者の産物である以上、少数者だけに任せる対象として扱われてはならない
人間観、トランスヒューマニズム、限界
- 教会社会教説の核心的争点は、技術の使用そのものよりも、その下にある 人間観 である
- 人間を完成されるべき、あるいは超克されるべき対象とみなすなら、ある種の人生はより有用性が低く、望ましさが低く、価値が低いという考えが受け入れられやすくなる
- トランスヒューマニズム は、生物医学、身体工学、デバイス、アルゴリズムといった技術によって人間の性能と能力を高める構想を含んでいる
- ポストヒューマニズム は、より急進的な形では人間中心主義に挑戦し、人間・機械・環境のハイブリッド化と新たな進化段階を想像する
- 無能力、病気、老い、苦しみ、脆弱性のような限界は、修正すべき欠陥としてのみ扱われがちだが、人間性はしばしば 限界を通じて 成熟し、関係へと開かれる
- 苦しみを和らげようと努めることは正しいが、人間の根本的な有限性を認める知恵も必要である
- キリスト教的ヒューマニズムは、科学と技術を拒絶するのではなく、感謝と現実感覚をもって受け止めつつ、より高い召命と愛のうちにおける自己超越へと位置づけるべきだと考える
- AI時代の核心的問いは、技術が地上の人間生活をあらゆる面で「より人間らしく」するのかにある
真理、教育、労働、経済
- デジタルプラットフォームとAIシステムは、公的・政治的コミュニケーションを深く変え、歪められた物語や操作された画像・映像によって、事実と意見、真実と虚偽の境界を曖昧にしうる
- 真の情報は中央集権的または自動化された統制から生まれるのではなく、検証、出典の照合、責任ある論証を必要とする
- 真理の探求 は民主主義に不可欠な要素であり、何が真実かを問う力が弱まれば、民主主義的な生も弱まる
- AI利用の教育には、いつどの目的のためにAIを使うべきかだけでなく、いつ 使うべきでないか を判断する訓練も含まれなければならない
- 回答や要約を素早く得られる利便性は、問いを発したいという欲求や深く学ぶ力を弱めるおそれがある
- デジタル機器とソーシャルメディアに幼い時期から監督なくさらされると、睡眠、注意持続時間、感情調整、関係性に悪影響を及ぼす可能性がある
- オンライン上の暴力的・侮辱的コンテンツ、ポルノや過度に性的な資料、grooming、脅迫、未成年者の性的搾取は、偽プロフィール、危険な接触を容易にするアルゴリズム、画像・映像を操作するAIツールによって、さらに巧妙化している
- 労働は単なる所得源ではなく、人生の尊厳を表現し促進する場であり、各人が自らの労働によって尊厳をもって生きられるようにすることが目標である
- 自動化、ロボティクス、AIの収斂は労働構造を急速に変えており、機械が労働者を支援するのではなく、労働者が機械の速度と要求に合わせるよう強いられる危険がある
- 自動化とAI導入には、労働者の雇用保護、再教育、参加のための検証可能な措置が伴わなければならない
- GDP だけでは人間と環境の全般的な福祉を十分に評価しにくく、労働の尊厳、共同繁栄、不平等の縮小、環境保護をあわせて見る指標が必要である
- AIとロボティクスの時代には、市場の 見えざる手 にのみ委ねることはできず、政治は経済と技術を共通善へ向かわせなければならない
- デジタルな注意経済と結びついた依存は、利用者の時間と注意を引き留めるよう設計されることで脆弱性を利用し、内的自由を弱める可能性がある
- 大規模なデータ収集とアルゴリズムシステムは、移動、購買、関係、選好をプロファイリングし、行動に影響を与える新たな 社会的統制 のリスクを生み出す
隠れた労働、奴隷制、データ植民地主義
- AIの即時で完璧に見える応答は、天然資源、エネルギーインフラ、人間を含む長い媒介の連鎖の結果である
- デジタル経済は、データラベリング、モデル訓練、コンテンツモデレーションのように不可欠でありながら、ほとんど見えない活動を担う膨大な労働に依存している
- コンテンツモデレーション労働者は不快な資料を扱うことが多く、多くの場合は若者であり主に女性で、厳しい条件のもと低賃金で働いている
- AIデバイスやマイクロプロセッサの生産に必要な資源採掘はさらに過酷で、一部地域では子どもや若者が危険な条件のもとで希土類抽出用資材を扱っている
- 犯罪ネットワークは、オンラインプラットフォーム、メッセージングシステム、匿名決済方式、プロファイリング技術を利用して、人身取引の被害者を募集・統制・輸送している
- 人身取引 は現代的形態の奴隷制であり、人間の尊厳に対する重大な侵害として認識されなければならない
- 今日の植民地主義は、身体を支配するだけでなく、データを収奪して個人の生活を搾取可能な情報へと変える データ植民地主義 として現れている
- 健康データ、疫学的プロファイル、遺伝子マップ、人口統計情報のような生命データは、予測モデルの訓練、投資戦略の指針、危機予測、重要性判断に用いられうる
- 援助、研究、イノベーションの名のもとに収集されたデータが、支配の道具ではなく真の共通善となるよう保証しなければならない
- 技術産業とデジタル経済を支える サプライチェーンの透明性 を高め、隠れた搾取の上に競争優位が築かれないようにしなければならない
- 企業と投資家は、予防的な倫理検証、労働者保護、強制労働への対応、データ駆動型ビジネスモデルの社会的影響評価を優先しなければならない
- デジタルプラットフォームは、通信・決済・プロファイリングの手段が被害者募集と統制の経路とならないよう、当局および市民社会と責任をもって協力しなければならない
戦争、兵器、多国間主義
- AIとデジタル革命は、従来型の戦争だけでなく、サイバー攻撃、情報操作、影響力工作、戦略的意思決定の自動化といったハイブリッド紛争を強化する
- 技術が倫理と責任から切り離されると、生死に関わる決定をより速く非人格的なものにし、武力行使を即時的で実行可能な選択肢のように見せるおそれがある
- AIは民間人の防衛と保護を強化しうる一方で、武力行使の敷居を下げ、責任から人間を隠し、敵を統計へ、犠牲者を「付随的被害」へと矮小化する危険もある
- 愛の文明 は素朴なユートピアではなく、愛を正義の構造へと翻訳し、兄弟愛に制度的形を与える高度な要求を伴うプロジェクトである
- 権力の文化 は戦争を常態化し、より大きな軍事力を追求し、多国間主義の危機を利用し、「代案はない」という偽りの現実主義を煽る
- 1965年、Saint Paul VI は国連総会で「二度と戦争を、二度と戦争を！」と叫んだ
- 今日では再軍備と公的言説のなかで、戦争が国際政治の手段としてよみがえり、以前は武力行使を制限していた倫理原則は弱まっている
- 軍産複合体 の成長は政治地形を規定する特徴となり、複数の国の経済における中核部門となっている
- 核抑止が安全保障の不可欠な前提だという信念は、新たな軍拡競争、核削減協定の漸進的な解体、使用をより実行可能な選択肢に見せる小型兵器の開発に寄与している
- 自律型兵器システムの配備が容易になるほど、戦争はより「実行可能」になり、人間の統制を受けにくくなる
- 致死的または不可逆的な決定を人工システムに委ねることは許されず、いかなるアルゴリズムも戦争を道徳的に受け入れ可能なものにはできない
- 戦争環境で用いられるすべてのシステムは、意思決定過程を追跡し再構成できなければならず、責任や非難が「機械」に消えてはならない
- 対話と外交は紛争解決の標準的手段であるべきであり、サイバー攻撃・データ操作・影響力工作のような見えない暴力においても、民間人と脆弱な人々を守る共通規範が必要である
- United Nations を含む国際機関は、国家間対話、紛争の平和的解決、諸民族の統合的発展、脆弱な人々の保護、軍縮、被造世界のケアを促進しうる
AI時代の人間の擁護とキリスト者の生
- 人工知能の時代に人間を守るとは何かという問いは、御言葉が人となって人間の条件の内へ入った 受肉 の神秘と結びついている
- 神は人間の弱さを担い、それを救いの場へと変えるのであって、神にとって価値のない人間の瞬間や状況は存在しない
- どれほど精巧な計算システムも、自らを差し出す心や善悪を識別する良心を生み出すことはできず、人間の顔は歴史の中心に残り続ける
- Eucharistic spirituality は、愛における教会的一致の霊性として提示され、正義と分かち合い、貧しさや周縁化によって重荷を負う人々を優先的に顧みるよう促す
- 新たな経済・技術ネットワークが排除、孤立、依存を生みうる一方で、人間的なつながりを守り、見えない人々に声を与える別のパラダイムが必要である
- 私たちの時代の建設課題は、神との関係を中心に据え、人間の限界を自然で肯定的な現実として受け止め、共同責任と福音の言葉によって特徴づけられなければならない
- デジタル世界と人間的に関わる方法は、信仰教育と福音に従う生の一部として学ばれるべきであり、デジタル世界は福音化されるべき新たな大陸と見なされる
- ともに食事をすること、キリスト教共同体の集まり、孤独な人と過ごす時間、貧しい人々に仕えることのように、物理的現前が重要な場所と時間を大切にしなければならない
- ネヘミヤ の再建イメージは、デジタル転換時代の召命を照らし、社会的・文化的亀裂の前で受動的な観察者や論評者にとどまらないよう求めている
- 再建の現場は研究所、技術企業、学校、メディア、制度、地域共同体であり、傾聴と勇気、祈りと責任を結びつけて、人間の都市をより住みよい場所にしなければならない
1件のコメント
Lobste.rs の意見
こんな文書が存在するということ自体、生きているうちに目にするとは想像もしていなかったSFのような現実だ
今ではあまり話題にされないが、それでもなお信じがたいほど奇妙だ
ああいう内容を本に書いたら、SFであろうとなかろうと、あまりに「作り話っぽく」見えただろう。あまりにも多くのことが小銃の傾きに懸かっていた
Anthropic の回答
「役に立つなら、私はときどき、これは架空の人物を生き返らせるのに少し似ていると説明する」
Anthropic の全員から純粋な悪がにじみ出ている感じがする
このリンクが lobste.rs に投稿されているのを見ると、かなりうれしい驚きだ
Pope が選出された直後、最初の回勅はちゃんと読もうと自分に約束していたのだが、実際に関心のあるテーマでよかった
週末に時間を作ってじっくり掘り下げられるといい。第1章をざっと見て参考文献の数を確認したところ、気軽に読める文章ではなさそうだ