教皇レオ14世、AIは少数の権力者ではなく人類に奉仕すべきだと語る
(religionnews.com)- Magnifica HumanitasはAIを新たな産業革命と捉え、不平等の拡大、民主主義の弱体化、人間らしさの損傷の危険を警告している
- AIの武装解除は軍事だけでなく、経済的・認知的な競争の論理から離れ、技術が人間を支配できないようにする方向を意味する
- AIはすでに資源・専門性・データへのアクセス権を持つ人々の力を強めており、少数者が情報・消費・民主的手続きを左右しうる
- 人間の尊厳と共通善を守るには、設計から利用まで責任が明確でなければならず、倫理は被害の後ではなく構築の過程で適用されるべきだ
- 軍事用AIには厳格な倫理的制約と人間の責任、国際法が必要であり、データ植民地主義と労働代替も社会正義の問題として扱われる
最初の回勅の核心: AIの「武装解除」
- 教皇レオ14世の最初の回勅「Magnifica Humanitas」は、AIを新たな産業革命と位置づけ、不平等の拡大と民主主義の弱体化、人間らしさの損傷の危険を中心議題としている
- AIの武装解除は軍事領域のみに限定されず、経済的・認知的な競争の論理からAIを切り離し、技術が人間を支配できないようにする方向を意味する
- 目標は技術を放棄することではなく、AIを「武装解除され、歓待的で、アクセス可能な」技術にすることにある
- AI企業にはより厳格な国家・国際的規制が必要であり、個人と共同体もAIの未来形成に幅広く参加しなければならない
- レオ14世は、19世紀の産業革命に対応した1891年のレオ13世の回勅「Rerum Novarum」を参照し、AI時代の社会的問いをカトリック社会教説の延長線上に置いている
- この回勅は、科学者・エンジニア、政治指導者・公職者、親・教師への傾聴を経て出され、AIのプログラミング・規制・利益に対する幅広い参加を求めている
Big Techと権力集中
- レオ14世は、少数の裕福な個人が人類の未来と生計を左右しうること、そしてデジタル革命に参加する人と周縁に残される人との格差が拡大しうると見ている
- AIはすでに、経済的資源、専門性、データへのアクセス権を持つ人々の力を増幅する傾向がある
- 少数の影響力ある集団は、情報と消費パターンを形づくり、民主的手続きに影響を与え、経済のダイナミクスを自らに有利な方向へ導くことができる
- 技術は中立ではなく、その背後にある利害関係と利害当事者を露わにする
- 権力が少数に集中すると不透明になり、公的監視を逃れやすくなり、新たな依存・排除・操作・不平等を生む歪んだ発展につながりうる
- Anthropic共同創業者のChris Olahは、AI開発は商業的関心、地政学的圧力、誇りと野心のために、「正しいことをする」ことと衝突しうるインセンティブと制約の中で動いていると語る
- Olahは、宗教共同体、市民社会、学者、政府がAIを真剣に見つめ、より良い方向へ押し進めるべきだと考えている
人間の尊厳、判断、労働
- 核心原則は人間がAIに優先するという点であり、人間の尊厳は能力・富・社会的地位・正しい選択の有無ではなく、存在そのものに由来する
- AIチャットボット時代の危険は、利用者がAIエージェントを人間と勘違いすることにとどまらず、他者を求めようとする欲求そのものを弱めかねないことにある
- 意思決定を機械に委ねると、過度の依存と即答の追求が強まり、個人の創造性と判断力が弱まる可能性がある
- AIイノベーションには人間社会と環境保護に前向きな影響を与える可能性がある一方で、その危険も同時に扱われなければならない
- AIが人間の尊厳と共通善を尊重するには、設計・開発者から利用者、そして実際の意思決定をそれに依存する人々に至るまで、すべての段階の責任が明確でなければならない
- 道徳・倫理原則は、社会に被害が生じた後ではなく、システムが構築される過程で適用されるべきだ
- AI導入に慎重さ、厳格な評価、ときには速度を落とすことを求める姿勢は、進歩への反対ではなく、人類家族を責任をもって世話する行為として示されている
- Anthropicのような事例に見られる倫理憲章型フレームワークも、少数者によって定められた道徳性だけでは不十分であり、共有された社会正義の基準に従って議論されるべきだ
- 真実は民主主義の必須要素であり、とりわけ若者にはAI教育が必要だ
- AIが労働負担を軽減するという約束とは異なり、実際には労働者が機械の速度と要求に合わせるよう強いられる場合が多い
- 第4次産業革命において優先されるべきなのは、雇用機会の保護と個人の代替不可能な役割である
トランスヒューマニズム、不平等、データ植民地主義
- トランスヒューマニズムとポストヒューマニズムは、人間の条件を超えることを進歩とみなす前提と結びついている
- 病気、障害、老い、脆弱性を克服すべき限界としてしか見ない見方とは異なり、人間は限界にもかかわらずではなく、しばしば限界を通してこそ繁栄する
- Víctor Manuel Fernándezは、人間は有効期限に達したら置き換えられるべきだという見方に反し、カトリックの教えはすべての人間に無限の尊厳があると明らかにしていると述べる
- 世界の経済格差が広がるなかで、技術進歩は構造的な不平等を生みうる
- 税制は最も脆弱な人々の負担を軽くし、より多くの資源を持つ人々により大きな責任を求めるべきであり、イノベーションの利益は透明性をもって共同体全体と共有されなければならない
- AIの背後には、著作権資料で学習するモデルからAIハードウェアに使われる希少鉱物の採掘まで、人間・環境搾取の痕跡がある可能性がある
- データ植民地主義は、健康動向、疫学プロファイル、遺伝子地図、人口統計データにまで及ぶ新たな植民地主義の顔として扱われる
- こうしたデータは「権力の新たなレアアース」となっており、少数の利潤志向の個人や集団の手にあるAI技術は、新たな形の植民地支配になりうる
- 共有知が支配の道具ではなく共通善となるためには、個人に、自らを説明するデータと、そのデータの使い方・使う主体・受益者を決定する能力が戻されなければならない
戦争、社会正義、共通善
- AIの軍事利用は最も厳格な倫理的制約を受けなければならない
- 軍事行動、とりわけ致死的行動に対する責任は、機械ではなく人間に残されていなければならない
- 戦争における意思決定過程の追跡可能性、人間の監督、自動化兵器の使用拡大とその結果に対処する国際法が必要だ
- 人間の尊厳と共通善を中心に据えた社会・経済・政治生活の道徳原則は、AI時代にも適用されるべきだ
- 連帯と「隣人」への配慮は中核的な軸であり、次世代に対する責任がとりわけ強調される
- 社会正義は、資源のより公正な分配や現在の不正義の是正だけでなく、回復的な次元を含む
- デジタル領域においても、侵襲的な監視、基本的技術へのアクセスから排除された共同体、差別を永続化する不透明なアルゴリズム被害を警戒しなければならない
- 移住は今日の社会正義のリトマス試験紙として扱われる
- Babelは権力と自己充足の追求を象徴し、Nehemiahによるエルサレム再建は祈りと家族・共同体の参加を志向する
- AI時代においても、Babelの建設とエルサレムの再建はそれぞれ自らの内面から始まる、というメッセージへとつながる
1件のコメント
Hacker News の意見
ほぼ重複投稿。 https://news.ycombinator.com/item?id=48265206
時代はいろいろな面で変わった。たとえば 1) 今は AI があり、2) 教皇がアメリカ人で、両党の現職最高政治家たちよりも信頼できる
人々が教皇権の時代を懐かしんでいるというより、常識のある人なら誰でも探しているものに近い
15年前は 教皇 Benedict で、かなり違う人物だった。個人的には、Francis や Leo よりも彼に対してもっと冷笑的だったと思う
宗教の比喩を続けるなら、あの頃の HN ユーザーは Chrome がもはやイエスの再臨のように扱われていないことのほうに、より衝撃を受けただろう