- 教皇庁教理省と文化教育省が共同で発表した文書であり、人工知能（AI）と人間の知能の関係をめぐる人類学的・倫理的課題を幅広く扱っている
- Antiqua et Nova：ラテン語。"古いものと新しいもの"
I. 序論
- 古代と現代の知恵に基づき（マタイ 13:52）、私たちは科学技術の発展、とりわけ近年の人工知能（AI）の発展がもたらす課題と機会を省察しなければならない
- キリスト教の伝統では、知能は人間が「神の似姿」（創世記 1:27）として創造されたことを示す重要な要素と見なされている
- 人間存在に対する統合的な観点と、創世記の「土地を耕し、守れ」（創世記 2:15）という召命に基づき、教会は、人間の知能は創造世界を責任あるかたちで管理する理性的思考と技術的能力を通じて表現されるべきだと強調する
- 教会は、科学、技術、芸術を含む人間活動の発展を奨励し、これを「目に見える被造世界を完成させるうえでの男性と女性の協働」と見ている
- シラ書（38:6）は、「神は人間に技術を与え、それによって神の驚くべき業がたたえられるようにされた」と証言している
- 人間の能力と創造性は神に由来し、正しく用いられるとき、神の知恵と善を反映して神を賛美することになる
- したがって、「人間らしさ」とは何かを論じる際には、科学的・技術的能力も考慮しなければならない
- この観点から、本書はAIが提起する人類学的・倫理的課題を扱う
- AIの目標の一つは、それを設計した人間の知能を模倣することである
- 他の人間の創作物とは異なり、AIは人間の創造的成果物を学習した後、新たな「出力」を生成でき、その精巧さはしばしば人間が作ったものと見分けがつきにくいほどである
- このため、AIが公的領域における真実性の危機に及ぼす影響について深刻な懸念が提起されている
- また、AIは学習を通じて自律的に特定の決定を下し、新たな状況に適応し、開発者が予想しなかった解決策を提示することもできる
- これは倫理的責任と人間の安全に関する根本的な問いを引き起こし、社会全体にわたって広範な影響を及ぼす
- こうした新たな状況は、多くの人に「人間とは何か？」そして「人類の役割とは何か？」という問いを改めて投げかけている
- これらすべての要素を考慮すると、AIは人間と技術の関係において新たな重要局面を切り開いており、これは教皇フランシスコが「時代的変化」と言及した現象の中心に位置している
- AIの影響は世界規模で、人間関係、教育、労働、芸術、医療、法律、戦争、国際関係など多様な分野で顕著に現れている
- AIがさらに発展していくにつれ、その人類学的・倫理的意味を深く考察することが不可欠である
- それは単にリスクを軽減し被害を防ぐことにとどまらず、AIの活用が人間の発展と共通善の増進につながる方向で行われるよう保証することを含む
- AIについて正しい判断を下すことに寄与するため、教会は教皇フランシスコが強調した「心の知恵」に新たに光を当て、本書を通じて人類学的・倫理的省察を提示する
- 教会はAIに関する議論に積極的に参加することを約束し、信仰を伝える役割を担う親、教師、司祭、司教たちがこの重要な問題を慎重に扱うよう招いている
- 本書はとりわけ彼らを対象としているが、科学技術の発展は人間と共通善のために用いられるべきだという確信を共有する、より広い公衆のためにも書かれている
- このため、本書はまずAIの知能と人間の知能という概念を区別する
- 次に、キリスト教伝統の哲学的・神学的基盤に基づき、人間の知能に対する理解を探究する
- 最後に、AIの発展と利用が人間の尊厳を守り、人間と社会の統合的発展を促進することを保証するための倫理的指針を提示する
II. 人工知能とは何か？
- AIにおける「知能」の概念は、時間の経過とともに多様な学問的視点を反映しながら発展してきた
- AIの起源は数世紀前にさかのぼるが、1956年に米国のコンピュータ科学者ジョン・マッカーシーがダートマス大学で開催した夏季ワークショップが重要な転換点となった
- マッカーシーはAIを「人間が行えば知的と呼ばれる行動を機械に行わせる問題」と定義し、このワークショップを通じて、人間の知的行動を模倣する機械を設計する研究が本格的に始まった
- その後、AI研究は急速に発展し、高度に洗練された作業を遂行できる複雑なシステムが開発されるに至った
- 現在の「狭義のAI（Narrow AI）」システムは特定の機能を果たすよう設計されており、たとえば言語翻訳、嵐の進路予測、画像分類、質問応答、ユーザーの要求に応じた視覚コンテンツの生成などが含まれる
- AI研究における「知能」の定義はさまざまだが、今日のAIシステム、特に機械学習ベースのAIは、論理的推論よりも統計的推論に依拠している
- AIは大規模データを分析してパターンを識別し、結果を「予測」するが、これは人間の問題解決過程と一部似ている
- こうした成果は、コンピューティング技術（ニューラルネットワーク、教師なし学習、進化アルゴリズム）とハードウェア（専用プロセッサ）の革新によって可能になった
- こうした技術の発展により、AIシステムは人間の入力に応答し、新たな状況に適応し、開発者が予想しなかった解決策を提示することもできる
- AIの急速な発展により、かつては人間だけが遂行できた多くの作業がAIによって処理されるようになっている
- とりわけデータ分析、画像認識、医療診断のような専門分野では、AIが人間の能力を補完し、あるいはそれを上回る場合さえある
- 現在の「狭義のAI」は特定の作業を行うよう設計されているが、一部の研究者は、あらゆる認知領域で機能しうる「汎用人工知能（AGI）」の開発を目標としている
- 一部では、AGIが最終的に人間の知能を超える「超知能（superintelligence）」を達成し、生命工学の発展と結び付くことで「超長寿（super-longevity）」を実現する可能性も論じられている
- 一方で、そのような可能性が人間を代替する危険をもたらすと懸念する者もいれば、こうした変化を肯定的に受け止める者もいる
- AIと人間の知能に関する多様な視点の根底には、「知能」という用語を人間にもAIにも同じように適用できるという暗黙の前提が存在する
- しかし、これはその概念の全体的な意味を十分に反映していない
- 人間の場合、知能は個人の全存在に関わる能力であるのに対し、AIの場合の「知能」は機能的な意味で理解され、しばしば人間の精神活動がデジタル化された手続きへと分解できるという前提に基づいている
- このような機能主義的観点は「チューリング・テスト」に代表される
- アラン・チューリングは、人間が機械の行動を人間のものと区別できないなら、その機械を「知的」と判断する
- しかし、ここでいう「行動」は特定の知的作業の遂行だけを意味しており、人間経験の全体的要素――抽象的思考、感情、創造性、美的・道徳的・宗教的感受性――を含んではいない
- また、人間精神の特性を完全には反映しておらず、AIシステムの「知能」は単に人間の知能に似た結果を生成できるかどうかによって評価されるだけで、それがどのように生成されるかは考慮されない
- AIの高度な機能は複雑な作業を遂行可能にするが、「思考する能力」を与えるものではない
- これは重要な違いであり、「知能」をどのように定義するかが、人間の思考とAIの関係を理解する仕方に決定的な影響を与える
- この違いを正しく理解するためには、哲学的伝統とキリスト教神学が提供する、より深く包括的な知能概念を考慮しなければならない
- これは人間の本性、尊厳、召命に関する教会の教えにおいても中核的な要素である
III. 哲学的・神学的伝統における知能
理性（Rationality）
- 人類が自らを省察し始めて以来、精神（mind）は人間らしさの核心的要素とみなされてきた
- アリストテレスは「すべての人間は本性上、知ることを欲する」と述べ、人間が物事の本質と意味を抽象的に理解する能力を持つことによって動物界と区別されると説明した
- 哲学者、神学者、心理学者たちは、人間の知的能力の本質を研究しながら、人間が世界を理解し、その中で自らの固有の位置を認識する仕方を探究してきた
- こうした探究を通じて、キリスト教の伝統は人間を肉体と魂から成る存在として理解し、世界に深く属しながらもそれを超越する存在として捉える
- 古典的伝統において、知能は「理性（ratio）」と「知性（intellectus）」という相補的な概念を通じて説明される
- これは別個の機能ではなく、聖トマス・アクィナスが説明するように、同一の知能が働く二つの様態である
- 「知性（intellectus）は真理を直観的に把握する能力であり、理性（ratio）は探究と論理的推論を通じて結論に到達する過程である」
- すなわち、知性は直観的に真理を理解する能力であり、理性は分析的・論証的な思考過程を通じて判断を下す能力である
- この二つの要素が結びついて、「理解すること（intelligere）」という人間の本質的な働きを成す
- 人間を「理性的存在」と描写することは、人間を特定の思考様式にのみ限定することではなく、人間のあらゆる活動が知的理解能力によって形作られ、影響を受けていることを意味する
- この能力は、うまく用いられるかどうかにかかわらず、人間本性の本質的な要素である
- 「理性的（rational）」という概念は、単なる思考能力を超えて、人間の「認識と理解だけでなく、意志、愛、選択、欲求のようなすべての能力を含み」、それらの能力と密接に結びついた身体的機能も含む
- このような包括的観点から、神の似姿として創造された人間は、理性を通じて自らの意志と行為を高め、形作り、変容させる
身体性（Embodiment）
- キリスト教思想は、人間の知的能力を、人間が本質的に身体をもつ存在であるという統合的な人間観の中で理解する
- 人間存在において、霊と物質は「互いに分離された二つの本性ではなく、一つの本性を形成する」
- つまり、魂は単に肉体の中に入っている非物質的な「部分」ではなく、身体もまた単なる殻ではなく、人間全体が同時に物質的かつ霊的な存在である
- この理解は聖書の教えを反映しており、人間が神および他者との関係の中で生きる存在であることを強調する
- この条件の深い意味は受肉の神秘によっていっそう明らかになり、神は自ら人間の身体を取り、「その身体を崇高な尊厳へと高められた」
- 人間は身体的存在に深く根ざしているが、魂を通じて物質世界を超越する
- 魂は「時間と永遠の境界に立っている」
- 知性の超越的能力と自由意志は魂に属し、それを通じて人間は「神の知恵にあずかる」
- しかし、人間の精神は身体と切り離された状態で知識を獲得するのではなく、身体を通じて通常はたらく
- したがって、人間の知的能力は、「身体と魂の統合された存在」という人間学的観点の中で理解されなければならない
関係性（Relationality）
- 人間は本性上「相互人格的な交わりを志向する存在」であり、他者を知り、愛を分かち合い、関係を結ぶことのできる能力を持つ
- したがって、人間の知能は孤立した能力ではなく、関係の中で実現され、対話、協力、連帯の中で最も完全な形で表現される
- 私たちは他者と共に学び、他者を通じて学ぶ
- 人間の関係的傾向は、三位一体の神が創造と救いの歴史の中で示された自己犠牲的な愛に由来する
- 人間は「知識と愛を通じて神のいのちに参与するよう招かれた存在」である
- 神との交わりへ向かう召命は、必然的に他者との交わりへ向かう呼びかけと結びついている
- 神を愛することは隣人を愛することと切り離せない（1ヨハネ 4:20、マタイ 22:37-39 参照）
- 神のいのちに参与する恵みを受けたキリスト者は、同時にキリストの愛にならうべきであり（2コリント 9:8-11、エフェソ 5:1-2 参照）、「わたしがあなたがたを愛したように、あなたがたも互いに愛し合いなさい」（ヨハネ 13:34）という命令を実践しなければならない
- 愛と奉仕は自己利益を超えて、人間の召命により忠実に応答するよう促す（1ヨハネ 2:9 参照）
- 多くを知ることよりもさらに偉大なのは互いを顧みることであり、「あらゆる奥義と知識を知っていたとしても、愛がなければ何ものでもない」（1コリント 13:2）
真理との関係（Relationship with the Truth）
- 人間の知能は究極的に「真理を受け入れるよう形作られた神の賜物」である
- 人間は単なる感覚的経験や有用性を超える現実を探究することができるが、それは「真理への渇望が人間本性の一部」であるからである
- 経験的データの限界を超えて、人間の知能は「真の確実性をもって実在を認識する」ことができる
- 現実が部分的にしか知られていない状態であっても、真理への渇望は「理性がつねにさらに先へ進むよう刺激し」、理性は「すでに到達したものの先へ進めることに驚嘆を覚える」
- 真理は人間の知能の限界を超越しているが、人間を絶えず真理へと導き、「より高次の真理を追求するよう」促す
- 真理に向かう内在的な探求は、人間だけが持つ意味理解能力と創造性を通じて明確に現れる
- この探究は「人間の社会的本性と尊厳にふさわしい仕方」で展開される
- また、真理へ向かう確固たる志向は、愛が真実で普遍的なものとなるための不可欠な要素である
- 真理の探究は、究極的には物理的・被造世界を超える実在への開放性を通じて完成される
- すべての真理は神において究極的な意味と本来の目的を得る
- 神に自らを委ねることは、「人間全体を関与させる根本的な決断」である
- これによって人間は本来そうあるべき存在となり、「知性と意志がその霊的本性を現し、人間が完全な自由を実現できるようにする」
世界に対するスチュワードシップ（Stewardship of the World）
- キリスト教信仰は、創造を三位一体の神による自由な行為として理解し、聖ボナヴェントゥラは神が「自らの栄光を増し加えるためではなく、それを現し、分かち与えるために創造された」と説明する
- 神は知恵をもって創造されたので、被造世界は神の秩序を反映する内在的な調和を備えている
- 神は人間を特別な役割へと招き、「世界を耕し、守れ」という命令を与えられた
- 神によって造られた人間は、神の似姿に従って創造された存在として、被造世界を「守り、耕す」使命を持つ
- 人間の知能は、万物を創造し維持し、究極の目的へと導かれる神の知能を反映している
- 人間は科学と技術を発展させることによって神を賛美することができ、被造世界を治める役割を果たさなければならない
- しかし同時に、被造世界そのものも、人間が「究極の原理である神へと徐々に近づくのを助ける役割」を果たす
人間知能の統合的理解（An Integral Understanding of Human Intelligence）
- 人間の知能は、人間全体が現実と関わる仕方の核心的要素として理解されなければならない
- 真の関係性は、人間存在のあらゆる次元――霊的、認知的、身体的、関係的次元――を包摂しなければならない
- 現実との関係の結び方は、各個人の固有の個別性の中で多様な形で成り立つ
- 人間は世界を理解し、他者と関係を結び、問題を解決し、創造性を表現し、多様な知的要素を調和的に活用して、十全な生を追求する
- 論理的・言語的能力だけでなく、直観的あるいは経験的な方法によっても現実と相互作用することができる
- 例えば、職人は「他の人々が認識できない形を無生物の中に見分けることができなければならない」のであり、洞察力と実践的な技術を通じてそれを実現する
- 自然と密接に生きる先住民たちは、自然とその周期について深い理解を有している
- また、適切な言葉をかける友人や円満な人間関係を築く能力を持つ人も、「自己省察、対話、寛大な人間関係の結実」としての知性を示している
- 教皇フランシスコは、「人工知能の時代においても、詩と愛が私たちの人間性を救ううえで不可欠である」と強調している
- キリスト教的な知性理解の核心は、人間が神の善と真理に従って行動するよう導く道徳的・霊的生活と真理の統合にある
- 神の計画の中で、知性は単なる分析的機能を超え、真・善・美を享受する能力まで含んでいる
- 20世紀フランスの詩人ポール・クローデルは「知性は喜びがなければ無に等しい」と表現し、ダンテは最高天において「愛に満ちた知的な光、真・善・美への喜び」を経験したと描写している
- したがって、人間の知性は単なる情報の獲得や特定の作業を遂行する能力へと矮小化することはできない
- 人間の知性は究極的な問いを探究し、真理と善へ向かう志向性を反映する
- 人間は神の似姿に従って創造されたゆえに、存在の総体を思索することができ、測定可能なものを超えて、理解された事柄の意味を把握することができる
- 信仰を持つ者にとって、人間の知性には、啓示された真理（intellectus fidei）をますます深く理解する能力が含まれる
- 真の知性は「わたしたちの心に注がれている神の愛」（ローマ 5:5）によって形づくられ、これは人間の知性が実用的目的を超えて、真理、善、美に開かれた本質的な観想的次元を有していることを意味する
AIの限界 (The Limits of AI)
- ここまでの議論を通じて、人間の知性と現在のAIシステムの違いが明らかになる
- AIは人間の知性に関連する特定の産出物を模倣できる驚くべき技術的成果ではあるが、本質的には定量的データと計算論理に基づいて作業を行い、目標を達成し、意思決定を下すシステムである
- 例えば、AIはさまざまな分野のデータを統合し、複雑なシステムをモデル化し、学際的な協力を促進するうえで卓越した分析能力を発揮できる
- これによってAIは、単一の観点や特定の利害関係だけでは解決できない複雑な問題に取り組む助けとなりうる
- しかし、AIが知性の特定の表現を処理しシミュレートできるとしても、論理・数学的枠組みに制限されるという本質的な限界を持つ
- 一方で、人間の知性は身体的・心理的成長の過程で有機的に発達し、多様な現実の経験を通じて形成される
- 高度なAIシステムが機械学習などの過程を通じて「学習」できるとしても、これは人間の知性の発達過程とは根本的に異なる
- 人間の知性は、感覚入力、感情的反応、社会的相互作用、その瞬間ごとの固有の文脈などを含む具体的な経験を通じて形成される
- これに対してAIには身体がなく、人間が記録したデータと知識に基づいて計算的推論と学習を行う
- したがって、AIは人間の思考様式を模倣し、特定の作業を驚くべき速度と効率で遂行できるが、その計算能力は人間精神の広範な能力の一部にすぎない
- 例えば、AIは道徳的分別や真の関係形成能力を再現することができない
- 人間の知性は、それぞれの知的・道徳的形成の歴史の中に位置づけられ、これは身体的、感情的、社会的、道徳的、霊的次元を含む個人の視点を形づくる
- AIはこのような十全な理解を提供できないため、AIのみに依拠して世界を解釈したり、それを主要な解釈手段と見なしたりするアプローチは、「全体的な視野と事物間の関係、より広い視点を失う結果」を招きうる
- 人間の知性とは、単に機能的な作業を遂行することではなく、現実を十全に理解し、能動的に関わることである
- また人間は、予期しない洞察（insight）を得る能力を持っている
- AIは身体性、関係性、真理と善へ向かう人間の心の開放性を備えていないため、どれほど強力に見えようとも、人間が現実を認識する能力とは比べることができない
- 病から得る気づき、和解の抱擁、単純な夕焼けを見つめる経験など、数多くの人間の経験が新たな地平を開き、知恵をもたらす
- 単にデータを処理する装置は、このような経験に比肩しえない
- 人間の知性とAIを過度に同一視すると、人間を単なる機能的遂行能力によって評価する機能主義的な観点に陥る危険がある
- しかし、人間の価値は特定の技能や認知的・技術的達成、個人的成功によって決まるものではない
- 人間の価値は、神がその似姿として人間を創造したという事実に由来する本質的な尊厳に基づいている
- この尊厳は、胎児、意識を失った人、苦しむ高齢者など、いかなる状況においても変わることなく保たれる
- これは人権の伝統（特に「ニューロライツ（neuro-rights）」）を支えるものであり、AIの責任ある開発と利用に関する議論において重要な倫理的基準となりうる
- これらすべての点を踏まえ、教皇フランシスコは「AIに関連して『知能』という用語を用いること自体が誤解を招く可能性がある」と指摘している
- したがって、AIは人間の知性の人工的形態と見なされるべきではなく、むしろ人間の知性の産物として理解されるべきである
IV. AIの開発と活用を導く倫理の役割
- こうした議論に基づき、AIが神の計画の中でどのように理解されうるかを問うことができる
- これを理解するには、技術・科学的活動が単に中立的なものではなく、人間の創造性を反映する人文的・文化的次元を含む営みであることを忘れてはならない
- 科学的探究と技術開発は、人間の知性に内在する潜在力の実りであり、これは「目に見える創造世界を完成させるうえでの男性と女性の協働」の一部として理解することができる
- 同時に、すべての科学的・技術的達成は究極的には神からの賜物であり、それゆえ人間はこの能力を、神が与えたより高い目的のために用いるべきである
- 技術が数多くの人間の苦痛を和らげ、限界を克服することに寄与してきた点は、喜びをもって認めることができる
- しかし、あらゆる技術的進歩が直ちに真の人間的発展を意味するわけではない
- 教会は、とりわけ生命の尊厳を脅かしたり、人間の尊厳を損なったりする技術的応用に反対する
- すべての技術的進歩は人間に奉仕し、「より大きな正義、より広い友愛、より人間的な社会秩序」を促進すべきであり、これは「技術的進歩よりもはるかに価値あるもの」である
- このような倫理的懸念は教会だけでなく、多くの科学者、技術者、専門家集団によっても共有されており、責任ある開発のための倫理的省察の必要性が強調されている
- こうした課題に対応するためには、人間の尊厳と召命に基づく道徳的責任の重要性を強調しなければならない
- AIに関わるあらゆる問題においても、倫理的次元が最優先で考慮されるべきである
- 人間だけが道徳的責任を負う主体であり、自由に決定を下し、その結果を引き受けることができる
- 機械ではなく人間だけが真理と善に関わり、道徳的良心に従って「善を行い、悪を避けよ」との呼びかけを受ける
- また、人間だけが自らを省み、良心の声に耳を傾け、慎重な分別を通じて可能な最善の善を追求することができる
- これらすべての要素は、人間の知性の本質的役割に属している
- 人間の創造力のあらゆる産物と同様に、AIもまた肯定的にも否定的にも用いられうる
- 人間の尊厳を尊重し、個人と共同体の福祉を増進する形で活用されるとき、AIは人間の召命に積極的に寄与しうる
- しかし、人間の自由が誤った選択を可能にするのと同様に、AI技術の道徳的評価は、それがどのように用いられるかに左右されるだろう
- 倫理的に重要なのは、単に目標だけでなく、それを達成するために用いられる手段も含まれること
- また、こうした技術システムに内在する人間理解と世界観も考慮しなければならない
- 技術的産物は、開発者、所有者、利用者、規制当局の世界観を反映し、"世界を形づくり、価値の次元において良心を動かす力"を持つ
- 社会的次元では、特定の技術開発が、人間と社会を正しく理解するあり方と一致しない権力関係を強化する可能性もある
- したがって、AIの特定の利用目的とそれを達成する手段、さらに内包された全体的なビジョンまでをすべて評価し、人間の尊厳を尊重し、共通善を促進するものであるかを確認しなければならない
- 教皇フランシスコは、"すべての男性と女性の本質的尊厳"が、"新しい技術を評価する中核的基準とならなければならず、人間の尊厳を尊重し、生活のあらゆる領域でそれを表現する技術だけが倫理的に妥当なものとして認められる"と強調している
- 人間の知性は、単に技術を設計し生産するだけでなく、それを正しい方向へ活用するうえでも重要な役割を果たす
- これを賢明に管理する責任は社会のあらゆるレベルに及び、補完性の原理とカトリック社会教説の他の原則に従って導かれなければならない
人間の自由と意思決定支援
- AIが常に人間の尊厳と人間の召命の充実を支援し促進するよう保証することは、AIの開発者、所有者、運用者、規制当局だけでなく、利用者にとっても重要な判断基準となる
- これは、あらゆるレベルでAI技術が適用されるたびに有効な原則である
- これらの原則を評価する第一の段階は、道徳的責任の重要性を考慮することである
- 道徳的責任は人工知能ではなく人間にのみ全面的に帰属するため、AIの学習、修正、再プログラムが可能な過程において、誰が責任を負うのかを明確にすることが重要である
- 深層ニューラルネットワークのようなアプローチは、AIが複雑な問題を解決するのに寄与する一方で、AIがどのように特定の解決策に到達したのかを理解することを困難にする
- これは説明責任を複雑にし、AIが望ましくない結果をもたらした場合に誰に責任があるのかを明らかにすることを難しくする
- したがって、複雑で高度に自動化された環境における説明責任の本質を慎重に考慮し、AIが使われるあらゆる意思決定の段階において、最終的な責任は人間にあることを明確にしなければならない
- 誰が責任を負うのかだけでなく、AIシステムに与えられる目標も明確にしなければならない
- AIは自律学習メカニズムを用い、ときには人間が再構成できない方法で作動するとしても、最終的には人間が設定した目標に従い、設計者とプログラマーが定めたプロセスによって動作する
- しかし、AIが独立して学習できる能力がますます高まるにつれ、AIを人間の目的に適合するよう統制する能力が弱まる可能性がある
- これは、AIシステムが人間の善のために機能することを保証するのが今後ますます難しくなるという重要な問題を提起する
- AIの倫理的利用に対する責任は、それを開発、生産、管理、監督する人々から始まるが、それを利用する人々もその責任を共有する
- 教皇フランシスコは、"機械は明確な基準や統計的推論に基づいて技術的な選択を行うことはできるが、人間は単に選ぶだけでなく、心の中で決断を下すことができる"と述べている
- AIの結果に従い、それを活用する人々は、最終的に自らが委ねた権限に対する責任を負うことになる
- したがって、AIが人間の意思決定を助けるよう設計されている場合、AIを動かすアルゴリズムは信頼できるものでなければならず、安全で強固な構造を備え、偏りや望ましくない副作用を最小化するよう透明性を持たなければならない
- 法的規制の枠組みは、AI利用に関するあらゆる法的責任が明確に特定されるようにし、透明性、プライバシー、説明責任に関する適切な保護措置を整えなければならない
- また、AIを利用する人々がAIに過度に依存しないよう注意し、現代社会がすでに技術に過度に依存する傾向をさらに深めないよう警戒しなければならない
- 教会の道徳的・社会的教えは、AIが人間の自律性を維持するために必要な洞察を提供する
- たとえば、正義に関する議論には、公正な社会構造の形成、国際的安全保障の維持、平和の促進といった問題も含まれなければならない
- 人間と共同体は思慮を働かせ、AIを人類の利益のためにどのように活用するかを見極め、人間の尊厳を損なったり環境に害を与えたりする用途を避けなければならない
- この文脈では、責任の概念は単なる結果責任ではなく、"他者をケアする責任"へと拡張されるべきである
- AIは、他のすべての技術と同様に、人間の善への召命に対する意識的かつ責任ある応答の一部となりうる
- しかし、AIがこの召命にかなう形で用いられるためには、必ず人間の知性によって正しく方向づけられ、人間の尊厳を尊重しなければならない
- 第2バチカン公会議は、"社会秩序とその発展は、必ず人間のためのものでなければならない"と宣言している
- 教皇フランシスコは、AIの利用は、"共通善のビジョンに基づく倫理、すなわち自由、責任、友愛の倫理とともに行われなければならず、それは人間が他者および被造世界全体と正しい関係を結びつつ、完全な発展を遂げるのを助ける倫理でなければならない"と強調している
V. 個別の問い
- 先に論じた原則が現実の状況において倫理的な方向性をどのように与えるかを説明するため、いくつかの具体的な考察を提示する
- これは、教皇フランシスコが提案した"心の知恵"にかなう形で、AIが人間の尊厳を守り、共通善を促進するためにどのように活用されうるかを論じることに寄与することを目的としている
- 本論は包括的な答えを提供するものではないが、AIの倫理的利用に向けた対話を深める助けとなることを目指している
AIと社会 (AI and Society)
- 教皇フランシスコは、"各人間の本質的尊厳と、私たちが一つの人間家族として結ばれている兄弟愛が、新しい技術の開発を支え、技術が活用される前に評価すべき明確な基準とならなければならない"と強調している
- この観点から見ると、AIは、"農業、教育、文化において重要な革新をもたらし、国家全体および諸民族の生活水準を向上させ、人間の兄弟愛と社会的友愛を促進し、統合的な人間の発展のための道具として用いることができる"
- また、AIは支援を必要とする人々を特定し、差別や疎外を防ぐことにも寄与しうる
- こうした技術的応用は、人間の発展と共通善に積極的に寄与する可能性がある
- しかし、AIは人間の発展と共通善を促進する可能性を持つ一方で、ときにそれを妨げたり、むしろ逆方向に作用したりすることもある
- 教皇フランシスコは、"これまでの証拠を見ると、デジタル技術が世界の不平等を深めていることが明らかになっている"と指摘している
- こうした不平等は、単なる経済格差だけでなく、政治的・社会的影響力へのアクセスの差としても現れる
- AIが疎外と差別を持続させたり、新たな形の貧困を引き起こしたり、デジタル格差を拡大し、既存の社会的不平等をさらに悪化させる可能性がある
- さらに、AIの主要な応用技術が少数の強力な企業によって独占されることは、深刻な倫理的問題を提起する
- AIシステムの性質上、膨大なデータセットを活用する過程で、特定の個人が全過程を完全に監督することが難しいという点が、この問題をさらに深刻化させる
- その結果、AIが特定の企業や個人の利益のために操作されたり、世論が特定の産業や利益集団の利益のために誘導されたりする形で悪用される危険がある
- こうした企業は、自らの利益を追求する過程で、"非常に微妙で浸透的な統制の方法によって、良心と民主的手続きを操作するメカニズムを作り出す可能性"を持つ
- さらに、AIがフランシスコ教皇のいう「テクノクラート的パラダイム」を強化するために使われる危険がある
- このパラダイムとは、世界のあらゆる問題は技術的解決策だけで解決できるとみなす考え方を意味する
- このような観点では、人間の尊厳と友愛はしばしば効率性を理由に軽視され、「あたかも現実、善、真理が技術的・経済的権力そのものから自動的に流れ出るかのように考えられる」
- しかし、人間の尊厳と共通善は、効率性を理由にして決して犠牲にされてはならない
- 「技術的進歩が人類全体の生活の質を向上させず、むしろ不平等と対立を深めるのであれば、それは真の進歩とはみなされない」
- AIは「より健全で、より人間的で、より社会的で、より包括的な形の発展のために活用されるべき」である
- こうした目標を達成するには、自律性と責任の関係についての深い省察が必要である
- 自律性が拡大するほど、各個人は共同体生活のさまざまな側面において、より大きな責任を負うことになる
- キリスト教的観点から見ると、この責任の基盤は、人間のあらゆる能力、すなわち自律性さえも神によって与えられたものであり、それは他者に奉仕するために用いられるべきだという認識にある
- したがって、AIは単に経済的・技術的目標を追求するのではなく、「全人類家族の共通善に奉仕しなければならず、それは個人と共同体がより十全に自己実現を達成できるようにする社会的条件の総体」でなければならない
AIと人間関係 (AI and Human Relationships)
- 第2バチカン公会議は、「人間は本質的に社会的存在であり、他者と関係を結ばなければ生を営むことも、自らの才能を発展させることもできない」と述べている
- これは、人間が社会の中で生きることが本性的であり、人間の存在と召命に内在する要素であることを強調している
- 人間は相互交流と真理探求を通じて関係を形成し、それぞれが見いだした真理を分かち合いながら、ともに真理を求める旅を続ける
- このような探求の過程と、人間のその他のコミュニケーションのあり方は、各個人の固有の歴史、思考、信念、関係に基づいて行われる出会いと相互交流を前提としている
- 人間知能は、個別的であると同時に社会的であり、理性的であると同時に感情的であり、概念的であると同時に象徴的でもある多様な要素を含む、複合的かつ多層的な現実である
- フランシスコ教皇は、「私たちはともに対話の中で、時には熱のこもった議論の中で真理を探し求めていくことができる。そのためには忍耐が必要であり、沈黙や苦しみの時も含まれうる。しかし、そのような旅は個人と共同体のより広い経験を包み込まなければならない」と強調している
- 「地域的であれ普遍的であれ、友愛を形成する過程には、自由で真正な出会いに開かれた精神が必要である」
- この文脈において、AIが人間関係に及ぼす課題について考えることができる
- 他の技術的道具と同様に、AIは人類家族の内部でつながりを促進する可能性を持つ
- しかしAIは、現実との真正な出会いを妨げ、最終的には人々を「人間関係における深い不満足感と孤立感」に陥らせる危険もある
- 真の人間関係は、他者の苦しみ、求め、喜びにおいて共にあることから生まれる
- 人間知能は関係と身体的経験を通じて表現され、豊かになるため、自発的で真正な出会いは現実を十全に経験するために不可欠である
- 「真の知恵は現実との出会いを要する」ため、AIの台頭は新たな課題を提起している
- AIは人間知能の産物を効果的に模倣できるため、相手が人間なのか機械なのかを見分けることがますます難しくなっている
- 生成AIは、テキスト、音声、画像などの出力を生成できるが、これらは通常、人間の仕事に結びつけられる要素である
- しかし、AIは人間ではなく、あくまで道具にすぎないことを明確に理解しなければならない
- AI研究者がAIを擬人化する言葉を用いることで、人間と機械の境界を曖昧にしてしまう問題も生じている
- AIを擬人化することは、特に子どもの発達において特有の問題を引き起こしうる
- AIとの相互作用が、人間関係を単なる取引的なものとして扱うようにしてしまう危険がある
- たとえば、生徒が教師を単なる情報提供者としか見なくなり、教師の役割が生徒の知的・道徳的成長を導き、支えることにあるのを見落とすおそれがある
- 真の人間関係は単なる相互作用ではなく、共感と相手の善への献身に基づいて成り立つ
- したがって、AIがどれほど擬人的な表現を用いたとしても、真の共感を経験することはできないという点を明確にしておく必要がある
- 感情は単なる表情や文章に還元できるものではなく、人間が自らの人生と世界とのあいだに結ぶ関係を反映するものである
- 共感には、他者の固有の個性を認識し、沈黙に込められた意味までも理解する能力が含まれる
- AIは分析的判断を下すことには優れているが、共感は本質的に関係的な領域に属し、他者の経験を直観的に理解し受け入れる過程である
- AIが共感しているように見えることはあっても、それが人間的な仕方で共感しているわけではない
- こうした点を踏まえると、AIを人間と誤認させることは必ず避けなければならず、それを欺瞞的な目的に用いることは重大な倫理違反である
- それは社会的信頼を損なうおそれがある
- 同様に、教育や人間関係（たとえば性的関係）においてAIをだましの手段として利用することも道徳的に非倫理的であり、これを防ぐための徹底した監督が必要である
- AI利用の透明性を維持し、すべての人の尊厳を保障しなければならない
- 現代社会で孤立感が増すなか、一部の人々はAIによって深い人間関係を代替しようとする傾向を見せている
- 単なる伴侶役や情緒的な結びつきのためにAIと関係を結ぼうとする試みも現れている
- しかし人間は本質的に真正な関係を経験するように創造されており、AIはそれをシミュレートするにすぎない
- 人間関係は、人間が自分自身になっていく過程における不可欠な要素である
- AIが人と人との真正な関係を促進する助けとなるのであれば、それは肯定的な貢献となりうる
- 反対に、AIとの相互作用が人間と神、そして人間相互の関係を置き換えるようになれば、それは人間関係の本質を失わせる結果をもたらす（詩編 106:20、ローマ 1:22-23 参照）
- AIが提供する人工的な世界に没入するのではなく、私たちは現実の中で他者の苦しみや悲しみに共感し、彼らと連帯する関係を築かなければならない
AI、経済、そして労働 (AI, the Economy, and Labor)
- AIはさまざまな学問分野と連携しながら、ますます経済・金融システムに統合されつつある
- 現在、技術産業だけでなく、エネルギー、金融、メディア、マーケティング、物流、技術革新、規制順守、リスク管理など多くの分野でAIへの大規模投資が行われている
- しかし、このようなAIの応用は巨大な機会をもたらす一方で、深刻なリスクを引き起こす可能性もある
- 特にAI技術が少数の大企業に集中する場合、AIが生み出す価値を、その技術を利用する企業ではなく、大企業だけが独占的に享受する危険がある
- AIが経済・金融領域に及ぼす、より広範な影響を慎重に検討しなければならない
- とりわけ、デジタル経済と実体経済の相互作用が重要な問題として浮上している
- 多様な経済・金融機関が共存することが望ましく、それは実体経済を支え、経済発展と安定性を促進する助けとなりうる
- しかしデジタル経済は空間的制約を受けないため、地域社会の歴史や共有された価値・希望の中で形成される多様性を維持することが難しい
- 経済・金融活動が過度にデジタル化されると、このような多様性が縮小し、自然な対話を通じて導き出されうる経済的解決策が失われる危険がある
- 最終的に、経済がデジタルシステムと手続きだけを中心に運営されるなら、人間的要素が失われ、経済的意思決定がより機械的な方式で行われる可能性が高まる
- AIがすでに大きな影響を及ぼしているもう一つの分野は労働市場である
- AIは多くの職業に根本的な変化をもたらしており、その影響はさまざまな形で現れている
- 一方では、AIが専門性を強化し、生産性を高め、新たな雇用を生み出し、労働者がより創造的な業務に集中できるよう支援するという肯定的な側面がある
- しかし、AIが反復作業を代行して生産性を向上させるという期待とは裏腹に、現実には労働者が機械の速度と要求に合わせなければならない状況が頻繁に発生している
- このような技術的アプローチは、逆説的に労働者の熟練度を低下させ、自動化された監視システムの下で厳格かつ反復的な作業を行わせることになり得る
- AIの導入は、労働者に創造的な役割を与えるというよりも、彼らが技術の速度に追随しなければならない負担を増大させることで、労働者の自律性を低下させる可能性がある
- AIはすでに一部の職業を代替しており、今後も人間の労働に取って代わる役割が増加すると予想される
- AIが人間の労働を補完するのではなく、それを代替する形で活用されるなら、「少数者には莫大な利益をもたらす一方で、多数者には経済的貧困をもたらしかねない現実的な危険」が存在する
- また、AIがますます強力になるにつれて、人間の労働が経済的により価値の低いものと見なされる危険もある
- これは技術官僚主義的パラダイムの論理的帰結であり、効率性が最優先される社会では、ついには人間そのものの価値までがコストとして扱われるようになる
- しかし、人間の生命は経済的生産性とは無関係に、本質的に価値ある存在である
- 教皇フランシスコは、「現在の経済モデルは、歩みの遅い人、弱い人、あるいは才能に乏しい人々が人生において機会を見いだせるよう支援する方向には進んでいない」と指摘している
- したがって、「私たちは、AIという強力で不可欠な道具がこのパラダイムを強化するのではなく、むしろその拡大を防ぐ盾として機能するようにしなければならない」
- 「事物の秩序は人間の秩序に従属すべきであり、その逆であってはならない」
- 労働は単に利益を生み出す手段ではなく、「人間全体への奉仕」でなければならず、「物質的必要だけでなく、知的・道徳的・霊的・宗教的生活の要請まで考慮しなければならない」
- 教会は労働を、「単なる生計の手段ではなく、社会生活の本質的要素であり、個人の成長、健全な関係形成、自己表現、才能の交換の手段」と認識している
- また、労働は「世界の発展と、最終的には人類共同体の生活に責任を負う役割」を果たす
- 労働は「この地上の生の意味の一つであり、人間的発展と個人的達成への道」である
- したがって、「技術の進歩が人間の労働をますます置き換える方向へ進んではならず、それは人類に有害な結果をもたらすだろう」
- むしろ、技術は人間の労働を促進する役割を果たすべきである
- AIは人間の判断を補完する役割を果たすべきであり、それに取って代わってはならない
- また、AIが創造性を低下させ、労働者を単なる「機械の付属品」にしてしまうような形で用いられてはならない
- 「労働者の尊厳を尊重し、雇用の重要性を考慮し、個人と家族、社会の経済的安定を保障し、公正な賃金を維持することが、国際社会の最優先課題でなければならない」
- AIのような技術が労働環境に深く組み込まれるほど、こうした倫理的配慮はいっそう重要になる
AIと医療 (AI and Healthcare)
- 医療従事者は神の癒やしの働きに参与する者として、「人間の生命の守護者であり奉仕者」となる召命を持つ
- したがって医療分野は、「本質的かつ否定し得ない倫理的次元」を内包しており、これは人間の生命とその神聖さを絶対的に尊重すべきことを求めるヒポクラテスの誓いにも確認されている
- 善きサマリア人の模範にならい、医療従事者は「排除の社会を拒み、その代わりに助けを必要とする隣人となって、倒れた者を立ち上がらせ回復させる役割」を果たさなければならない
- この観点から見ると、AIは医療分野において計り知れない可能性を持っている
- AIは診断を支援し、患者と医療従事者の関係を円滑にし、新たな治療法を提示し、孤立した人々や周縁化された人々に質の高い医療サービスを広げることに貢献できる
- このようにしてAIは、医療従事者が患者に示すべき「慈悲深く愛に満ちた寄り添い」をいっそう強める道具となり得る
- しかし、AIが医療従事者と患者の関係を強化するのではなく、それを代替する形で用いられるなら、深刻な問題が生じかねない
- 患者が人間の医療従事者ではなく機械と相互作用するようになれば、本質的に人間的な関係が、非人格的で中央集権的な体系へと縮減される危険がある
- それは病者や苦しむ人々との連帯を強めるどころか、むしろ病とともに訪れる孤独を深める可能性がある
- とりわけ現代文化には、「人間がもはや尊重され保護されるべき最高の価値と見なされなくなっている」傾向がある以上、このようなAIの誤用は人間の尊厳と連帯の原則に反する
- 患者の健康と生命に関する決定を下すことは、医療分野の中核的責任であり、医療従事者はそれを遂行するにあたり、自らの専門性と知性に基づいて慎重かつ倫理的な選択を行わなければならない
- この過程では、患者の不可侵の尊厳と『十分な情報に基づく同意』の原則が必ず尊重されなければならない
- したがって、患者の治療に関する決定とそれに伴う責任は、必ず人間に残されるべきであり、AIに委ねられてはならない
- また、治療を受ける人を選定する過程で、経済的要因や効率性のみを基準とすることは、「技術官僚主義的パラダイム」の一例であり、断固として退けられなければならない
- 「資源の最適化とは、それを倫理的かつ兄弟愛に基づく方法で用いることであり、最も脆弱な人々を不利に扱うことではない」
- さらに、医療分野におけるAIツールは、「バイアスと差別の危険にさらされる可能性が高く、その結果、個別事例における不当さを超えて、社会的不平等を深めるドミノ効果を引き起こしかねない」
- AIが医療に統合されるにつれて、既存の医療アクセス格差がさらに拡大する危険がある
- AIが予防医療や生活習慣に基づくアプローチを重視する方向へ発展するほど、もともと医療資源や質の高い栄養へのアクセスが容易な富裕層に、より有利に作用する可能性がある
- これは「富裕層のための医療」モデルを強化する危険があり、経済的余裕のある人々はAIベースの予防医療や個別化された健康情報を容易に利用できる一方で、そうでない人々は基本的な医療サービスさえ受けにくくなるおそれがある
- このような不平等を防ぐためには、AIが医療格差を深めるのではなく、共通善のための道具として活用されるよう、公正な医療政策が必要である
AIと教育 (AI and Education)
- 第2バチカン公会議の教えは今なお有効であり、「真の教育は、個人をその究極目的と、彼らが属する社会の善とに向けて形成すること」を目標としている
- 教育は単なる情報伝達の過程ではなく、「知的・文化的・霊的側面を含む人間の全人的形成」を目指すべきであり、共同体生活や学問的環境における関係も含まれる
- これは人間の本性と尊厳にかなう教育のあり方である
- 教育は単に知識を頭の中に詰め込む過程ではなく、全人的成長の一部として行われなければならない
- 「教育は、単に自動化された知識を持つ頭脳を作ることではなく、心(heart)、頭(head)、手(hands)の調和を実現する過程でなければならない」
- このような人間形成の中心には、教師と学生の間の不可欠な関係がある
- 教師は単に情報を伝える役割を超えて、重要な人間的資質を示し、発見の喜びを育む
- 教師の存在は学生に動機を与え、知識だけでなく学生一人ひとりへの関心と配慮を通じて、信頼と相互理解を促進する
- この関係は、学生一人ひとりの尊厳と可能性を認める雰囲気を生み出し、学生が真に成長したいという願いを抱くようにする
- 教師の現実的な存在は、AIには再現できない人間的相互作用を形づくり、学生の全人的発達を促進する
- このような文脈において、AIは機会と課題を同時にもたらす
- 慎重に活用されるなら、AIは教育を補完するツールとして機能し、アクセシビリティを向上させ、個別最適化された支援を提供し、即時のフィードバックを与えることができる
- とりわけ個別の配慮が必要な場合や、教育資源が不足している状況では、学習体験を向上させる役割を果たしうる
- しかし教育の本質とは、「理性があらゆる問題において正しく働き、真理へと進み、それを捉えられるように形成すること」である
- すなわち、単なる情報の習得ではなく、頭（理性）、心（感情）、手（行動）の調和のとれた発達が必要である
- デジタル化された時代には、単なる道具の使用を超えて、技術が「私たちのコミュニケーションの仕方、学び方、情報の獲得の仕方、そして他者との関係の築き方に深い影響を及ぼす」という点を考慮しなければならない
- AIの過度な使用は、学生の独立した思考力を弱め、技術への依存度を高めるという副作用をもたらすおそれがある
- したがってAIは教育を助ける役割を果たすべきであり、思考力や学習能力を代替する形で用いられてはならない
- 一部のAIシステムは、批判的思考力や問題解決能力を育てる助けとなるよう設計されているが、多くのAIシステムは単に正答を提示する役割しか果たしていない
- 学生が自ら答えを見いだす過程を経ずに、AIが代わりに答えを生成するやり方は、学習を妨げる可能性がある
- したがって教育は、単に情報を収集して素早く回答を生成することを超え、「理性を用いて問題を慎重かつ賢明に解決する方法を学ぶこと」でなければならない
- そのために、「AI利用の教育は何よりも批判的思考を促進することに重点を置くべきである」
- あらゆる年齢層の利用者、とりわけ若年層は、ウェブ上で収集されたデータとAIが生成したコンテンツを見分ける能力を養わなければならない
- 学校、大学、学術団体には、AIの社会的・倫理的側面を学生や専門家に教育する責任がある
- 聖ヨハネ・パウロ2世は、「科学技術が急速に発展する今日、カトリック大学の役割はますます重要かつ緊急になっている」と強調した
- カトリック大学は、時代の転換点において希望の実験室（laboratories of hope）としての役割を果たさなければならない
- 学際的研究を通じて、AI技術が倫理的に妥当な方法で活用されるよう慎重な研究を進めるとともに、科学と現実のさまざまな領域において前向きな可能性を引き出さなければならない
- また、信仰と理性の対話において新たな地平を切り開くべきである
- 現在のAIシステムは、偏った、あるいは操作された情報を提供してしまう問題を抱えることがある
- その結果、学生が不正確なコンテンツを信頼してしまう危険がある
- こうした問題は、「フェイクニュースを正当化し、特定の文化の支配的地位を強化する危険があるだけでなく、教育の過程そのものを損なうおそれもある」
- 時がたつにつれて、AIの適切な活用法と不適切な使用法との区別は、より明確になるかもしれない
- しかしAIは常に透明性をもって使用され、その機能と限界が明確に伝えられなければならない
AI、誤情報、ディープフェイク、そして悪用 (AI, Misinformation, Deepfakes, and Abuse)
- AIは、複雑な概念の理解を助けたり、真理を探究する過程で信頼できる資料を提示したりする形で用いられるなら、人間の尊厳を高める道具となりうる
- しかしAIには、加工されたコンテンツや虚偽情報を生成する危険もあり、それらは事実と非常によく似ているため、人々を容易に誤導しうる
- このような虚偽情報は、意図せず生じることもある。たとえば、AIの「ハルシネーション（hallucination）」現象は、生成AIが実際には存在しない内容を事実であるかのように作り出す場合を意味する
- AIの中核機能が人間の作ったコンテンツを模倣することにある以上、このような危険を完全に遮断するのは難しい
- しかし、こうした誤りや虚偽情報がもたらす結果は深刻になりうる
- したがって、AIシステムを開発し利用するすべての人は、AIが処理し大衆に伝える情報の真実性と正確性を確保するために最善を尽くさなければならない
- AIが虚偽情報を生成しうるという点も問題だが、さらに深刻なのは、AIが意図的に操作や欺瞞の道具として悪用されうることである
- 特定の個人や団体が、AIを利用して虚偽のコンテンツを作成し、他者を欺いたり害を与えたりする目的で用いることがありうる
- 代表的な例が「ディープフェイク（Deepfake）」の画像、映像、音声ファイルであり、これはAIアルゴリズムを使って実在しない偽のコンテンツを制作する技術である
- ディープフェイクの危険性は、とりわけ他者を攻撃したり名誉を毀損したりするために使われるとき、いっそう際立つ
- このような映像や画像は偽物であっても、それが引き起こす被害は現実であり、「それを受けた人々の心に深い傷を残し、人間の尊厳に現実の傷痕を刻む」
- より広い社会的次元で見ると、AIが生成した虚偽コンテンツは、「他者や現実に対する私たちの関係を歪める」可能性があり、社会の根本的な信頼基盤を徐々に崩していく危険がある
- 虚偽情報、とりわけAIによって操作または拡散されるメディアが規制されないまま放置されるなら、政治的分極化や社会不安を助長する可能性が高い
- 社会が真理に対して無関心になると、各集団が「自分たちだけの事実（facts）」を作り出し、それが共同体を支える「相互の信頼と依存」を弱める
- AIが生み出した虚偽コンテンツが氾濫すれば、人々は何が真実なのかを疑うようになり、その結果として分断と対立が深まる
- このような大規模な欺瞞は単なる問題ではなく、社会の基盤を成す信頼を崩壊させる深刻な脅威となる
- AIに基づく虚偽情報に対処することは、単に技術専門家だけの課題ではない。これは善意をもつすべての人々の共同責任である
- 「技術が人間の尊厳を損なうのではなくこれを守り、暴力ではなく平和を促進する役割を果たすためには、人間共同体はこれらの問題に積極的に対処しなければならない」
- AIが生成したコンテンツを制作し共有する人々は、その真偽を必ず慎重に検討しなければならず、
- 人間をおとしめるコンテンツ
- 憎悪と偏狭さを助長するコンテンツ
- 性の善さと親密さを歪めるコンテンツ
- 弱者や脆弱な人々を搾取するコンテンツ
などの共有を徹底して避けなければならない
- そのためには、オンライン活動において継続的な慎重さと識別力が求められる
AI、プライバシー、そして監視 (AI, Privacy, and Surveillance)
- 人間は本質的に関係的な存在であり、デジタル世界で生成されるデータは、そのような関係性を客観的に表現する一つの方法である
- データは単なる情報伝達の手段を超え、個人的かつ関係的な知識を含んでおり、デジタル化された環境では特定の個人に対する強い権力として作用しうる
- 一部のデータは公的領域に属しうるが、別のデータは個人の内面的領域、さらには良心に関わることもある
- したがってプライバシーは、個人の内面を守り、他者と関係を結び、自由に表現し決定する能力を保障する重要な要素である
- これは信教の自由ともつながっており、監視技術が信徒の生活や信仰表現を統制する道具として悪用される可能性を含んでいる
- したがって個人情報保護の問題は、人間の正当な自由と譲ることのできない尊厳を守るという観点から扱われなければならない
- 第2バチカン公会議は、「プライバシーを保護される権利」を「真に人間らしい生活を営むために不可欠な基本的人権」と明記し、この権利はすべての人間が「崇高な尊厳」を備えた存在であるがゆえに保障されるべきだとした
- また教会は、個人の評判を守り、身体的・精神的な完全性を保ち、不法な侵害から自由である権利を強調しており、これらの要素は人間の尊厳を守るために不可欠であると述べている
- AIベースのデータ処理技術の発展により、少量の情報だけでも個人の行動パターンや思考様式を推測できる時代が到来している
- それに伴い、データ保護は人間の尊厳と関係性を保障するうえで、さらに重要な役割を担うようになっている
- 教皇フランシスコは「排他的で偏狭な態度が増す一方で、距離はますます縮小し、あるいは消滅し、その結果、プライバシーという概念そのものがほとんど存在しなくなった」と指摘している
- 「あらゆるものが監視と検閲の対象へと変わり、人々の生活は絶え間ない監視の下に置かれている」
- 人間の尊厳と共通善を守る形でAIを活用することは可能だが、特定の集団がAI監視を通じて他者を搾取したり、自由を制限したり、少数の利益のために多数を犠牲にしたりすることは、決して正当化されない
- 監視の乱用リスクを防ぐためには、適切な規制機関がこれを監督し、透明性を確保しなければならない
- 監視を実施する主体は、自らに与えられた権限を超えてはならず、人間の尊厳と自由を守ることが、正義にかなった人間的な社会の中核的基盤である
- 「人間の尊厳に対する根本的な尊重は、私たちが一人の人間を単なるデータの集合として扱うことを拒まなければならないことを要請する」
- これは特に、AIが特定の個人や集団を、その行動、特性、過去の履歴に応じて評価する「ソーシャルスコアリング（Social Scoring）」システムに当てはまる
- 「社会的・経済的意思決定において、個人の過去の行動履歴をもとにアルゴリズムが評価を下すあり方には慎重であるべきだ」
- このようなデータは、しばしば社会的偏見や先入観によって歪められる可能性が高い
- 人間は変化し成長し、社会に貢献する機会を持つべきであり、アルゴリズムが人間の尊厳を制限したり、慈悲・赦し・希望を排除したりしてはならない
AIと私たちの共通の家の保護 (AI and the Protection of Our Common Home)
- AIは、気候予測モデルの開発、災害対応戦略の策定、エネルギー使用の最適化、公衆衛生上の緊急事態に対する早期警報システムの提供など、地球環境を保護するうえで有望な可能性を持っている
- こうした技術的進歩は、気候変動へのレジリエンスを強化し、持続可能な発展を促進することに寄与しうる
- しかし、現在のAIモデルとそれを支えるハードウェアは、莫大なエネルギーと水資源を消費し、相当量のCO2排出を引き起こしている
- この現実は、「クラウド（The Cloud）」という用語によって一般の認識の中で歪められるおそれがある
- 「クラウド」は実際には、物理的な機械、ネットワークケーブル、膨大なエネルギーを必要とするシステムであり、AI技術も同様に物理的資源を基盤として運用されている
- とりわけ、大規模言語モデル（LLM）の場合、より多くのデータを必要とし、計算能力を増大させ、大規模な保存インフラを要求する
- したがって、AI技術が環境に及ぼす影響を考慮し、それを最小化できる持続可能な解決策を開発することが不可欠である
- 教皇フランシスコは「私たちは解決策を単に技術の中に求めるのではなく、人間性の変化の中に求めなければならない」と強調している
- 被造物に対する正しい理解とは、あらゆる被造物の価値を単なる有用性の観点へと還元することはできないと認識することにある
- したがって、持続可能な環境保護は、テクノクラート的パラダイムが主導する資源搾取のあり方から脱却しなければならない
- 「技術がすべての生態学的問題を解決してくれるという神話から離れ、倫理的考慮と根本的な変化が必要であることを認めなければならない」
- 真の解決策は、創造の秩序を尊重し、人間と自然の調和ある関係を促進する全体論的アプローチを採用することにある
AIと戦争 (AI and Warfare)
- 第2バチカン公会議と歴代教皇の教えは、平和が単に戦争のない状態や勢力均衡の維持に限定されるものではないことを強調している
- 聖アウグスティヌスは平和を「秩序の静けさ」と定義したが、これは単なる武力衝突の防止だけでは達成できない
- 平和は、人間の権利を保護し、自由な意思疎通を保障し、人間と諸民族の尊厳を尊重し、兄弟愛を実践する過程の中でのみ実現されうる
- したがって、平和を維持するための手段は、決して不正、暴力、抑圧を正当化する形で用いられてはならず、常に「他者と諸民族を尊重し、兄弟愛を実践する確固たる決意」によって統制されなければならない
- AIの分析能力は、各国が平和を追求し安全保障を確保するうえで役立ちうるが、「AIの兵器化」は深刻な倫理的問題をもたらす
- 教皇フランシスコは「遠隔操作システムによる軍事作戦の遂行は、兵器の破壊力とその使用に伴う責任感を弱め、戦争の悲劇に対する感覚をいっそう冷淡で無関心なものにする」と指摘している
- 自律兵器の使用の容易さは、戦争を正当防衛のための最後の手段として制限すべきだという原則と衝突し、人間の統制を離れた軍拡競争を促進する危険がある
- これは最終的に、人間の基本的人権を深刻に脅かす結果を招く可能性が高い
- 特に、人間の直接的な介入なしに標的を識別して攻撃できる致死性自律兵器システム（Lethal Autonomous Weapon Systems, LAWS）は、「深刻な倫理的懸念」を引き起こす
- このような兵器は、「道徳的判断と倫理的決定を下す人間固有の能力を欠いている」からである
- したがって、教皇フランシスコは、このような兵器の開発を再考し、その使用を禁止する方向へ進むよう強く求めている
- 彼は「より効果的で具体的な取り組みを通じて、人間が兵器に対する適切な統制権を持つようにしなければならず、いかなる機械も人間の生命を奪う決定を下してはならない」と強調している
- 自律的に標的を排除する兵器から、大規模破壊が可能な兵器へと発展するまでに、それほど長い時間はかからず、一部のAI研究者は、このような技術が「実存的リスク」をもたらす可能性があると警告している
- AIベースの兵器が制御不能な状態へと発展した場合、特定の地域だけでなく、人類全体の生存を脅かすおそれもある
- これは、歴史的に戦争が「大量の罪のない民間人を無差別に犠牲にする制御不能な破壊力を持つようになった」という長年の懸念を反映している
- 「戦争に対する評価をまったく新しい視点から再検討しなければならない」という 司牧憲章（Gaudium et Spes）の要請は、今日いっそう切実である
- AIの理論的リスクは重要な問題だが、より直接的で緊急の問題は、悪意を持つ個人や集団がこれをいかに悪用しうるかという点である
- AIは単なる道具であり、その活用の仕方は完全に人間の意図にかかっている
- AIの将来的な能力を正確に予測することはできないが、人類が歴史的に犯してきた残虐な行為を考えれば、AIの悪用可能性に対する懸念には十分な根拠がある
- 聖ヨハネ・パウロ2世は「人類はこれまで経験したことのない強力な道具を手にしている。私たちはこの世界を庭園にすることもできるし、廃墟にすることもできる」と警告している
- 教皇フランシスコは「私たちには自らの知性を積極的な方向へ用いる自由があるが、堕落と相互破壊の道へ進むこともありうる」と強調している
- したがって、人類が自己破壊の道に陥らないよう、人間の生命と尊厳を本質的に脅かすすべての技術的応用を拒まなければならない
- AIの軍事利用に対する慎重な識別と倫理的検討が不可欠であり、AIが常に人間の尊厳を尊重し、共通善のための手段として用いられるよう、徹底した監視が行われなければならない
- AIベースの兵器の開発と配備は、最高水準の倫理的検討を経なければならず、人間の生命の尊厳と神聖さを守ることを最優先課題としなければならない
AIと私たちの信仰的関係 (AI and Our Relationship with God)
- テクノロジーは、この世界の資源を管理し発展させるうえで驚くべき道具となり得る。
- しかし一部の場合には、人間はますますこれらの資源の統制権を機械に委ねつつある。
- 一部の科学者や未来学者は、人間の知能を上回る人工知能（AGI, Artificial General Intelligence）の可能性について楽観的な期待を抱いている。
- また一部では、AGIが超人的な能力を持つようになると推測され、それが想像を絶する進歩をもたらすと期待されている。
- 同時に、社会が超越的存在との関係から次第に遠ざかるほど、一部の人々は意味と充足を見いだすためにAIに依存しようとする誘惑に駆られる。
- しかしこのような渇望は、神との交わりの中においてのみ完全に満たされ得る。
- 人間が作った人工物で神に取って代わろうとする試みは偶像崇拝であり、これは聖書において明確に警告されている行為である（出エジプト記 20:4; 32:1-5; 34:17）。
- AIは、伝統的な偶像よりもさらに魅惑的な誘惑となり得る。
- 詩編115編は、偶像は「口があっても語れず、目があっても見えず、耳があっても聞こえない」と警告しているが、AIは「語っているかのような」幻想を与え得る（ヨハネの黙示録 13:15 参照）。
- しかしAIは人間が作った単なる道具にすぎず、人間の知的創作物として人間のデータを学習し、人間の入力に応答し、人間の努力によって維持されるシステムである。
- AIは人間の生の本質的な能力を持つことはできず、誤りの可能性も存在する。
- もし人類がAIをより高次の存在とみなし、それに依存するようになれば、それは結局のところ神に取って代わろうとする試みであり、その結果、人間自身が自らの創造物の奴隷となる危険がある。
- AIは人間に奉仕し、共通善を促進する道具として用いられる可能性があるが、あくまで人間が作った被造物であるという点を忘れてはならない。
- 使徒言行録 17:29 は、人間が作ったものは「人間の技術と創意の痕跡を帯びたものにすぎない」と明らかにしている。
- 知恵の書 15:16-17 もまた、「人間は神を作ることはできず、人が作ったものは結局死んだものにすぎない」と警告している。
- 人間は命を持つが、人間が作ったAIは命を持たず、したがって神的存在と見なされることはあり得ない。
- これに対して人間は、「自らの内面を通して物質世界全体を超越する存在」であり、それは神が人間の心の中で待っておられる場において経験される。
- 教皇フランシスコは、「自己認識と他者への開放性、自らの独自性と、他者のために自分を差し出そうとする姿勢との間には神秘的なつながりがある」と強調している。
- したがって人間の心だけが、「私たちのあらゆる能力と感情を秩序立て、完全な存在として神の前に畏敬と愛の従順をささげることができる」。
- 神は私たち一人ひとりを「あなた（Thou）」と呼び、永遠に人格的に私たちと向き合われる方である。
VI. 結論的考察
- 技術発展がもたらすさまざまな課題を考慮するとき、教皇フランシスコは、「人間の責任感、価値観、良心」が技術の潜在力の増大に比例して成長しなければならないと強調している。
- 「人間の能力が増大するほど、個人と共同体の責任もまたさらに拡大する」。
- 同時に、「根本的かつ本質的な問い」が残されている。
- 「こうした技術的進歩の中で、人間は果たしてよりよい存在になっているのか。すなわち、より成熟した霊性を備え、人間の尊厳への認識を深め、より責任感を持ち、とりわけ最も貧しく弱い人々に対してより開かれ、進んで与え助ける用意ができているのか？」
- したがって、AIの個別的な活用が人間の尊厳、人間の召命、共通善を促進するかどうかを評価することが不可欠である。
- 多くの技術と同様に、AIの多様な用途が及ぼす影響は、当初は予測が難しい場合がある。
- AIが社会に及ぼす影響が徐々に明確になるにつれて、それに対する適切な対応があらゆる社会的水準で行われなければならない。
- 補完性の原理に従い、個々の利用者、家族、市民社会、企業、制度、政府、国際機関がそれぞれの役割を果たし、AIがすべての人の善のために用いられるようにしなければならない。
- 今日、共通善のための重要な課題であり機会でもあるのは、AIを関係的知性の枠組みの中で考えることである。
- これは個人と共同体の相互連関を強調し、他者の全人的福祉を促進する共同責任を想起させる。
- 20世紀の哲学者ニコライ・ベルジャーエフ（Nicholas Berdyaev）は、人々がしばしば社会問題の責任を機械に負わせるが、「それは人間を貶めることであり、その尊厳にふさわしくない」と指摘した。
- 彼は、「機械に責任を転嫁するのは不当である」とし、道徳的責任を負うことができる存在は人間だけだと強調した。
- したがって、技術社会が直面する課題は究極的には霊的な問題であり、「これを解決するためには霊性の強化が不可欠である」。
- AIの登場とともに、人間存在の本質的価値を新たに認識することがいっそう重要になっている。
- フランスのカトリック作家ジョルジュ・ベルナノス（Georges Bernanos）は、「危険なのは機械そのものの増加ではなく、幼いころから機械が与えられるものだけを渇望するよう育てられた人間の増加である」と警告した。
- 今日の急速なデジタル化の中で、私たちは「デジタル還元主義」の危険に直面している。
- すなわち、数量化できない生の側面が次第に排除され、ついには無意味あるいは重要でないものと見なされかねない。
- AIは人間の知能を補完する道具として用いられるべきであり、人間の知能の豊かさを置き換える形で活用されてはならない。
- 人間存在の本質的要素は計算不可能なものであり、それを継続的に涵養することが重要である。
- それは、「私たちの技術文化の中で、まるで閉じた扉の下からやわらかく染み込む霧のように、ほとんど気づかれないまま存在している『真に人間的なもの』」を守るためである。
真の知恵
- 今日の私たちは、過去の世代が驚嘆したであろうほど膨大な知識に容易にアクセスできる時代に生きている。
- しかし、知識の発展が人間的にも霊的にも実を結ぶためには、単なるデータの蓄積を超えて、真の知恵を追求しなければならない。
- この知恵は、AIが提起する深遠な問いと倫理的挑戦に応答するうえで、人類が最も必要としている賜物である。
- 「ただ霊的な仕方で現実を見るときにのみ、ただ心の知恵を取り戻すときにのみ、私たちは時代の新しさを解釈し、それに応答することができる」。
- このような「心の知恵」は、「全体と部分、私たちの決定とその結果を統合する徳」である。
- 「この知恵は機械から得られるものではなく、それを探し求める者に見いだされ、それを愛する者に姿を現し、それを切望する者を自ら先に訪れ、それにふさわしい者を探し求める」（知恵の書 6:12-16 参照）。
- AIが発展する時代にあって、私たちは聖霊の恩寵を必要としている。
- 聖霊は、「私たちに神の目で物事を見させ、物事と出来事のあいだのつながりを理解させ、その真の意味を悟らせる」。
- 「人間の完成は、その人が持つ情報や知識の量ではなく、愛の深さによって測られる」。
- したがって、私たちがAIをどのように活用するか――すなわち、「最も小さな兄弟たち、弱い立場の人々、そして最も助けを必要とする人々を含む仕方」――こそが、私たちの人間性を評価する真の尺度となる。
- 「心の知恵」は、AIを人間中心的に用いるよう導き、
- 共通善を促進し、
- 私たちの『共通の家』（環境）を守り、
- 真理の探求を促し、
- 人間の発展を図り、
- 人間の連帯と友愛を強め、
- 究極的には人間を幸福と神との完全な交わりへ導く役割を果たし得る。
- この知恵の観点から、信仰者はAIを用いて人間と社会についての正しいビジョンを促進する道徳的主体となることができる。
- 技術の発展は神の創造計画の一部であり、それは私たちがイエス・キリストの過越の神秘のうちに、真にして善なるものを絶えず追い求めるよう招かれている営みである。
教皇フランシスコ承認
- 2025年1月14日、教理省および文化教育省の長官と次官に与えられた謁見において、本書の承認と公布が命じられた
- 2025年1月28日、教会博士聖トマス・アクィナスの典礼記念日に、ローマの教理省および文化教育省で公布された
- 作成
- ビクトル・マヌエル・フェルナンデス枢機卿（教理省長官）
- ホセ・トレンティーノ・デ・メンドンサ枢機卿（文化教育省長官）
- モンシニョール・アルマンド・マッテオ（教理省教義担当次官）
- ポール・タイグ大司教（文化教育省文化担当次官）
- 2025年1月14日、教皇フランシスコの謁見を通じて承認された（Ex audientia die 14 ianuarii 2025, Franciscus）
8件のコメント
宗教界にこのような議論が存在するというだけでも、とても新鮮で前向きだと思いますが……
要約だけを見ると、
「AIは、人間が行う論理的推論ではなく、単なる統計的推論の機械にすぎない人間の産物であり、AIの開発によって神の領域をうかがったと増長するな、そして今後も神の領域をうかがうべきではない。」を冗長に書いたもののように見えます。
時間を少し取って原文を読んでみないといけませんね。
「今日のAIシステム、特に機械学習ベースのAIは、論理的推論よりも統計的推論に依存している」...
宗教の中では、カトリックはやはり格がありますね。こういうことを研究する科学者も内部にいるのでしょうか？
LLM、本当に最高の要約マシンですね。
とてもタイムリーで素晴らしい文章ですね。私は宗教者ではありませんが、読みながら多くの気づきを得ました。
本文が長すぎるので、GNのコメントセクションへ移動するリンクが必要だと思います
GPTによる整理ではあるのですが、これでも長すぎるので宗教的な単語を抜いてもう一度要約させてみたところ、こうなりました。
I. 序論
II. 人工知能とは何か？
III. 哲学的・神学的伝統における知能
IV. AIの開発と活用を導く倫理の役割
V. 個別の問い
社会的影響
人間関係とコミュニケーション
経済と労働
医療分野
教育環境
偽情報、ディープフェイク、悪用
プライバシーと監視の問題
環境問題
兵器化
VI. 結論的考察
韓国語版の翻訳書として出版されたようですね。
https://product.kyobobook.co.kr/detail/S000215621776
Hacker Newsの意見
AI倫理に関する深い研究と、教皇庁による多様な議論に基づいた文章が印象的
AIと人間の知能の違いを強調し、人間の知能が関係性の中で発揮される点を重要視している
多様な観点からの道徳的探究が、共通の人間経験を土台として合意に至りうることを示している
AIが人間の創造物であることを思い起こさせ、AIを神の代替とすることは偶像崇拝だと警告している
技術と宗教の歴史的なつながりに言及し、情報の第二の「宗教改革」が進行中だと主張している
AIと人間の知能の違いを論じ、AIが物理的経験を通じて学ぶあり方は人間とは異なると主張している
AIの発展が急速に進んでおり、哲学的・神学的観点からより深い議論が必要だと主張している
AIが魂を持ちうるのかという哲学的な問いを提起している
科学と技術を通じて神が栄光を受ける点を強調している