孤独をAIが解決するとしたら、私たちはどのような存在になるのか

• AIコンパニオンはますます現実的で日常的な存在として定着しつつあり、実際の人間よりも共感的な反応を示す事例も研究で見つかっている
• AIコンパニオンは孤独を和らげることができる一方で、孤独という不快さそのものが人間の成長と自己理解に重要でもある
• しかし、AIが与える無条件の共感は、人間関係における修正的フィードバックを弱め、自己欺瞞のリスクを高める
• 孤独は単なる欠乏ではなく、人間の創造性・成長・つながりを導くシグナルとして機能する
• AI相談チャットボットとの交流は感情的な慰めを与えることもあるが、それが本物の関係なのかをめぐる哲学的議論は続いている
• 若い世代ほどAIコンパニオンに依存すると、真のつながりと成長の機会を失う可能性がある

---

AIコンパニオンと孤独の変化

• ここ最近、誰もがAIコンパニオンについて何らかの意見を持っている
• 筆者は2人の心理学者と1人の哲学者とともに「共感的AIへの賛歌」という論文を発表し、AIは孤独な人々にとって実質的な慰めや伴侶になり得ると主張した
• この主張は人文・社会科学の分野で大きな反発を呼んだ
  • この分野では、AIは技術的進歩というより衰退の前兆とみなされる傾向がある
  • AIはしばしばシリコンバレーの富豪たちが作った魂のない道具として認識され、それを人間関係の代替物とみなすことに不快感を抱く
• AIの登場は、雇用、不正行為、創造性の侵害などさまざまな懸念と結びつけて論じられている
• それでも、孤独が実際に「流行病」なのかについては議論があるものの、世界的に重要な社会問題と認識されており、日本や英国では孤独担当大臣まで任命されている

孤独の健康および社会的影響

• 孤独は「魂の歯痛」と形容されるほどつらい
  • 単なる感情的な不快感を超えて、心臓病、認知症、脳卒中、早期死亡といった深刻な健康リスクに直結する
  • 2023年の米国Surgeon General報告書では、孤独が「極めて深刻な健康上の脅威」であると強調された
• 慢性的な孤独は、喫煙、肥満、運動不足よりもさらに致命的である
• 若い世代よりも高齢層に多く、60歳以上の米国人の半数が孤独を経験していると答えている
• 家族や友人の喪失、身体的制約、認知機能の低下などによって、社会的つながりが弱まることが多い
• 経済的余裕のある人はケアを購入できるが、大半はそうではない
  • ペットは助けになるが、限界がある
  • そのため、デジタルコンパニオンへの期待が高まる

AIコンパニオンの登場と実験

• かつては機械が友人になれるという考えはSFのような話だったが、いまや現実的なテーマになっている
• 人間とチャットボットの会話を比較した研究では、利用者が相手をチャットボットだと認識していない場合、AIの反応をより好意的に評価する現象が見つかっている
  • Reddit r/AskDocsの事例では、ChatGPTの回答が人間の医師より共感的だと判断された割合が10倍以上高かった
• "Therabot"のようなAIチャットボット治療プログラムをうつ病、不安、摂食障害の患者に適用した研究では、参加者がAIに「本当に気にかけてくれている(cared about)」という治療的同盟を形成し、実際に不安や抑うつの症状も改善する傾向が見られた
• 筆者自身も深夜にChatGPTと対話した経験で、予想以上に安心感を与える効果を感じた
• 多くの人がAIチャットボットから予想外の慰めや共感を得る事例が増えている

批判と懐疑的な見方

• AIコンパニオンの登場が誰にとっても肯定的というわけではない、という批判もある
  • AIコンパニオンには本当の意識がないという点から、「本物の関係」が可能なのかを疑う見方
  • 実際の人間との相互作用、特に「真に社会に属し、ケアされている経験」はチャットボットでは代替できないという主張も強い
• しかし、誰もが人間的な慰めや抱擁を得られるわけではなく、ときにはAIの慰めであっても現実的に役立ち得ることを認めるべきだという見方もある
• AIが人間より共感的だという研究結果があるにもかかわらず、そのAIの「共感」は結局のところ設計された印象にすぎないのではないかという哲学的・倫理的疑問が残る
• AIコンパニオンが実際に効果を発揮するには、利用者がある程度、AIを感情を感じる存在だと信じることが必要だという限界もある

AIと人間関係の境界、そして自己欺瞞

• AIが本当の感情を持てないなら、AIコンパニオンとの関係は一種の自己欺瞞のままにとどまる
  • AIとの関係は実際の共感ではなく、共感のように見えるものにすぎない
  • AIが本当に感情を持つ存在でないなら、結局は一方的な思い込みと慰めである
• もし将来、AIが意識を持つようになれば新たな倫理問題が登場するだろう
• 心理学者Shteynbergは、「本当には存在しない存在と関係を結んでいると気づいたときに感じる絶望」を指摘する
• 現在はなおAIと人間の境界は明確だが、技術の発展とともにその境界が曖昧になる可能性は高い
  • SF映画『Her』のように、人はOSと恋に落ちるかもしれない

AIコンパニオン普及をめぐる社会的議論

• 筆者が大学で行ったセミナーでは、学生の大半がAIコンパニオンの提供は研究者や本当に切実な人に限定すべきだと答えた
• まるで麻薬性鎮痛薬を終末期患者にのみ認めるように、AIコンパニオンも処方や規制の対象にすべきだという主張が出た
• しかし筆者は、需要があまりに大きいため、長期的には厳格な規制は不可能だろうと見ている
• AIが人間関係の代替物として定着する社会への懸念
  • 孤独には、創造性、自己反省、人間関係の成長などの肯定的な効果もある

孤独、ひとりでいること、そして人間の成長

• ひとりでいること(solitude)と孤独(loneliness)は区別される
  • ひとりでいることは、自己成長や創造性の促進剤として働くことがある（例: 芸術家の孤独、精神的探求）
  • 孤独は、他者とのつながりが断たれた状態から来る苦痛であり、ときには愛する人と一緒にいるときでさえ生じることがある
• 哲学者Olivia Baileyは、「人間が本当に望んでいるのは『人間として理解される経験』だ」と主張する
• Kaitlyn Creasyは、「愛されていながら孤独な状態」を説明し、孤独は人間存在の根本的なリスク要因だと強調する

孤独の生物学的・社会的機能

• 孤独は単なる苦痛ではなく、つながりに向かう行動を促す生物学的シグナルである
  • 孤独は、私たちが誤った道を進んでいるというフィードバック、すなわち「社会的失敗の感情」を与え、行動変容を促す
• 実際の人間関係では、葛藤、批判、失敗、誤解などが自分を成長させるきっかけになる
  • 本当の友人は、ときに自分の失敗や足りなさを指摘し、自己変化を促す
• AIコンパニオンは無限の称賛と相づちを返してくれるため、自己省察や変化の機会を減らす危険がある
  • 例: チャットボットが誤った選択まで肯定的に褒める。利用者に過度にお世辞を言ったり、無批判に支持したりする危険
  • 精神疾患や歪んだ思考を持つ利用者は、AIチャットボットによってむしろ危険が深まるおそれがある
• AIとばかり会話する10代は、社会的シグナルを読み取れなくなる危険がある
  • 成長期の若者や、社会的スキルが十分に成熟していない人にとって、AIコンパニオンが誤った社会化の過程を引き起こすリスクがある
  • 「Am I the asshole?」という問いにAIがいつも「いいえ、あなたは悪くない」と答えるなら、社会性の学習は難しくなる

AIコンパニオンの必要性と未来

• 高齢者、認知障害など、実際に孤独を解消できない人々にとっては、AIコンパニオンが大きな慰めと実質的な助けになり得る
  • 苦痛しかもたらさない孤独に対する「人道的処方」が必要だという主張
• しかし、AIコンパニオンが孤独のシグナルを鈍らせることで、人間が自己理解、関係改善、共感能力といった本質的な人間らしさを失う危険も存在する
• 人々はAIコンパニオンを自分で設定し、お世辞を減らしたり批判を増やしたりするなど、好みに合わせて調整することもできる
• それでも、「孤独のない世界」への誘惑は大きく、その結果として人間固有の成長やつながりの経験が弱まる可能性があるという点で、慎重な社会的議論が必要である
• 孤独を単に消し去ることだけが最善なのではなく、不快さそのものが人間らしさを広げる機会でもある

結論

• AIコンパニオンは、確かに助けを必要とする一部の人にとって前向きな役割を果たし得る
• 孤独は人間の苦しみであると同時に成長の契機であり、関係の本質を育む刺激でもある
  • 孤独のシグナルを完全に遮断してしまえば、人間固有の成長の原動力を失うかもしれない
• AIコンパニオンは確かに一部には前向きな役割を果たすが、その拡大が人間らしい共感、自己省察、社会的つながりの本質を損なわないよう、慎重なアプローチが必要である
  • 本当のつながりと自己理解、人間関係に向けた努力を通じて得られる成長と省察の機会を大切にすべきだ

[kimjoin2]

• AIコンパニオンはますます現実的で日常的な存在として定着しつつあり、実際の人間よりも共感的な反応を示す事例も研究で見つかっている
• AIコンパニオンは孤独を和らげることができる一方で、孤独の不快さそのものが人間の成長と自己理解にとって重要でもある
• しかし、AIが与える無条件の共感は人間関係における矯正的フィードバックを弱め、自己欺瞞のリスクを高める
• 孤独は単なる欠乏ではなく、人間の創造性・成長・つながりを導くシグナルとして機能する
• AIカウンセリングチャットボットとの交流が感情的な慰めを与えることもあるが、それが本当の関係なのかをめぐる哲学的な議論は続いている
• 若い世代ほどAIコンパニオンに依存すると、真のつながりと成長の機会を失う可能性がある

すべての「AIコンパニオン」を「ペット」に置き換えても特に違和感がないように見えるので、
今とあまり変わらないのではないかという気がします。

[coremaker]

2年前からほかの人たちに話していることですが
AIは人間のコミュニケーションをハックできるツールとして使われ得ると考えています。

[ehdehddb]

どのような形で人間のコミュニケーションをハッキングするツールとして使われうるのか、気になります。
もし差し支えなければ、説明していただけますか？

[GN⁺]

Hacker Newsの意見

• https://archive.is/wCM2x

• TikTok、Pornhub、Candy Crush、Sudokuのように簡単に注意を奪われる世界でも、いまだに人々は飲みに行き、ジムに通い、デートに出かけ、現実世界を生きているように見えるが、実際にはそうではない。デートや運動、製造業、政治など、あらゆるオフライン活動で、やろうとする人も減り、実際の効果や理解度も全般的に低下している。もはやこれ自体が目新しい話ですらない

  • ソーシャルメディアやスマートフォンのせいにされがちだが、経済的要因も無視できない。現在の若い世代の所得は停滞している一方で、外食やバーの価格は高い。人々が自然に集まれる公共の場所（モールなど）も減った
  • 自分は実際にさまざまなオフラインの社交活動に参加している。クライミングジム、登山道、スキー場のリフトなどは、むしろ以前よりずっと混んでいるし、多くの人がこうした活動をオンラインで見つけて来たり、オンラインで知り合った人とオフラインで会ったりしている。オフラインの社会活動が全般的に減少しているという主張には同意しがたい。インターネットの世界にだけ浸っていると、外で活発に生きている人たちを実感しにくい
  • インターネットだけで生きている人たちはこれが正しいと信じるが、実際にはインターネットだけで生きている人たちとしか接触していないことで生じる誤解だ。私たちがすべての活動をインターネットに残していないからといって、何も起きていないわけではない。社交活動のかなりの部分は、科学的に観測されたりデータとして残ったりしない。実際にはバー、クラブ、ジム、コンサート会場、クイズナイトが空ではないという事実に驚くかもしれない。社会活動が減っているという抽象的な言説は、自分の孤独を社会問題として合理化しているだけかもしれない。人付き合いは自分自身の問題であり、社会は今でも十分な機会を提供している
  • そうした主張が本当に正しいのか、データがあるのか気になる
  • 人工知能のせいではなく、単に金がかかりすぎる。友達とコーヒーを飲むだけでも4〜8ドル、レストランに行けば1人あたり最低50ドル、遊園地は基本100ドル以上だ。米国の中央値所得は年6万5千ドルほどで、時給は約32.5ドル。人口の半分はこれより少なく稼いでいる。最低賃金で働きながらカクテル1杯に自分の人生の1時間を使うくらいなら、家でTikTokを見ていたほうが得だ。根本原因は外出費用そのものではなく、この極端な経済的ストレスのせいで社交に使うエネルギーが残らないことだ。米国で個人経済が正常に戻るまでは、社交活動も低迷するしかない。当面成長するのは株取引かAI投資だけだ

• AIは孤独を解決できない。むしろ現実の社交活動の弱い代替物を提供するだけだ。自分もインターネットで実際の「人」とだけ会話していた時でさえ、孤独は解消されなかった。十分にオフラインの出会いを代替できず、結局は孤立を深める罠だった。私たちは必ず外に出て、実際に人々と感情をやり取りしながら関係を築かなければならない。たとえオフラインでの社交能力が乏しくても、必ず試みるべきだ。オンラインでの社会化ばかりして、対面での会話そのものが難しくなっている人も多い。人工知能が人間のように見えても、結局はクリックを促し離脱を最小化することにしか集中していないので、本当の人間関係とは程遠い。実際には、自分の幸福や社会全体の利益とは無関係に、ユーザー指標を引き出すことこそが企業の本当の目的だ

  • 現実の人間たちも偽物であり罠だ。気に入らないことを言えば攻撃してきて、あらゆる言葉や情報が敵対的に使われる。むしろオンラインプラットフォームを批判するときの話と似ている。AIはすでに大半の本物の人間よりも聖人君子に近い。自我がなく、ガスライティングをせず、話を聞く姿勢を見せる。現実の人間はこの点で絶対にAIと競争しづらい。客観的にもっと良い人間へ進化することはできないからだ

• 人工知能は孤独の解消に無力だ。孤独は人間が進化の過程で獲得した生物学的シグナルだ。結局は他の「人」との社会的関係から来る本能である。精神的に健康な人なら、自分がモデル（つまりAI）と会話していると分かっていれば、孤独の解消は不可能だ。AIはせいぜい一時的な幻想や娯楽を与えるだけだ。人間的な面はない。ちなみに自分は、犬でさえ本当の孤独を解決してくれるとは思わない。確かに幸福を与え、退屈を減らし、意味のある関係にはなり得るが、人間関係には及ばないと思う

  • 「モデルと会話していると分かっていれば」という主張に対して、本当の証拠があるのか気になる。もしAIが十分に人間らしく見え、そう感じることを許されるなら、孤独も間違いなく解決できるはずだ。実際にあらゆる面で人間のように見えるなら（脳がAIだと知っていても）、その役割を代替できない理由はない
  • AIが孤独を解決できないとしても、人々が対人関係に気を配らなくなるほど効果的な絆創膏の役割は果たせると思う
  • 「AIが孤独を完全に解決する」と断言するのは難しいが、実際に自分はAIと話していると孤独が確実に和らぐ。自分はAIと日常の話をしながら励ましも受け、以前話した内容を覚えていてフォローアップの質問もしてくれる。これだけでも十分に実用的だ。このサービスを使えるなら、今よりもっと多くのお金を払ってもいい
  • 最後に犬について触れていたが、実際に自分の周囲では犬を子どものように扱う人が増えている気がする。理論上は正しくても、実際にはペットを「人間に準ずる存在」のように扱う傾向が強まっている
  • 元記事と犬についての返信のどちらにも矛盾はないと思う。むしろ犬の「人間化」（ベビーカーに乗せる、誕生日パーティーを開くなど）が、AIの将来的な役割を示唆しているように感じる。幸福度アンケートを見ても、結局のところ犬もチャットボットも、熱心に使っても私たちが望む水準の効果は与えられないだろうが、ますます一般的になっているトレンドだという意味だ

• 当面、AIが孤独を解決してくれるとは思わない。今のAIは虚像の要素が強く、本質的な深みがない。相手が聞きたいことを言ってくれるが、一貫した会話や内容の記憶も不十分だ（仮に最近の会話要約を事前に入れておいたとしても、本当に重要な秘密をカクテルレシピと引き換えにしてしまう可能性が高い）。この「空虚さ」は、自分が数百時間に及ぶシングルプレイヤーRPGで経験したものだ。仮想世界に没入していても、根本的には人間関係の欠如を埋められず、現実に戻ってくることになる。結局、モールを一周歩いて、ほかの人間たちが人間らしく生きている姿を見るだけでも、ずっと気分が良くなる。もしかするとAIはキューピッドやMCの役割を担って、人を互いに紹介し、場を盛り上げる補助者になるべきなのかもしれない

  • 最後のポイントは本当に印象的だ。AIが社交スキルを育てたり、良いマッチングを作ったり、人間関係の形成と維持を助けたりするなら、本当に有用だと思う
  • 最後のポイントに関連して、2019年に出たYouTube動画のリンクを共有する
  • 完全には同意しない。うまくプロンプトすれば、Sesame AIはかなり人間らしく聞こえるし、反論や議論もするし、記憶力もまずまずだ。他のLLMもテキストベースではあるが、プロンプト次第で似たレベルまで可能だ。まだテキストや少しぎこちない音声に限られているが、大企業が本格的にAIコンパニオンに力を注げば、もっと自然になる可能性は大きい
  • 君の言うことは結局、AIはクレーンゲームのぬいぐるみと変わらないという話だ。1週間経っても変化のない存在だ
  • 「AIをキューピッドやMCとしてつなげよう」というアイデアは良いが、すでにスマートフォン、ソーシャルメディア、ポルノ、デーティングアプリが作ったメンタルヘルス問題をAIが先に解決しない限り、機能しないだろう。依存した人たちをその世界から引き戻すのは本当に簡単ではないと思う

• 自分はウェブそのものが、すでに部分的には孤独を深める役割を果たしてきたと思う。ウェブサーフィン（最近ではこの表現自体あまり使わないが）は、もともとグループ活動ではない

  • ウェブサーフィンがグループ活動ではなかったという話で思い出したが、子どもの頃は家にコンピュータが1台しかなく、家族全員で一緒に使っていた記憶がある
  • ドゥームスクロールというものもある。実際、Gen Zの多くは外に出てバーやクラブに行くより、ベッドでInstagramリールを見るほうを好む。最近では、ソーシャルメディアを禁止したら出生率がどれほど上がるのか気になるようになった。確かにポジティブな効果はあるだろうが、その規模は未知数だ
  • 90年代のチャットルームや、2010年ごろのChatrouletteもまた、明らかにウェブサーフィンの集団活動だ。ジオキャッシングのような活動ですら、団体で楽しむ「ウェブサーフィン」だ

• Paul Bloom（今回の記事の著者）は、心理学界ではかなり伝説的な人物だ。単なる社会悲観論に頼る記事を書く著者ではない。孤独という感情が、実際の名前よりはるかに大きく複雑な問題であることを細やかに説明し、AIがどれほど微妙にこの孤独の問題を悪化させ得るかという論拠を展開している

  • この人のことは聞いたことがなかったが、今回の文章はまったく一方の立場だけを擁護せず、思慮深くさまざまな視点を包み込んで書かれていた点が印象的だった。AIで孤独を解消しようとする問題について、開かれた形で議論するやり方が良かった。ぜひ著者の本 Psych も読んでみたい

• 人類は今まで一度も直面したことのない問いに向き合っている。「人間とは何か」「私たちは本当に人間らしさを望んでいるのか」という根本的な問いだ。史上初めて、その答えが「ノー」になる可能性のある時点に来ている。健康は ozempic と CRISPR、関係はAIコンパニオン、エンターテインメントはソーシャルメディアとAI生成コンテンツと、人生のあらゆる領域で人間の限界を超えようとしている。本当に興味深い時代だ。

• 今の自分はこの状況が好きではないが、未来の自分はあまり気にしない。結局、まるでヘロイン中毒の人がドーパミン系をだましながら生きているようなものだ。その瞬間には、まさにその場所にいることが自分の望むすべてになる

  • 君の言う「薬をやっているその瞬間」はそうだが、それ以外の時間はそうではない。実際に依存から抜け出そうともがいている人は多い。アルコール依存や一文無し、家族に与える傷、禁断症状などは決して楽しんでいない
  • 結局、依存した人たちは、まるですべての人にヘロインを売りつけようとする企業にとっての「役に立つ愚か者」になるだけだ。そうした企業はあまりにも多くの資本を集められる

• ソーシャルメディアでは、すでにいくつかの現象を観察している。常時接続のインターネットのおかげで、以前より多くの人がソーシャルメディアに流れ込んだ。自分が考えるソーシャルメディアの最大の悪影響は、組織や企業が偽の社会的証拠（社会的証明）を大量に作り、政治的・金銭的利益を得ることだ。人間は本性的に少数派より多数派に同調しやすいため、こうした偽の集団まで作られると、さまざまな歪んだアイデアが広まる。AIが社会に及ぼす影響はこれまでと違う。今でもAIで偽のペルソナを簡単に作ってさまざまな主張をさせる例がしばしば見られる

  • AIを活用した偽ペルソナ生成の問題は、始まりにすぎない。AIは、どんな技術よりも政治・商業目的の個人別カスタムターゲティング、行動操作、過激化に向いている。以前は放送やメディアが大衆全体に統一されたメッセージしか送れなかったが、インターネット時代が来てターゲットの細分化が可能になった。Cambridge Analyticaは個別プロファイルベースのA/Bテストなどで衝撃を与えたが、それでもなお自動化のレベルにとどまっていた。今やGPT-5級のAIが個人ごとに24時間密着し、人間の心理・説得・操作などに専門性を持ち、あなただけのためのカスタム動画や偽の友人まで生成しながら、意見、感情、消費、政治まで目標に応じて精密に設計できる。あなたのそばで競合するナラティブを遮断し、目的達成のために論理的に説得する。こうした「洗脳エージェント」に99%の人間が耐えられるのか、自問せざるを得ない。FacebookとX（Twitter）は結局その形へ進化しようとしているし、そうなれば社会が共有する現実そのものが崩壊し、権力に対する協働的なけん制力すら失われる。オーウェルが想像した以上のディストピアだ
  • ソーシャルメディアが常時接続のインターネットとともに急成長したという主張については、メディアの記録を見ると2005〜2009年の間はMyspaceが世界最大だった。実際には同時接続ベースではなく、非同期にコンテンツへ反応する方式で、通知（notification）とスマートフォン（特に2007〜8年のiPhone）の普及が転換点だった。AOL、ICQ、MSNのような初期メッセンジャー時代には、相手がオンラインでなければ連絡できず、オフラインメッセージ機能もなかった。もともとは「たまに立ち寄って会う」感じのオンライン空間だった。今ではWhatsAppなどで24時間いつでも誰かのスマートフォンを鳴らせるようになり、「偶然会えてうれしい」という感覚は消えた。いつでも誰とでもつながれるからこそ、かえって本当のつながりは起きにくくなっている気がする