2026年にAIを嫌悪するということ
(eamoncaddigan.net)- ニューラルネットワークの発展に期待を寄せていた20年の経験を持つ機械学習の実務家が、今日のAIブームは有用性では正当化できない社会的・環境的コストを生んでいるとして、利用拒否を選択
- テキスト生成モデルは次の単語を精密に予測することで、指示を理解し人間のように会話しているかのような幻想を作り出すが、これを人間レベルの意識に近い技術と見る熱狂は、認知・言語の専門家による反論にもかかわらず続いている
- 大手テクノロジー企業と投資家は、ニューラルネットワーク自体の革新よりも、より大きなモデルの構築に集中し、膨大な訓練データとエネルギーを要求している。気候変動を認めながら化石燃料需要を増やす技術を採用する矛盾は無視されている
- 現代生活に絡みついた搾取や環境破壊を完全に避けるのは難しいが、AIはほんの3年前と同じようにコンピューターを使えばよいため、人間と環境の権利のために使わないことを選びやすい選択肢として残っている
- 2026年の反AIの立場は、2002年のイラク侵攻を前にした反戦の立場に似ている。被害の因果関係がより不明瞭で、同僚や友人までもが加担しているという違いの中でも、悪い選択に報いる社会構造が繰り返されている
次の単語予測から産業的熱狂へ
- 約15年前、ニューラルネットワークによる機械学習が第2のルネサンスに入って以降、画像・音響・テキストなどさまざまなデジタル資料の分類と生成で他の手法を上回るようになった
- テキスト生成モデルは、次の単語を選ぶ能力によって、指示を理解し実際の人間のように会話しているかのようなチャットボットを実現し、企業のリーダー、政治家、テクノロジー業界の従事者たちを魅了した
- この技術は一時的な理解の幻想を作り出す精巧な手法だが、しばらくの間、理性的な人々でさえ、次の単語を生成する仕組みが人間に似た意識に近づいたと信じることが珍しくなかった
- 認知と言語の専門家たちは、そのような意識が生じない理由を説明し続けたが、熱狂は続いた
- 複数の技術を包括する名称として通用しているため、
artificial intelligenceをAIと呼ぶ
- すでに経済の中で不快なほど大きな比重を占めながら、生活必需品を生産していない大手テクノロジー企業が、AIに運命を賭けた
- ニューラルネットワーク自体の実質的な革新は鈍化した
- 企業と投資家は、膨大な訓練データとエネルギーを必要とする、より大きなモデルの構築に集中した
- 2026年には、露骨な気候変動否定はもはや流行ではなく、ほとんどの人が化石燃料への依存によって気候が温暖化しているという科学的合意を認めている
- それにもかかわらず、AIは社会の石油需要を直接増やしており、エネルギー需要だけでも採用に不適切だという批判は利用者たちに無視されている
- 現在の被害と、こうした傾向が続いた場合のさらなる被害を指摘しても、裕福な個人と企業が、自分たちの所有する特定の技術的アプローチの上に未来を築くと決めたことで、懸念は退けられている
- 一部の利用者がチャットボットを有用だと感じることはあり得るが、どのような用途も、社会全体が負担する社会化されたコストを正当化する水準には達していない
- 過去10年間のニューラルネットワークの発展に期待を寄せていた、20年の経験を持つ機械学習の実務家にとっても、現在のAIの流れはすでに軌道を外れている
利用を拒否できる技術と繰り返されるパターン
- 人々は、誰かを傷つけているという理由で社会・技術システムを批判する道徳的論証に鈍感になっているのかもしれない
- 道徳的論証そのものに問題があるわけではないが、裕福な国で普通に暮らすには、多くの人々の搾取と有限な環境資源に依存せざるを得ない
- 一貫した親社会的な倫理的立場も、こうした社会と接触した瞬間に妥協している、という反応を避けるのは難しい
- 食べ物・衣服・電子機器に含まれる被害は避けにくいが、AIはなお使わないことを選びやすい
- 人間と環境の権利を尊重する倫理を、実生活で実践できる一つの選択である
- ほんの3年前と同じ方法でコンピューターを使えばよい
- 楽観的な予測を除いたAIの見通しが現実になれば、未来の記録者は、なぜもっと多くの人が利用を拒否しなかったのかと疑問に思うだろう
- 反AIの立場が呼び起こす感情は、米国のイラク侵攻を前にした2002年末に似ている
- 当時、国家指導者たちが戦争を正当化するために嘘をついており、少数の裕福な人々を除けば良い結果はないことが明らかに見えたが、メディアと大衆のかなりの部分は批判者たちを軽蔑した
- 反AIの立場にも、当時の反戦の立場と同じ感覚がある
- 二つの時期の違いは、AIが生む被害の原因を特定するのがより難しい点にある
- 地球の平均気温が0.1度上がると何人が死亡するのか、その上昇分のうち特定のガス燃焼データセンターがどれだけを占めるのかを帰属させるのは難しい
- 身近な同僚や大切な友人たちまでAIを使う側に立っている点も異なる
- 気候変動、巨大企業の信頼性、尊厳をもって生き働く権利に関する既存の信念を、AI利用の停止と結びつけて同僚や友人たちを説得しようとしたが、失敗した
- 未来の読者に許しを求めることはできないが、現在の人々は悪人ではなく、悪い選択に報い、良い選択を罰する状況に置かれた普通の人々である
- 生成AIが持続させている被害を具体的に整理した To Gen or Not To Gen: The Ethical Use of Generative AI と The AI Con を、あわせて読む資料として勧める
2件のコメント
こういう立場やニュアンスの文章を見るたびに思うのは、その嘲るように名付けた「次の単語予測器」と人間は、果たしてそんなに大きく違うと言えるのだろうか、という点です。人間の思考というものも、経験であれ経験に基づく洞察であれ、次の単語を思い浮かべる行為はそれほど変わらない気がします。もっとも最近は、その次の単語すら正常かつ合理的に思い浮かべられない人たちがあまりにも多く見えるのですが。
Lobste.rs のコメント
最近、同僚たちが見落としている事実が一つある。AIを使わないことはいまでも簡単だ。私たちが食べ、着て、触れる電子機器には、人間と環境に対する数多くの被害が絡んでおり、それらをすべて避けるのは難しい。しかしAIを拒むことは、人間と環境の権利を重視する倫理を実際に実践できる、まれな選択肢だ。ただ3年前と同じようにコンピュータを使えばよいというこの表現が、私がこのサイトでずっと伝えようとしてきた考えを最もよく表している
この記事は、私が感じていたことをそのまま言い表している。今日では、誰かに害を与えるという理由で社会・技術システムを道徳的に批判しても、なかなか通用しない。裕福な国で普通に暮らそうとすれば、数多くの人々と有限な環境資源の搾取に依存せざるを得ず、社会全体のための一貫した倫理は、現実と接触した瞬間に損なわれてしまうからだ
よく資本主義の下に倫理的消費はないと言われるが、資本主義を転覆すること以外に何ができるのかははっきりしない。個人や消費者の行動は、世界を変えるというより良心をなだめるだけにとどまるように見える。悪い決定に報酬を与え、良い決定を罰する構造、すなわちMolochの中で、普通の人々は生きている
この記事には二つの誤りがある。第一に、LLMを単なる次の単語予測器と呼んでいるが、事後学習（post-training）のために内部でははるかに多くのことが起きており、結果も大きく変わる。LLMは統計的に平均的な内容しか出力できないという誤解も同様だ。第二に、LLMが経済的価値を持つには意識が必要だと見ているが、人間を代替し、以前は人間にしかできなかった仕事を行うのに、人間のような意識は必要ない
LLMを使わないという選択は妥当だが、LLMとは何か、現代的なLLMシステムやエージェントがどのように動作するのかも知らずに出される批判には価値がないと思う
事後学習は既存のトークン集合に何かを追加するのではなく、すでに学習した特定の経路を強調してその確率を幾何級数的に高めたり、望ましくない経路の確率を下げたりする。以前のLobstersでの議論のように、Transformerの**単射性（injectivity）**は勾配降下法による学習で変わるものではなく、コーパス学習や強化学習（RL）は経路を生成したり削除したりせず、確率だけを調整する。ある意味では、Transformerの真の事前学習段階はトークナイザーを学習するときだ、とも言える。また、著者がLLMの意識が経済的価値に必要だという第二の主張を支持しているようには感じられず、私も機械学習が一般に有用で収益性も持ち得ることには同意する
「次の単語生成器が人間に似た意識に近づいたと信じる流行があり、認知・言語の専門家たちがなぜ不可能なのかを説明し続けた」というくだりは、二つの理由で奇妙だ。まずAI楽観論者たちが実際にそのような意識を主張しているようには見えないし、AIの即時的な有用性や、世界を変革・破壊する可能性も、意識を前提としていない
さらに、その断定は事実ではない。認知科学の専門家である Stanislas Dehaene、Lionel Naccache、Patrick Butlin、Dillon Plunkett、Robert Long が、Anthropicの最近の「global workspace」論文を背景にこの問題を詳しく扱った最新の論評があるので、読んでみる価値がある。彼らはAIに意識があるとも、確実にないとも結論づけず、LLMの創発的特性が動物の意識とどのような点で似ているか、あるいは異なるかを分析し、追加実験を提案している
認知科学者たちはLLMの現象的意識について依然として非常に不確実だと考えているため、意識があると断言するのは学界より先走っていることになる。しかし、専門家たちが、次の単語生成器は人間のような意識に近づけない理由をすでに解明した、と言うのも不当だ。すでに意識がないと自信を持って言うことすら、彼らはためらっている
現在のAIが近いうちに知覚能力を得るかどうかとは別に、生産性と満足度を高めるには、利用可能なツールや技術、実務のやり方を身につけるべきだとずっと考えてきた。だから単語予測器やLLMを効果的に使う方法を学ぶのも合理的だ
しかし倫理的な側面では、記事の問題意識に共感するし、いまの私の職業人生も分岐点に立っている。技術者たちが農家になったり、配管・電気工事のような技能職に転向したり、土地に根ざして暮らしながらオンラインから離れたりする理由が、ますます理解できるようになってきた。私の場合、燃え尽きとデジタル疲れが、社会的ネットワークから手を引き、家族とラマや羊を育てながら、ほとぼりが冷めるまで待ちたいという気持ちをさらに強めているようだ
認知・言語の専門家たちが、次の単語生成器は人間のような意識に近づけない理由を実際に説明していると信じている。これを裏づける最も説得力のある学術資料を知りたい