- この記事は、AIについて単なる批判を超える嫌悪者の宣言文として、著者がAIを無礼な技術と規定し拒絶する立場を示している
- 著者はAIに対する一般的な批判—環境被害、偏見の強化、労働搾取、著作権侵害、監視と嫌がらせ—はすでに十分に議論されてきたと述べる
- 文章の焦点は、AI企業の目標そのものが不道徳だという主張にあり、芸術や人間の活動を置き換え、新たな「奴隷化された生命」を作ろうとする試みだと批判する
- 著者はMiyazakiの発言を引用し、AIは「生命に対する侮辱」だという立場を強める一方、AI起業家たちの巨大なビジョン（例: Dyson Sphere）は荒唐無稽な虚言だと指摘する
- 結局のところAIは人間の生を枯渇させる技術であり、これを拒否することは人間性の表現だと強調する
- 真の人間性は、AIにはできない理解、思考、共感、芸術的創造、人間的な欠落と感情から生まれる
AIに対する断固たる嫌悪の宣言
- 著者は自分を単なる批評家ではなく**「嫌悪者(hater)」**だと規定する
- それはAIに対する無礼で断固たる拒絶を意味し、社会的圧力にもかかわらず同意しないという誠実さの表現でもある
- AI擁護でよく使われる「例外条項」（いつかは役に立つ、特定用途ならよい等）も拒否する
- 裕福で地位のある人々がAIに肯定的であるため、誰もがある程度は受け入れているふりをしているという社会的空気を皮肉る
- 「私はAI嫌いだ」という宣言を通じて、礼儀正しさより率直な反感を優先する
すでに提起されてきたAI批判
- 著者はAIについて既存の幅広い問題を列挙する
- 環境被害: 大規模データセンターのエネルギー使用問題
- 偏見・差別の強化: AIが社会的・人種的偏見を再生産する
- 認知的害悪: 医師の判断力低下、自殺の助長など
- 同意・著作権問題: 同意のないデータ利用、創作物の盗用
- 監視・詐欺・嫌がらせ: デジタル監視の強化、ボットベースの詐欺、オンライン嫌がらせの拡散
- 労働搾取と解雇: 低賃金のデータラベリング労働、自動化を名目にした解雇
- 知能の欠如: 単純な確率演算は真の推論ではない
- 生産性という錯覚: 実際には人間をより遅くする
- 政治的性格: AIは保守的で、本質的にファシズム的な技術だという主張
- こうした問題はすでに十分議論されているため、著者はこれ以上の「理性的な討論」は不要だと強調する
AI企業の目標に対する根本的批判
- AI嫌悪の核心は、AI企業が追求する目標そのものが誤っているという点にある
- 創業者たちは「芸術をなくし」、「新たな生命を創造して奴隷化」しようとする欲望を持つ集団として描かれる
- AIの夢は完全な奴隷機械を作ることであり、それが人間の生を枯渇させる仕方で機能するという批判である
- Miyazakiの発言("AIは存在そのものが生命に対する侮辱")を引用し、AIを「生命に対する侮辱」と規定する
- 一方でSam Altmanが語ったDyson Sphereビジョンは荒唐無稽な嘘だとする
- AIの作り手たちは失敗したから問題なのではなく、その欲望と目標自体が人類への冒涜なのだと述べる
- その目標とは、芸術をもはや作る必要がないものにし、「新しい形の生命」をただ従属した存在にするという野望である
人間の生への脅威
- AIは単なる技術的問題ではなく、人間の生と経験を空虚なものにする道具として描かれる
- 読み、書き、考える活動を代行し、人間関係や選択の意味を弱める
- 無知と孤立を助長し、人間を「アルゴリズムの子宮」の中で機械に依存する存在へと貶める
- 利用者でさえ「冗談で」あるいは「便利だから」とAIを使いながら自己正当化しようとするが、それは結局人間性の消滅に加担することだとみなされる
結論: 人間性の本質
- 筆者はAIには決してできないこと—言語を読み理解すること、思考と洞察、他者への愛、芸術創作、身体の欠落や感情の中で生きること—を通じて**「嫌悪者」**になった
- AIにはそのように感じ理解する能力がないからこそ、**人間だけが真の批判者(hater)**になれるのだと強調する
- したがってAIは打ち壊し拒絶されるべき技術であり、それを作る人々は「無知と搾取を称賛する空虚な者たち」だと述べる
- 最後に、自らの人間性を祝福すると述べて文章を締めくくる
18件のコメント
全面的に同意しますが、AI「嫌悪者」という表現よりはAI「拒否者」という表現のほうがよいのではないかと思います。嫌悪という言葉が内包する意味や語感は良くなく、嫌悪はいつも嫌悪を生むからです。
嫌うのは自由だが、著者もまたAIの時代の中で生きている。著者のこの文章もすでにAIのビッグデータに収集されているのだろう。
人間が特別だという過剰な自意識は、どこから始まったのだろうか
「このような問題はすでに十分に議論されているため、筆者はこれ以上の『理性的な討論』は不要だと強調している」
依然として多くの事柄が議論中であり、これは個人の主張・意見にすぎない非建設的な立場表明だと思います。
「Miyazakiの発言（『AIは存在そのものが生命に対する冒涜』）を引用し、AIを『生命に対する冒涜』と規定している」
宮崎駿の意見はAI産業やAI技術全般に対する立場ではないため、この記事の全体的な文脈にはまったく合っていません.
まあね
無差別なクローリングが明らかに間違っているのは確かですが、今のLLMは人間がしていた仕事のうち、反復労働に近い部分だけを代替しているのだと思います。
あなたたちは魂を傷つけてはならない。
Thou shalt not disfigure the soul.
あなたたちは人の精神に似せた機械を作ってはならない。
Thou shalt not make a machine in the likeness of a human mind.
他の点についてはあまり強く共感しにくいのですが、すでに十分に議論されていて、これ以上理性的な討論が必要ないとまで表現された項目の一つである…
これだけは反論しにくいのではないでしょうか？
いくらAIがただの道具にすぎないとしても、その道具が非倫理的な方法で作られたのなら、十分に嫌悪する理由になると思います。
大げさで飛躍の大きい比喩だと思う人もいるでしょうが、
「数億人の被害者を生み出した人体実験によって完成した万能薬」と「数億人の被害者を生み出したデータの無断収集によって完成した言語生成モデル」は、大きくは違わないと見ています。
しかも前者は数千万人を犠牲にしてでも数十億人の健康を生涯にわたって保障したとも言えますが、後者は…
金の宴が繰り広げられるパーティーで理性的な話をしてみたところで、なんで場の空気を壊すんだという罵声が飛んでくるのは、ただの真理なんでしょうね。
残念なことですね。書き手が心の平穏を見つけられることを願います。まあ……しょせん製品なのですから。人種でも性別でもない。十分に嫌悪してもいいでしょう。宣言してしまうと「お前たちもやれ」と言っているのではないようにはならなくなり、説得力がないという事実まで合わせて考えると、心が痛む一場面になりますね。こういうこともある時期なのでしょう。
読者は、人間について従来から提起されてきた広範な問題を列挙している
これらの問題はすでに十分議論されているため、著者はこれ以上の『理性的な討論』は不要だと強調している
HNって、まだこういう記事にうんざりしないのか~~と思って本文を見たら、flagged されている状態ですね
そろそろ毎回同じレパートリーを見るのはやめる時期でしょう
単なる道具にすぎないでしょう。
90年代だったら、私はExcel嫌いだ、人間が方眼紙に図表を描く能力を損なう、みたいな話になっていたでしょうね
AIについて批判があると、いつもExcelや包丁みたいなキーワードが出てきますね。あまりにもその役割や機能を矮小化する比喩だと思います。
核兵器ならまだしも。
その通りだと思う。気の毒な人だ。道具を嫌悪すると言うのだから、それもあり得ると思う。ナイフは人を殺せる道具だから嫌悪し、非人間的な道具だと考えることもあり得ると思う。
Hacker Newsの意見
この見方が代表されているのを見るのはうれしい。個人的には同意しないが、私の友人の多くはこの立場を取っているし、多くの人が賛成しない意見であっても、こうした意見は尊重されるべきだと思う。
ある友人が有名なIBMの名言をこう言い換えて送ってきた。
"コンピュータは決して悪意を持つことも、[情熱的†]であることもできない。したがってコンピュータは決して芸術を創造すべきではない"
「憎悪」という言葉は感情に近く、多くの人は（私自身も）感情的な主張を論理的に反駁したくなる傾向がある。
しかし感情は現実のものであり人間的でもある。人々はAIに対して強い感情を抱いており、この事実を認めて尊重する対話が必要だと思う。
† 元の語より穏当な言葉に置き換えた
ピカソの『ゲルニカ』は、戦争と人間性の抹消に対する彼の憎しみから生まれた作品だ。
どんなコンピュータも戦争の無意味で非人間的なあり方に共感してあのような作品を作ることはできず、結局コンピュータは永遠に模倣するしかない。
私はAIを積極的に活用する立場だが、批判も十分理解できる。
ソフトウェア開発者として生産性向上の効果は確かに感じている。
10時間もののエレクトロスウィングなど、AIが生成した音楽もかなり質が高いと思う。
音楽の例: YouTubeリンク
面白くて見どころもあるが、本当に手間をかけたプロンプトから出てきた音楽だとしても、「ただAIが生成した」と知ると感じ方が違う。
そういう創造的な試みも意味はあるが、正直AIが自分の部屋の掃除のようなことをしてくれたほうがいい気もする。
今でも自分で音楽を演奏するが、AIが数分で作るレベルには及ばない。
この例ひとつを作るのにもかなり時間をかけたのだが、結果が素晴らしいのでよかった。
そうなると、今後この過剰供給された芸術家たちは何をすべきなのかという悩みが生まれる。
元のややきつい言葉の代わりに、もっと穏やかな表現へ置き換えたという点のほうがかえって不快に感じる。
AIに対する強い反感のかなりの部分は、この分野を主導する経営陣から来ているのではないかと気になる。
憎しみは感情かもしれないが、その土台に合理的な理由があることもあり得る。
たとえば、もともと人間同士の競争だけでも大変なのに、今や人間の代わりに機械とも競争しなければならない。これは自然な現象ではなく、社会が選んだことだ。
私も同じだ。
最近の製品ランディングページの99%が「AI」を前面に出しているのを見るだけで、むしろ興味が薄れる。
むしろ「No AI bullshit」みたいな文句が付いた製品のほうが関心を持ちそうだ。
もちろんこれは私個人の好みで、実際には技術の専門家ではない人たちにとって、AIはいまだに大きな話題であり前向きな流れだ。
どんな製品にも「AI!!1!」とやたら貼り付けてあるのを見ると、結局は現場を知らない営業やビジネスマンが幅を利かせているというサインに見える。
これは多くの会社の姿だ。
結局こういう会社は私の本当の技術的ニーズを絶対に理解できないので、私には役に立たない。
もし偶然私の必要と重なったとしても、それは本当に偶然だ。
私の基準では、AIを言及したり適用したりしているということは、そのメーカーが品質を気にしていないか、AI自体がもはや特別なものではないと分かっていないというサインだ。
プラスチックのような感じがする。
マーケティングには限界がないようだ。
結局すべてが感情を突くごまかしにすぎないように思える。
「No AI bullshit」であれ「AI Inside」であれ、同じように懐疑的に見ている。
企業は金さえ稼げるなら、ありとあらゆる小細工を使う。
専門外の人々によるAI熱が業界のバブルをさらに大きくしている。
AI論争は、最近のほかの複雑なテーマとまったく同じ流れを感じさせる。
微妙な立場より極端な立場を取るほうが簡単で、その結果、あまりに表面的だったり断片的だったりする記事ばかりあふれ、深い議論はほとんどないという現象だ。
これが現代の病理のように思える。
皮肉にもAIがむしろこうした問題をさらに大きくするかもしれない。
私の立場はもう少し微妙だ。
特定の領域、たとえば音声認識やオーディオの楽器分離などではAIは本当に優れているが、全体としてはLLMのような領域ではひどく誇張されている感じがする。
Google検索と大差ない程度だ。
今の私たちはAIバブルの中にいると思う。
このバブルがはじければ、実際に有用なものだけが残り、残りは消えるだろう。
そしてまた次のバブルを待つ。
最近はAIの進歩速度が鈍ってきた感じがする。
昔は「コードも出せる、試験もよくできる、小さな課題もこなせる」だったのに、
1年〜1年半たった今では、せいぜい「少しだけうまくなった」程度の水準だ。
だから結局、残るものは残り、役に立たないものは消えると思う。
AIはもう消えないだろう。たとえこれ以上良くならなくても、役に立つのであれば存在する理由がある。
副作用（外部性）は現実であり、一部は除去でき、一部は緩和できる。
私はAIの副作用は嫌いだが、技術そのものは好きだ。
自分専用の、高度に最適化され、効率的で、プライベートなAIを使いたい。
そうした点がうまく解決されれば、副作用もかなり和らぐだろう。
いつかは可能かもしれない。
AI愛好家たちがいつも「役に立つ」という話を論理の合間に無理やり差し込んでくるのが不思議だ。
「すべての技術には利点と欠点がある」という事実は、すべての技術に必ず利点があることを意味しない。
GenAIはこういう空虚さを隠す主張を作るのがうまいように見えるが、実際のユースケースを挙げて説明すべきだ。
「AIはここに残る」という主張の根拠を聞きたい。
もしかして今でもGrouponを使っているのか？
役に立っていたものでも、いくらでも消え得ることを思い出させる。
GenAIが収益を生まなければ、今のように役に立たないと見なされた瞬間にそのまま消えるかもしれない。
AIが恣意的な結果しか出さないのなら無意味だ。これが限界だと思う。
"AIは生命そのものへの冒涜だ" - 宮崎駿
この名言を今度は私も使おうと思う。
この言葉が出た文脈を確認するとよい。
2016年のインタビューであり、ChatGPTの話とはまったく無関係だ。
当時、ある奇怪な人工知能アート実験（人型が頭を腕のように使って奇妙に動くもの）を見た宮崎が衝撃を受けて言った言葉だ。
動画全体の文脈をはぎ取って一文だけ引用するほうが面白くはあるが、文脈はこうだった。
私の知る限りでも、その発言は一般的なAIの話ではなく、学生たちが見せた特定のプロシージャルアニメーション実験（身体障害者の動きを描写したもの）などへの嫌悪感から出たものだった。
宮崎の知人の中にも、そうした困難を抱える人がいたのかもしれない。
だから文脈上、その発言は誇張して解釈された面がある。
実際に引用された文は文脈が違っていた。
YouTube: 文脈動画
子どもの目で世界を捉える芸術家という観点からすれば、このような人工知能実験そのものが非常におぞましいものだと解釈できる。
これは「人間が作り出した」誤引用だ。
Reddit: 誤引用の説明
彼がAI全般についてこうした発言をしたことはなかったはずだ。
当時出てきた実験用AI作品があまりにも不自然で嫌悪感を覚えたのであって、むしろ宮崎がAIを本当に嫌っていたとしても不思議ではないと思う。
GenAIをめぐるHacker Newsの空気の変化が興味深い。
具体的なデータはないが、2022〜2023年には大半がGenAIを面白いものとは見ていても、強い愛着まではない雰囲気だった。
ただ、その時点でも技術に懐疑的な声はかなりあった。
最近では evangelist（伝道師）のようにこの技術を積極的に押し出し、「LLMのおかげで人生が変わった」というような投稿が多くなった。
それでも最近また懐疑的なポストも見かけるので、空気が少し反転しつつあるようだ。
個人的には、昔のようにマニアックなハッカー技術の話ばかりだった時代が恋しい。
とはいえ、私自身がこういうタイトルに惹かれて入ってきたのだから、人のことは責められない。
むしろこの一連の過程すべてが、過去の暗号資産ブームに似ていると感じる。
投資マネーが流れ込むと、「これは本当にいける」と信じて動く人たちが集まる現象が繰り返し起きているようだ。
「面白い技術」という言い方には同意できない。
たとえばGitHub Copilotが最初に登場したときは、ライセンス論争で大きな反発があり、Microsoftのボイコットの話まで出ていた。
しかし時間がたつと、いつもその技術は最初に思われたほど良くも悪くもないと認識されるようになる。
メディア生成についても、最初は腹を立てていた人たちが今ではみなPhotoshopのAI機能を使っているという奇妙な現象まで目にしている。
投稿自体にはあまり関心はないが、HNユーザーたちの空気にはいつも関心がある。
私の感覚では何年ものあいだ否定的な声のほうが多く、今もその傾向はさらに強まっているように思う。
「LLM evangelist」現象。
最近のAI業界は、まるで数年前のNFT/暗号資産バブルとそっくりだ。
実際、以前NFTを売っていた人たちが今まったく同じようにAIを売っている場合も多い。
だから技術の実質的な有用性とは別に、AI業界全体に詐欺や高利貸しのような雰囲気を強く感じる。
2022年にもすでに「確率的オウム」の議論や「シンギュラリティ」論争などは活発だった。
GPT-4が出たばかりのころの空気を覚えている。
批判者たちが、AIの環境破壊、バイアス、認知的危害、自殺支援、同意と著作権の問題など、よく論じられてきた部分をまた並べ立てるところに不快感を覚える。
環境被害はもうGoogleが大きな影響はないと証明したのではないか？
バイアスや人種差別的な出力については、私もよく分からない。そもそもそういう質問をしないので……。
認知的危害や自殺に関しては、業界内で既に継続的に議論されている。
むしろ無視されているのではなく、継続して積極的に対応している印象であり、まるで誰も気にしていないかのように語るのは違うと思う。
同意と著作権は、この中でいちばん説得力のあるポイントだと思う。
AIが私のrobots.txtを無視してテキストをクロールしていくこともそうだし、インターネットそのものが公共財だという認識との衝突もある。
結局それ以外は感情や期待によって変わるので、人それぞれ感じるままだ。
HPC（高性能計算）管理者として言うと、
7ラック規模のCPUクラスタだけでも、計算だけで700KWを消費する。
冷却まで含めればはるかに大きくなり、GPUならなおさらだ。
冷却水も20度で送り出して40度で戻す方式で、結局この熱を環境へ継続的に放出しなければならない。
これは本当に小さなシステムだ。
このように発電所まで回し、大規模に熱を24時間365日吐き出していて環境被害がないという主張は疑わしい。
科学用途や一時的な利用なら、電力網や環境も耐えられる。
しかしAIトレーニングのように継続的に使うのはまったく別の負荷であり、決して無害ではない。
認知的危害の面でも、AIの過剰使用時には脳の神経回路が変化し、ある領域は怠けるようになるという論文もある。
今日もフロントページにChatGPTが関係した少年の死亡事件が上がっていた。
同意と著作権の問題は実際に深刻だ。
私のブログも商用利用・二次創作禁止でライセンスを明確にしているのに、AI企業はテキストをクロールして改変し、販売している。
同意はなく、問い合わせもない。
GPLやオープンソースコードでも同じようにソースを利用して有料サービスへ変えており、こんなことを小規模事業者がやれば皆損をする。
AI企業でない者たちがこれほどの侵害をすれば、とっくに市場から退場させられていただろう。
同意および著作権の問題は、業界が何と言おうと明白な問題だ。
（Googleが環境被害はないとした根拠について）
実際には「自分たちで調べたら問題なかった」という類いの自己免罪に近いと思う。
「私は人種関連の質問をあまりしない」
LLMでバイアスや差別が現れるには、人種に関する質問を必ずしなければならないわけではない。
Googleの最近の論文を見ると、「AIプロンプト使用による推論およびサービングのエネルギー消費」だけを文書化しており、トレーニングの評価は後回しにしたと書かれている。
論文リンク
Googleの発表は、小規模AIがGoogle検索などに埋め込まれている場合は電力消費がはるかに少ない、という話だ。
SOAのような大規模モデル訓練とはまったく別の話である。
明示的な質問をしなくても、内在するバイアスはいくらでも出力に現れうる。
業界がまったく無視してきたわけではないが、批評家たちがこの点を継続して指摘してきたという事実そのものが重要だ。
著作権の問題も、個人がこっそりやれば見逃されても、大企業が商業目的で雑にやり、その被害がアーティストにとって非常に大きいという点が問題なのだ。
LLMに本当に知りたくて何か質問すると、かえって「あなたは人種差別をしようとしているのでは？」とでも言うように説教し、誤解してくる。
GoogleのあるエンジニアもAIがバイアスを持っていると言っていた件を思い出す。
こうした議論はいつも、「芸術」には次の要素が必ず必要だという主張に戻ってくる。
しかし、こうした要素がほとんどない人間の創作物でも、人々は依然として芸術に含めている。
一方で、AIが上の基準を十分満たしていても、芸術として認められるにははるかに厳しい基準が適用される。
私はAI創作芸術に賛成でも反対でもない。
本質的に芸術の定義そのものが曖昧なので、こうした論争はそれほど生産的だとは思わない。
人間とは高度に進化した生物機械であり、そんな人間が模倣可能な別のものを作り出したという現実を受け入れるほうが、より実用的な態度だ。
私もまた、Hintonらコンピュータ科学者たちの意見を信じるほうだ。
用語論争は的外れなところに集中しており、本当に重要なものを見落としている気がする。
AI/AGIの革命的本質こそ、私たちが認識していない氷山の一角なのだ。
ときには、人間性のこもった創作においては、その人間らしさを受け入れる必要がある。
しかし、平均的な機械出力の擬似人間ショーにだまされてはいけない。
私が見る限り、若い人ほどAIに夢中になっていることが多い。
いつかは大勢が変わるだろう。
実際、知っている若者は「AIには欠点がゼロだ」と主張している。
私はAIそのものが嫌いなわけではない。
それを崇拝する人たちの文化が嫌なのだ。
どんな技術も最初はそうだったのではないか？
50年前にもインターネットなんて大したことないと言う人はいた。
それほど驚くことではない。
普通のティーンエイジャーにとって、AIは神のように感じられるかもしれない。
やるべき面倒なことをしなくて済むのだから、結局その便利さに魅了される。
これが本当に若い世代だけの現象なのかは確信がない。
むしろ年上の世代は、過去に数多くの技術バブルを経験してきたからかもしれない。
特にプログラマーの場合、「これから10倍の生産性向上！」「プログラマーは消える！」のような熱狂を何度も見てきた。
一度二度ならともかく、何度も繰り返されれば信頼は薄れる。
私は若くはないが、AIがついに現実に実装されるのを見ると、本当に180年来の夢が実現するように感じる。
Ada Lovelaceの言葉を見ると、1842年にはすでに機械が音楽を作曲できると想像していた。
子どものころ、1960年代SFでおなじみだったAIが現実に実装されるのを見て興奮している。
問題は、今AIを握っている強欲な人々が、その技術を社会全体に害を及ぼす形で使っていることだ。
根本原因は私たちのシステムそのものにあり、AI技術自体に問題があるわけではないと思う。
こういう人たちは新しい技術が出るたびに、いつも悪用する。
重要なのは年齢より経験だ。
この記事は、私がうまく言葉にできなかった考えを代わりに語ってくれていて、とても印象深く読んだ。
> 真の人間性は、AIにはできない理解、思考、共感、芸術的創造、人間的な欠落や感情から生まれる
本当にAIにはできないのでしょうか？ できそうですけどね（笑）
出典は覚えていないのですが、サム・アルトマンがビル・ゲイツにGPT-4をデモしに行ったとき、感情的な手紙を書かせたところ、その場にいた誰よりもうまく書いた、という話を思い出しますねｗｗｗｗ