編み物のデタラメ
(katedaviesdesigns.com)- Knitting Bullshit は、Harry Frankfurtの On Bullshit の概念を借りて、AI生成の編み物コンテンツが真実と現実を空洞化し、感情的な演出とシミュレーションに置き換える現象を指す
- Inception Point AI は、従業員8人で「AI personalities」が進行するポッドキャストを週あたり約3,000本配信し、累計1,200万ダウンロード、月平均約75万ダウンロードを記録したと明かした
- Jamie Bartlettが週3,000本のコンテンツを実際に確認する人がいるのかと尋ねると、Anne McHealyは誰も確認も編集もしないと答え、園芸・編み物・料理は「life or death」ではないので、間違っていても「end of the world」ではないと語った
- AIポッドキャスト Knitting Through the Ages と The Art of Knitting Pattern Design は、編み物の歴史やデザイン知識を扱うとうたいながら、実際には歴史的文脈も専門知識も空疎で、実在しない専門家の名前と 感情的な承認 の文句で埋められている
- AI生成の編み物ポッドキャストやアニメーションは、人間の共同体が蓄積してきた労働、歴史、デザインの知性、共有知を、利益のための感情的な通貨へと変え、結論は実際の人間の創作者と編み物コミュニティを支援しようという方向へ向かう
「Knitting Bullshit」の意味
- Harry Frankfurtの On Bullshit において、bullshit とは真実への関心と結びつかず、現実の事物がどうであるかに無関心な発話として定義される
- 嘘は真実を意図的に歪めるがゆえに、むしろ真実を前提にしているが、Frankfurtにとってbullshitの核心は「虚偽」よりも まがいもの(phony) にある
- 「Knitting Bullshit」は一般的な意味でのたわごとではなく、編み物を題材にしたAI生成コンテンツが真実と現実を空洞化し、感情的な演出とシミュレーションに置き換える現象を指す
Inception Point AIとAIポッドキャスト
- Jamie Bartlettのポッドキャストシリーズ Everything is Fake and Nobody Cares の第1回には、Inception Point AIのプロダクト責任者Anne McHealyへのインタビューが含まれている
- Inception Point AIは、Wonderyの元COOであるJeanine Wrightが設立したポッドキャスト企業で、WonderyはAmazonが2025年に解体し110の雇用が失われるまで、人間が書いた高品質なナラティブコンテンツで知られていた
- Inception Point AIは従業員8人で、「AI personalities」が進行するポッドキャストを週あたり約3,000本配信している
- Anne McHealyによれば、Inception Point AIのポッドキャストは累計1,200万ダウンロードを記録し、月平均約75万ダウンロードを生んでいる
- Jamie Bartlettが、週3,000本のコンテンツを実際に聞いたり、正確性や品質を検討したりする人がいるのかと尋ねると、Anne McHealyは誰もコンテンツを確認も編集もしないと答えた
- Anne McHealyは、園芸、編み物、料理のようなテーマは「life or death」ではないため、間違っていても「end of the world」ではないと述べた
- この発言は、編み物を実際の共同体と産業の世界として捉える視点と衝突し、AI生成の編み物コンテンツ批判の出発点となる
AI生成の編み物ポッドキャストが空洞化させたもの
-
Knitting Through the Ages
- このエピソードは、編み物の文化的意義、世代と大陸をつなぐ糸の輪、「ancient Egyptian socks」から編み物が世界的現象になるまでの知られざる物語を扱うと約束する
- 実際の内容は、古代エジプトの靴下一足に触れたあと現代のグローバルな編み物コミュニティやRavelryへと飛び、そのあいだの歴史的文脈は空白のままだ
- 15分の中で、編み物の長い歴史、女性の見えない労働と創造性、その労働の搾取、産業化、独創性、抵抗、連帯といったテーマは扱われない
- 個々の文は甘くもっともらしく聞こえるが、全体としては実際の情報なしに糸のマーケティング文句を学習したAIが「syrupy word salad」を吐き出しているかのように機能している
-
The Art of Knitting Pattern Design
- このエピソードは、アイデアの最初のひらめきから完成した衣服の最後のステッチまで創作過程をひもとき、レース、ケーブル、配色編みなどさまざまなパターンの種類を扱うとする
- 「renowned knitting experts and designers」の知恵やデザイン哲学、好みの技法を集めたとうたうが、名前が示され長く引用される専門家たちは実際には存在しない
- Michael Lee、Elizabeth Brown、Daniel Nakamura、Olivia Patel、Emily DavisはAIが作り出した人物として提示され、「embrace the process」「confident and empowered」といった平板な文句しか残さない
- 実際の編み物の専門家たちは、パターン、ウェビナー、雑誌記事、本、デジタルフォーラム、Substack、ポッドキャスト、教育動画を通じて蓄積した知識を日々共有しているにもかかわらず、このエピソードはデザインや編み物について学べる内容を何も提供しない
- 世界中で何千人もが携わるニットウェアデザインの創造的労働が、「joy」と「possibility」の甘いシミュレーションへと置き換えられている
感情的な承認に置き換えられた現実
- AIポッドキャストは、編み物の「真実」や「現実」の代わりに、ClaudeやChatGPTに質問したときにおなじみの 感情的な承認 の口調を繰り返す
- ChatGPTが質問そのものを「genuinely insightful」と褒めるように、ポッドキャストも聞き手のクラフトの選択をひたすら称賛する
- 複数のエピソードを聞いても編み物そのものについて学べることはないが、ポッドキャストが編み物をしている気分や、編み物をする人としての感覚を繰り返し肯定するため、気分はよくなるかもしれない
- 高度な編み物技法を扱うとするエピソードでさえ、実際の技法には触れず、針の上にステッチが現れる「joy」や、自分で作った「cosy」「mesmerising」な作品で身体を包む満足感を想像しようと繰り返す
AI生成の編み物アニメーションと精巧なbullshit
- 別のKnitting Bullshitは、自動生成ポッドキャストよりも人間の介入が多いAI生成アニメーションとして現れる
- このアニメーションは「編み物」をテーマにしているように見え、10万回超の再生数と500件を超える熱心なコメントを集めており、コメントの大半は編み物をする人たちがそれがどれほど良い気分を与えるかを語るものだ
- アニメーションは視聴者に全体としてよい気分を与え、とりわけ編み物に対してよい感情を抱かせるよう設計されている
- 実際の物語的内容は、AIとプロンプト作成者の双方にとって、二次的であるどころかほとんど重要ではないように見える
- アニメーションは繰り返し自らが編み物の長い歴史を扱っていると言うが、実際にはその主題について何も語っていない
- Harry Frankfurtは、「ただ排出されたり捨てられたりする」bullshitと、本当に語るべきことがあるように見せ、感情的な真摯さの説得力ある外皮で内部の空虚さを覆い隠す「carefully wrought bullshit」を区別する
- 自動生成ポッドキャストのスロップは前者の範疇に属し、AI生成アニメーションは後者に当てはまる
- 動画の説明文は、画像や音声と同じく、甘く半神話的で意味のない感情的トーンを用いている
- “Before writing. Before anyone thought to write anything down at all – there were hands, and thread, and the slow click of needles in the dark . . .”
- “. . .the oldest thing people still do. Not a craft. Not a hobby. A language passed from hand to hand.”
- 「暗闇の中で」編み物をしていた可能性が低いという点はさておき、「人々が今なおしている最も古いこと」という表現は、実際の編み物の歴史と結びつかないbullshitとして扱われる
批判を無粋さのように見せる仕組み
- この種のAIコンテンツは、実際の編み物の歴史に基づいていなくても、編み物を称揚してよい気分にさせるなら十分ではないか、という反論を誘う
- しかし、この種のbullshitの有害さの1つは、どんな形の批判的検討も感受性の欠如のように見せてしまう点にある
- 動画の奇妙な歴史的不正確さ、虚偽の主張、実際の編み物の実践や身体の動きへの無関心、クラフトを現在の姿にした複雑で対立を含む物語を取りこぼすこと、編み物の基本的現実との断絶は、すべて些細なディテールのように押しやられる
- 問題の核心は、単なる不正確さや合成された感情表現それ自体ではなく、Knitting Bullshitが編み物産業と共同体に寄生し、それを劣化させることにある
人間の共同体の知識と創作を採掘するAIコンテンツ
- Anne McHealyは、編み物のようなテーマのAI生成コンテンツが間違っていても「end of the world」ではないと言ったが、編み物コミュニティにとってそれは現実世界の問題である
- 編み物コミュニティは長い時間をかけて、本当に人間的な価値を持つものを作ってきており、共有知識、文化的意味、丁寧な批評がその実践に深みと豊かさを与えてきた
- Knitting Bullshitの世界では、労働、抵抗、連帯、デザインの知性、工芸としての編み物の実際の歴史、蓄積された知恵が、AI生成のポッドキャストや動画が利益のために採掘する強力な感情的通貨へと変えられる
- AI生成の動画やポッドキャストを見聞きしてよい気分になる人そのものを批判しているのではなく、その感情が、消費しているコンテンツ自体ではなく、何十年、何世紀にもわたって人間の共同体と実践者が築いてきた、複雑で物質的な編み物の遺産から来ている可能性を指摘している
- AI Knitting Bullshitは、そのような人間の遺産を吸い上げ、再び吐き出すことで機能する
- AI生成のKnitting Bullshitを消費するより、実際の人間が作る編み物コンテンツと創作者を支援しよう、という結論へとつながる
- crofters、crafters、indie yarnies、designers、podcasters、show organisers、spinners、陶器ボタン制作者、歴史的な植物染料で作業する色彩愛好家、wooden hap frames・swifts・yarn bowlsを削り出す職人などが支援対象として挙げられる
- 人間の遺産、人間の創作実践、古く複雑な歴史、楽しく多様な現代の人間共同体は、AI-bullshitの未来が来るとしても、なお祝福と愛情と支援を受けるに値する
- 本文で使われたすべての画像は、「lovely knitting」という2語のプロンプトに対するAI生成結果物である
1件のコメント
Hacker Newsの反応
AI生成コンテンツをほぼどんな種類でも見るたびに、今ではまず深く響く悲しみを感じる
AIの成長は、手足を失うことのようにも感じられる。最初は衝撃と喪失感、奪われたものへの感覚があり、その後も何カ月、何年にもわたって、ささいな日常に触れるたびに「ああ、これも永遠に変わってしまったんだ」と気づかされる
毎日少しずつロープを下ろしながら暗い井戸の深さを測っているようで、返ってくるのは巨大で測り知れない空虚の中で意味もなく揺れている感覚だけだ
良い芸術には、すでに芸術家である人がAIを媒体として使うのでない限り、再現しにくいものがある。それが意図性だ
たとえばFloor796[0]を見ると、小さなディテールの一つひとつが重要だ。AIで個々のキャラクターや全体を作ることはできるだろうが、結局は何の理由もなく入り込んだディテールが見つかる。手作業で消したり、プロンプトや入力画像を変えたりしても、AIはまた別の奇妙な要素をこっそり差し込んでくるはずだ
プロンプトが長くなるほど、すべてがより意図的になっていき、実質的にはそのプロンプト自体が作品になっていく
[0] https://floor796.com/
あの短くも輝いていた瞬間を、いっそ最初から経験しなければよかったと思うほど、この喪失を乗り越えられそうにない。それがずっと残ると信じていた子どものころの自分が哀れだ
世の中に真実や品質に無関心な人が多いことは知っていたが、ここまで多いとは思わなかった
とりわけ友人や家族、同僚の間でもそうだった。日常的な連絡にAI生成の文章を送る人もいれば、自分の仕事を宣伝するためにAI生成のごった煮画像を使う人もいるし、どんな質問でもChatGPTに投げる人もいる
美しさ、真実、個人的な表現、専門家の仕事の質には目もくれず、ただ**「これを処理してくれ」マシン**にすがっているように感じる
経済学者の立場なら、すぐにこう問い返したくなる。こういうことをする金銭的インセンティブはどこにあるのか？ プログラマーが「スタックって何？」と聞くようなものだ
可能性はいくつかある。1) 資金洗浄: 大規模コンテンツファームが実際には別の収益源を隠しつつ、xyzだけ売り上げたと主張できる
2) 広告詐欺: ポッドキャストのチャートや検索最適化の結果を押し上げてクリックを誘い、広告を売れる。ボットファームがクリックを作り、偽の広告販売のように見せることもできる
3) 編み物商品のニッチ市場を支配しようとする試み、あるいは支配しているように見せて後で事業をより高い倍率で売ろうとする試み
4) 選挙やもっと収益性の高い分野へ移る前に、無害そうで隠れたテーマで1〜3を実行する、より大きなエンジンの試験。規制の面でも、どこまで可能かを見るわけだ
これ以外にも、こうしたものを作るインセンティブがあるなら一緒に考えてみたい
ごった煮ネットワークを始める具体的なインセンティブは、制作コスト削減によって利益率を高められるという約束と、制作時間が減ることでより速く成長できるという約束だ。面倒なクリエイターに金を払う必要がなく、理論上は1エピソードを聴くのにかかる時間ほど、あるいはそれより短い時間で作れる
数年前、AIごった煮ネットワークを始めることを検討したことがある。当時の技術はまだ準備不足だった。動機はもっと原始的で、ただ数字が伸びるのを見たかっただけだった
まだ誰もGary LarsonのFar Side漫画「Bullknitters」を貼っていないのはスキャンダルだ
https://www.instagram.com/p/C2OQtokvzCa/
あるいはGoogle画像検索でも見られる
記事そのものは実のところ編み物についての文章ではない。編み物は著者がAIポッドキャストの世界に引き込まれるきっかけであり、その産物が内容面でかなり乏しいと気づいた、という話に近い
編み物という言葉をほぼどんな趣味に置き換えても、文章はほとんどそのまま読める
この記事は、魂がなく内容もないAIポッドキャストの世界と、AIの出力が意味のあるコンテンツではなく、リスナーの感情を確認してあげる方向に働いていることについての話だ
要約はあるのに本文はない現象が興味深い。いろいろな形で見てきたが、なぜそうなるのかよくわからない。要約はプロンプトに強く縛られていて、残りはそうではないのだろうか？
Redditで奇妙なボットを見たことがある。誰かがニュース記事のようなものに関して質問すると、あるアカウントが答えずに、記事の一部を要約したような返答をしていた。「それは私が聞いたことじゃない」と返すと、もっと奇妙な反応が返ってきた
人間もある程度そういう振る舞いはするので完全に異様というわけではないが、Redditでそういうアカウントが突然どっと現れては消えたので印象に残っている
要約の目的は、リスナーにポッドキャストを再生させることだ。だから興味深い深みがあるように約束しなければならない
いったん聴き始めたら、本文は次の広告が流れるまでユーザーを聴かせ続けられる程度に心地よければいい。リスナーが十分に注意深く聴いて責任を問うほどでないなら、その約束を実際に果たす必要はない
Kate DaviesがHacker Newsに出てくるとはまったく思わなかった。彼女が編み物を生きるか死ぬかの問題のように語るときは、その背景を少し理解しておくことが大事だ
彼女は若くして脳卒中を経験するまでは18世紀文学の研究者だった[0]。回復の手段として編み物に集中し、その後は振り返らなかった。事業とコミュニティを築き、自身の身体的・精神的健康のかなりの部分を編み物のおかげだと考えている
だからこの文章は創作分野にいる誰にとっても響くものだろうが、彼女はごった煮コンテンツが存在そのものへの現実的な脅威になる、ある特定の種類の人を代表している。職業ではなく、人格全体の問題なのだ
ごった煮コンテンツが物事から人間性を追い出し、たわごと機械があらゆるコンテンツを埋め尽くす世界で、彼女のような人が最初の人生よりも良い第二の人生を築ける可能性はどれほどあるだろう？
0: https://katedaviesdesigns.com/2015/01/28/five-years-on-part-...
こういう偉大な人物がいるのに、率直に言って、人間の知的発展に逆張りすることに世界が賭けたせいで、彼女が見捨てられてしまうのではないかと心配になる
表現自体には何の問題もなく、誰が書いたにせよ本人が書いた文だと信じている
腹立たしいのは、まともな言語構造があまりに汚されてしまって、一目見ただけで反射的に身構えてしまい、ちゃんとした表現だと意識的に解釈しなければならなかったことだ
この記事のすべての画像は、「lovely knitting」というたった2語のシンプルなプロンプトにAIが応答して生成したものだという。絶妙だ
あの70万超のダウンロードが自然流入だと信じるべきなのか？ いったい誰がこんなものを全部聴いているんだ？
だから答えるなら、私たち全員が聴いていると言っていい。ただし、どの話題の束で警戒を解くかがオーディエンスごとに違うだけだ
考えることを要求しないのに賢くなった気分にさせ、労力を要求しないのに忙しくしてくれるコンテンツには巨大な市場がある。本質的に悪いとだけ言いたいわけではない
通勤中に音楽を聴くのも似たようなものだ。他の運転手に腹を立てる代わりに楽しめる、埋め草コンテンツにすぎない。インターネットがその公式を武器化し、今やAIはその核兵器版のようだ
https://www.inceptionpoint.ai
返信の95%はボット応答で、その大半はAIベースですらなく、ただのゴミみたいな無関係テキストだ
「こういう種類のたわごとで最も有害な点のひとつは、どんな形の批判的検討であっても、感受性のひどい欠如として片づけてしまうやり方だ」という文が本当に好きだ
とても巧妙なたわごと屋や操作の達人たちがこの技術を使うのを目にできる。厳密さや検証を求めると、上品に見下すような反応が返ってくる
まるで礼儀を欠いた人のように扱われるので、この技術は強力なのだ。面食らって引き下がりやすくなる
Kateの実際の論点を扱う必要はなくなる。Kateはコンテンツを投稿しているのではなく、対立を起こしているか、不幸な感情状態にあるのだと判定してしまえばいい
この戦略は、間接的には疲弊したモデレーターにとっても助けになる。異論を罰すれば炎上が減るからだ
Kateを批判する人たちは、自分たちはKateを支持しているとさえ言える。ただ彼女が感情のオーバーロードに対処できるよう助けたいだけだ、と言えばいい
文章が進むにつれて、画像がどんどんごった煮っぽくなっていくのが気に入った
ただし、被害を受ける重要な集団がひとつ抜けている。編み物について高品質で本物のポッドキャストを作っているクリエイターたちだ。彼らの本当のコンテンツがごった煮の山の下に埋もれてしまう
理論上は推薦アルゴリズムが良いものを持ち上げるはずだが、それがインセンティブに合っているようには見えない。悲しいことだ
途中で少し立ち止まって画像を理解しようとしたが、結局はわざとだんだん意味不明にしていったのだと気づいた
人々が、そこにどれほど手間がかかっていないかに気づいて、こうしたごった煮が最終的に消えてほしい
悪魔がいるとしたら、大仕事は自分で面倒を見て、小悪魔の軍団には編み物についての無監督自動ポッドキャストのような仕事をやらせ、人生の雑多な楽しみをしつこくむしばんでいくのだろう、という確信がだんだん強くなっている
https://en.wikipedia.org/wiki/Good_Omens
クリップを貼りたいのだが、まさにその点にふさわしく、どこかの悪魔がものすごく探しにくくしている
実際には、大半の人がどこまで我慢するかについて自分は間違っていたとわかった
こうしたAIポッドキャストの価値のかなりの部分は、リスナーの自己確認にある。エジプトの靴下とRavelryの間に何の中身もなくても、リスナーにはあまり重要ではない。学ぶことではなく、気分よくなることが目的だからだ
また、昔からニュース記事に何の関係もないストック映像を入れる慣行にはいら立っていた。特定の船について話しながら、実際にはその港に行ったこともないであろう適当な船の写真を入れても人が受け入れるのなら、AIにだけ厳密な正確さが必要な理由があるだろうか？
音楽は、純粋に私たちのパターン認識を刺激するだけでも気分を良くし、没入を維持させられる
AI動画や画像にも同じような効果があるように見える。たとえ本物でなくても、優れた人間の仕事から生まれたパターンを十分にエンコードしていて、注意を引きつけられる
人々に注意の逃避先を提供するだけでも、インターネット上では価値がある