AIを追加するすべてのアプリはこんなふうに見える
(botharetrue.substack.com)- AI機能を付けたアプリが、巨大なスプラッシュ画面と曖昧な入力欄で期待をあおったあと、実際の成果物では失望させる流れを風刺している
- 企業がAI機能を競うように投入する背景には、投資熱と模倣の論理があり、引用されたIncの記事は、シード段階の企業がピッチデックだけで1億〜1億5000万ドルを調達する状況に懸念を示している
- 批判の焦点はAIそのものではなくAIマーケティングにあり、Googleのように製品全体でAIを使いながらもひけらかさない例と対比されている
- Canvaの「Magic Design」とBeta表記は、品質の低い結果を「magic」で包んで見せるやり方として批判されている
- 「AI-enabled assistant」のような文言は、むしろ信頼を下げる可能性があり、AIという言葉を避けるオプションにお金を払いたいという強い拒否感につながっている
AI機能のオンボーディングで繰り返されるパターン
- AIを追加したアプリは、まず大きなスプラッシュページでユーザーを引き込む
- 「get started」を押すと、地球全体がユーザーの「aha」な瞬間で明るく照らされたような画像が現れ、すべてが変わるかのような期待を生み出す
- 次の段階ではユーザーに作業内容の説明を求めるが、何をどう入力すべきかという案内は乏しい
- 例示プロンプトも、「新しいインターネットに人々が期待を抱くようなマーケティングキャンペーンを作り、マスコットとキャッチフレーズを含めよ」といった具合に大げさだ
AIブームと模倣競争
- AI機能の投入競争はrace to the bottomとして描かれている
- 企業は、他社がAIを作ってhypeを集める様子を見たあと、同じ流れに乗ろうとする
- 瞑想アプリになぞらえた例では、Calm.comの「1日10分の瞑想」ではなく、ロボットが代わりに瞑想して学んだ教訓を教えてくれる「Headspace AI」のような誇張が使われている
- 引用されたIncの記事は、AIが投資家にとって依然として魅力的である一方、過熱・過剰投資・過大評価された領域でもあると伝えている
- Acadian VenturesのJason Corselloは、シード段階の企業がピッチデックだけで1億〜1億5000万ドルを調達する状況に懸念を示している
- Ohio State UniversityのOded Shenkarは、ゴールドラッシュでは模倣が増え、スタートアップを常にイノベーターと見るのはよくある誤りだと述べている
AIをうまく使うアプリと、AIを前面に出すアプリ
- AIの活用すべてを否定しているわけではない
- Googleは製品全体にAIが入っているが、新しく買った光る靴を自慢する子どものようにAIを前面に出さない例として対比されている
- 逆にCanvaは「Magic Design (TM)」を宣伝し、さらにBeta表記まで付けている例として批判されている
- Betaは技術業界で「いまひとつだ」を婉曲に言う表現のように風刺されている
「Magic」という包装への拒否感
- AIの結果物を「magic」と呼ぶマーケティングが中心的な批判対象になっている
- 生成された「fairy cat」の画像は、期待したすばらしい結果ではなく、LSDとspeedをやった木の妖精がコンピューターで描いたようなものだと描写されている
- 本当のmagicの例は、人々を驚かせるマジックの場面であり、AIマーケティングにおける「magic」という表現と対比されている
アプリマーケティングへの実際の反応
- ウェブサイトで「now with AI-enabled assistant」という文句を見ると、そのアプリを避けたくなり、コンピューターを窓の外に投げ捨てたくなるほど拒否感が強まる
- アプリにAIという言葉が見えると、システム全体が「AI-disease」に汚染されて、もう二度とまともには使えないかのような誇張された反応につながる
- アプリ内のどこにもAIという言葉を使わないオプションがあるなら、それをプレミアムティアとして買うだろうと述べている
- Alexという名前が友人からAlと呼ばれるという個人的な冗談を添え、「AI Magic」は自分が魔法そのものであるか、自分の魔法をアプリが使っているように見える、と締めくくっている
1件のコメント
Hacker News のコメント
個人的に一時ちょっと話題になった作品: https://meat-gpt.sonnet.io
トラフィックのかなりの部分は、これを本物のプロジェクトだと信じている人たちから来ています。AIツールのカタログが、私の AI製品 についての紹介文を延々と幻覚しているからです。
賞を取りかけたものの、3D回転サンドイッチ サイトに負けました。それでも、スタートアップからビーフジャーキー作りに転身した人に出会い、「meatverse」という小さく排他的なコミュニティが生まれました。
https://butter.sonnet.io も作ったところ、お金を払いたいと言う人たちがいました。中世風コンテンツファームにブラックレター体のネイティブ広告を載せて収益化すべきなのかもしれません: https://tidings.potato.horse
https://github.com/paprikka/butter/blob/main/src/watcher/detector.ts#L10-L33
ただ、元記事の要旨、そしておそらく meat-gpt の要旨は、アプリが最初からユーザーにリアルタイムで大量の非定型テキストを入力するよう求めるなら、控えめに言っても面倒だし、かっこいいものを指差し、それが変化するのを見て、現実の人たちと共有したいという本能にも反する、ということです。
AIは、タイピングや読書、関係のない広告を見る時間を減らし、「おおお」と思える関連性のあるものを見る時間を増やしてくれるときに優れています。
ただ、ここで
.horseを思い出させてもらえてうれしいです。大学時代、友人たちとドメインを片っ端から買って、ランダムな画像を繰り返し背景にした静的ページを置いていた頃以来、見ていなかった気がします。差し支えなければ技術スタックが気になります。フロントエンドは Svelte のように見えます。
ちゃんとした long s の ſ すら使っていません: https://en.wikipedia.org/wiki/Long_s
リンクはありますか？
Douglas Adams の Dirk Gently に出てくる Electric Monk を思い出します。
「Electric Monk は、食器洗い機やビデオ録画機のような省力化装置だった。食器洗い機は退屈な皿を代わりに洗ってくれるので、自分で皿洗いをする手間を省いてくれる。ビデオ録画機は退屈なテレビを代わりに見てくれるので、自分で見る手間を省いてくれる。Electric Monk はあなたの代わりに信じてくれるので、世界があなたに信じろと要求するあらゆることを信じるという、ますます重荷になっている作業を省いてくれる。」
そしてこの Electric Monk は故障して、ほとんどランダムにあらゆるものを信じ始め、Salt Lake City でも信じがたいようなものまで信じ始めた、というくだりが特にぴったりです。
不思議なことに、記憶の中ではそれはテレビを代わりに見てくれる装置だったような気がしていました。
テック業界の 誇大宣伝列車 は、マルチ商法の陰湿な世界とまったく同じように存在します。過去の顧客の関係で、その方面の経験がかなりあります。
何を売っているかは重要ではなく、その誇大宣伝列車が十分な人数のところを通過して、自分の「投資」を現金化できるかどうかがすべてです。
各投資ラウンドは以前の参加者たちの現金化であり、最後のラウンドはIPOなので、事情をよく知らない一般大衆が空っぽの袋を抱えることになります。
マルチ商法のピラミッドと同じで、製品やサービスが一部の人には価値がある場合もありますが、実際には必要としていない大多数にまで売られます。
数年前は事業計画書のどこかに BLOCKCHAIN を入れる必要があり、今はAIを入れる必要があります。人々は理解していないものや想像上のものにも興奮するので、ただ夢を売ればいいのですが、自分自身の誇大宣伝にはだまされてはいけません。
ドットコム、クラウド、そして今のAIまで、3つの誇大宣伝列車 に乗りました。w3/暗号資産は逃しました。
ただ、米国や世界の他の分野では、こういう誇大宣伝列車をあまり見たことがありません。
Fortune 500企業で働いていますが、うちの上級技術幹部の1人が Business Insider の AI分野 Top 100 に入りました。
当社にはAIを使った製品はなく、実際にAIに最も近かったことといえば、GitHub Copilot をごく小規模に試した程度です。
そのプロジェクトは試作品、概念実証、テスト中、あるいは小規模なものばかりで、その人も正直、言うほど実行力のある管理者ではなく、実際の貢献はあまりなかったと思います。
それでも翌年、Time誌の Top 100 に「何百万人もの子どもを救った」という理由で選ばれ、そのとき メディアの実態 を思い知りました。
本当の理由は「Business Insider に顔の利く広報担当者がいた」なのでしょうが、表向きに掲げたもっともらしい理由が何なのか分かれば、かなり見えてくるものがありそうです。
「傷つきやすい個人的エッセイを通じて週2回ほど届く、ばかげていて率直なコメディ。メールアドレスを入力してください…」というポップアップが、偶然にも2枚目の画像の「何で行き詰まっていますか」というプロンプトの上に重なって表示されていた
しばらく、それが絵の一部ではないことに気づかなかった。少なくとも架空のAIページは、個人情報を求める前に何かクリックさせてはいた
自動で閉じてくれるChrome拡張機能みたいなものを考えているが、今ではたいていクリックする価値すらないと感じる
インターネットがあらゆるモーダルについて訓練してきた通り、読まずに即座に閉じる。私の関心がほしいなら、読んでいる本文の中に行動喚起の文言を入れればいい
コンテンツの途中でメールアドレスを求めるモーダルを出すのは、そのコンテンツを大切にしておらず、私の情報を得るために書いたというシグナルのように見える
企業は何が定着するかを見るために、ゴミを壁に投げつけるように大量に試していて、不思議なことに投資家はそれに報いている
LLMで有用な機能を作れるのは確かだが、まず企業が理解すべきことがある
製品の上にLLMフロントエンドを1つ載せるよりも多くの努力が必要で、おそらく派手な「破壊的」機能でもないだろう
ユーザー体験を5%だけ簡単で効率的にするだけでも大きな価値があるが、その程度の機能をAIインフルエンサーたちが息せき切って売り込んでくれるわけではない
何より、解決策を考える前に解くべき問題から考えなければならない
企業はその流れに乗るのがどれほど簡単かを理解しつつある
最近ステルスモードを出たばかりのスタートアップのエンジニアリング責任者と、仕事、市場、技術的難題、チーム構成について1時間以上話したが、AIは一度も出てこなかった
ところがウェブサイトに行くと、「高度なAIであなたの_____を超強化」といった文句で埋め尽くされている
ベンチャーキャピタルの「ベンチャー」という言葉も、その意味によく合っている
正直、これが機能する別のやり方があるのか分からない
まだ燃やす金が残っているらしい
結果が不確実なので、金鉱で実際に動いている誰にでも投資する戦略を取ることになる
もちろん実際にはネットワーク効果が先に立ち、知っていて、富を生み出した実績と能力のある人に投資する方を好むだろう
だから金鉱で積極的に動き、投資家から報われること自体は間違っておらず、かなり明確な合理性がある
1年ほど前のメタバース、その前の数度にわたる暗号資産の騒ぎ、そしてその前には古い友人であるAIがあった
すべてがベンチャー資金を得るためにAIチャットボットのふりをしていた短い時期があり、その最後のAIバブルはMicrosoft Tayのリリースとともにほぼ死んだ
AIの誇大宣伝について感じる感情は、まさにこれだ
「AI」分野にかなり長くいたが、誇大宣伝はツールの有用性とコストの両方について完全に非現実的な期待を作るため有害だ
「ハイシックスして」はいいジョークだ。ニューラルネットワークがそれらしい手を生成するのが悪名高く苦手だという点を考えるとなおさらだ
著者とまったく同じように感じる。アプリに「AI」を付けるのは、今月の養育費を払うために急いで粗悪品を売りたい安っぽい営業マンというシグナルのように見える
機械学習自体は問題なく有用だ。だが「その上にLLMを1つ載せろ」は痛々しいほど鈍い
いまやあらゆる技術製品とサービスがそれをやっているので、完全に暗号資産ブームが戻ってきたようだ
最近の生成画像の一部はかなり現実的だ
AI詐欺にあれほど金が流れ込んでいるのに、GitHubで生成AIツールを維持している小さな英雄的メンテナーたちにはほとんど資金が回っていないのは本当に驚きだ
TheBlokeが量子化モデルで支援を受けたり、GGMLがシード投資を受けたりしたような例外はあるが、InvokeAI、VoltaMl、koboldcpp/artbotとAI Horde、Petals、ControlNetの開発者のようなところは金に埋もれているべきなのに、実際にはほとんど何もなく燃え尽きている
私が知らない事例もずっと多いだろう
暗号資産のお兄さんたちは金を持って逃げ、何人かの開発者はGitHubでほとんど、あるいはまったく資金なしに少しずつ作っていた
大きな違いは、AIの誇大宣伝を擁護する人がはるかに少なく、全体としてLLMの適用についてはるかに批判的かつ現実的に見ている点だ
彼らがレーダーの下にいるもう一つの理由は、その手の人たちの多くにややきな臭い面があるからだ
例えばAutomatic1111は人種差別的なRimworld Modでも有名で、開発者クレジットに4chanを積極的に入れており、GitHubのプロフィール画像にホー・チ・ミンを使っている。ベトナム人か、変わった共産主義者か、あるいはその両方かもしれない
現実には多くのAIイノベーションはDiscordでアニメのプロフィール画像を使っている人たちが作っており、彼らがここに執着する理由はドーパミンを追い求めることに近い。だがこの分野の外では、ほとんど誰も知らない
テック業界や、この「起業家精神」なるものの中にいる人たちは、もう少し合理的で常識があるものだと思っていたが、実際には誰にでもガラクタを売りつけられるように見える
Twitterでこういうガラクタ系インフルエンサーたちがあれほど大きな注目を集めているのを見ると、苦々しい気持ちになる
それでも、この架空の意見や助言の洪水の中で、誰の話を聞くべきではないかをふるい分ける良いフィルターにはなる
個人的にそういう人たちを何人か知るようになったが、半分は自分が何をしているのかもきちんと理解せず、YouTubeチュートリアルに従って設定しているだけだ
彼らが「AIプロダクト」と呼んでいるものは、実際にはどこかのAPIにつなぎ、非常に脆弱なシステムプロンプトを入れたボットにすぎないのに、チュートリアルどおりにインストールしたという理由で、みんなが感心すべきだと思っている