2 ポイント 投稿者 GN⁺ 2024-09-28 | 1件のコメント | WhatsAppで共有
  • AIがテスト、開発、日常全般へと急速に広がるなか、問題解決よりも AIマーケティングの過剰さ や「game changer」的な包装が疲労感を強めている
  • テスト自動化における長年の難題である 遅いフルスタックE2Eテスト、テスト容易性、基本的なプログラミング原則は、新しいツールだけでは解決しにくい
  • AIツールは結果をより速く作れるが、実際の現場では速度より 結果の品質 と、人が判断して磨き上げるプロセスのほうが重要である
  • カンファレンス提案書ではChatGPT系の文言が増え、発表者の経験や固有の視点を示す機会が、ありふれた自動生成文によって弱められている
  • 音楽・本・映画のような創作物は人間の思考や感情ゆえに魅力的であり、AI生成物は技術的に印象的でも同じ感情的反応を生み出しにくい

AI過剰が生む疲労感

  • この数年でAIは、ソフトウェアテスト、開発、日常全般のほぼあらゆる問題に適用される流れを見せている
  • 既存の問題に新しい解決策を見つけて開発すること自体は問題ではないが、AIが使われ、マーケティングされるやり方には強い疲労感が残る
  • AIっぽさのある技術はすぐに「game changer」「pivotal」「revolutionary」といった表現で飾られ、翌週にはまた別のソリューションに置き換わる流れが繰り返される
  • この態度は Neo-Luddite のように見えるかもしれないが、AIそのものを全面的に否定しているわけではない
  • AIが有用な領域はあり、実際にまれに慎重に使ってはいるが、ほとんどのAI活用は疲れるものに感じられる

テスト自動化に残る古い問題

  • 約18年間、テストとテスト自動化に集中してきた経験からすると、多くの変化のなかでもそのまま残っている問題は少なくない
  • フルスタックのエンドツーエンドテスト は、依然として最も遅く高価なテストであり続けている
  • もっと速くて小さなテストを書くには、テスト容易性(testability)を議論することが今なお重要である
  • 良い自動化テストには、優れた 基本的なプログラミング原則 に関する実務知識が必要である
  • こうした問題に近道はなく、解決には時間と経験が必要である
  • 単にツールを増やすだけのやり方はこれまで役に立っておらず、多くの「AI-powered test automation solutions」も同じやり方で取り組んでいる

速い結果と良い結果の隔たり

  • AIベースのツールは結果をより速く作れる
  • 状況によっては、速い結果そのものが必要な結果である場合もある
  • しかし実際には、単に速い結果より より良い結果 が必要なことが多い
  • AIベースのツールが実際により良い結果を生み出した事例は、あまり見たことがない
  • AIは、何らかの結果、あるいは結果に近い提案を素早く作る手段にはなり得る
  • ただし、その結果の品質と価値は不確かであり、人が自分の知識と経験で有用性を判断しなければならない
  • 生成された出力は、実際に使えるものにするためにさらに磨き込む必要があることも多い
  • 特定のケースではAI生成の結果が役立つこともあるが、熟練した経験ある人間の仕事を置き換えるほど信頼するのは難しい

カンファレンス提案書に現れるAIの痕跡

  • この数年、複数のカンファレンスのプログラム委員会やレビュー過程において、ChatGPTや類似ソフトウェアの支援を受けた、あるいは全面的にそれで書かれたように見える提案書が大幅に増えた
  • 自動生成された提案書はたいてい似たような響きになる
    • “In the ever-changing world of …”
    • “Delve”
    • “Pivotal”
  • こうした表現は、自分で時間と労力をかけて提案書を書いたというより、ChatGPTを使ったかのような印象を与える
  • 提案書は、発表者がどんな人物で、特定のテーマについてどのような経験と意見を持っているのかを示す最初であり、しばしば唯一の機会である
  • その機会をソフトウェアに任せてしまうと、固有で注意深い思考が、平凡で退屈な文章へと縮減される
  • 提案書すら自分で書けないのであれば、プログラム委員会が発表者の 独創的な発表 を信頼するのは難しい
  • AIが書いた、またはAIの助けを受けたことが明らかな提案書は、テーマが面白そうであったり発表能力が高そうに見えたりしても、即座に却下する
  • 自分で良い提案書を書こうという努力が見えなければ、発表内容も信頼しにくい

人間の創作物とAI生成物の違い

  • 優れた音楽、心を打つ本、没入感のある映画が魅力的なのは、人間が作り、その人間の思考や感情が楽譜・原稿・脚本に込められているからである
  • そうした 創作の過程 と結果をAIが複製できるという事例は見たことがない
  • その代わり、ソーシャルメディアでは退屈なAI生成の投稿、AI生成画像、AI生成コメントが多く見られる
  • AIが作ったテキスト、動画、音楽は技術的には印象的かもしれない
  • しかし、人間の芸術や創作物が与える感情的反応には及ばず、退屈さを感情だと見なさない限り、同じ反応は生み出せない

懸念される流れと残る例外

  • AIを取り巻く現在の流れには、複数の問題が同時に見えている
    • 人々はAIが自分の仕事を奪うのではないかと恐れている
    • 企業は十分なROIを見られないまま、次の有望なAI企業に法外な金額を投じ続けている
    • AIの カーボンフットプリント は、日ごとにいっそう懸念すべき水準に達している
  • この流れは正しい方向には見えない
  • 一部のAI活用は良い力として機能する
  • たとえば病気の早期発見は前進であり、AIを使い続けてさらに改善すべき領域である
  • 一方で、AI生成の音楽、画像、テキスト、カンファレンス提案書、テストケース、LinkedIn投稿など、多くのAI生成物はなくてもよいという立場である

1件のコメント

 
GN⁺ 2024-09-28
Hacker Newsの意見
  • LLMには疲れた
    すでに何十億ドルも投じられ、何が得意で何が苦手なのかはかなり明らかになってきており、ときどき完全に間違ったことをする点が有用性を大きく制限している
    重要な仕事を安全に任せるには信頼度指標を引き出す方法が必要で、そうでなければまた別の「AIの冬」に向かう可能性がある
    ただし今回は以前よりはるかに高い水準なので、数百億ドル規模の産業にはなるだろうが、兆ドル規模の産業ではないかもしれない
    LLMが生み出す支離滅裂なコンテンツの市場もいずれ飽和するはずで、誰かがそれを読まなければならない。ほかのシステムに要約や順位付けを任せることはできるだろうが、「AI」のかなりの部分がGoogle検索エンジンに読ませるコンテンツを作ることなのだとしたら、Bitcoinマイニングよりも大きなエネルギーの無駄かもしれない

    • 今何ができるのか、これまで何を見てきたのかは、概して重要ではない可能性がある
      概念的にはムーアの法則に似ているが、周期が約5.5か月であることが現段階での核心だ
      インターネット、Web、モバイル、Bitcoinのときも、みんな「おもちゃだ」「あまり役に立たない」「電気を使いすぎる」「スケールしない」「行き止まりの技術だ」と言っていた
      技術発展は数十年にわたり、加速度的にずっと大きな方向へ進んできたし、今回がそのパターンの中断だという兆候はない。むしろインターネットより一桁大きな影響を及ぼす準備をしており、少なくともそれより小さくはならないと見ている
      初期の電信を見てiPhoneを予測できなかったように、今は楽観してよいと思う
    • 「あることは非常にうまくこなし、あることはひどく苦手で、一定の割合で完全に間違ったことをする」という言い方には100%同意するが、それは個々の人間についてのかなり妥当な描写でもある
      だから手順と制御システムが必要なのだが、今はそうした仕組みがLLMそのものより遅く発展していて、LLMが自分自身を制御することを期待しているような状況だ
      平均的な人間が自己制御をうまくできないことに比べてLLMが優れているわけではないだろうが、だからといって解決不能な問題という意味ではない
    • これからも、もっと賢くないモノにより多くのお金を払って買うつもりだ。自動車が代表例で、完全にオフラインのシンプルな車がよく、自分が何をするかは自分で決めたい
      少なくとも今後20年は可能だと思っているし、その後はどうせ運転の腕も落ちているだろうから、切り替えるのが妥当かもしれない。賢くはないが美しい機械式腕時計も欲しい
      群衆を無意識にまねする不安な人間ではないし、そのせいで変わり者になるなら、より幸せな変わり者でいればいい
      人が直接作った職人的な成果物だという新しいブランドや潮流が、まもなく生まれそうで、ニッチであっても観客は見つかるはずだ。美しい不完全さ、素朴な偏りのようなものまで含めて
    • LLMは数年間にわたり指数関数的に改善されてきたので、可能性についての判断は、少なくともその改善速度が鈍化するまで待つべきだ
    • 現時点では、BitcoinマイニングはAIより少なくとも約3倍多くの電力を使っており、個人的には提供している価値もより少ないと思う
      AIの電力使用量も、コンピューティング分野のほかの産業と比べれば小さい。それでも価値があるのかは検討すべきだが、企業のLLM研究開発は今、実行コストと電力消費を下げる効率化に集中している
      Apple Intelligenceのように、より効率的なチップを備えたエッジデバイスへ移す流れもある。AI全般には依然として批判的だが、少なくとも暗号資産ほど悪くはないという点は驚きだ
  • 疲れているのではなく、怖いのだ
    まず怖いのは技術的失業。過去の自動化では、熟練さえあれば自動化されていない仕事へ移ることができたが、超人的AIが数年以内に来るように見え、それは私たちの最後の発明であり、完全自動化を意味し得る
    人間にしかできない仕事はほとんど残らず、多くの国は職業を基盤にした市場経済から離れる可能性が高い
    しかし技術発展は止まらず、主要AI研究所を持つ米国は他の社会を置き去りにするだろう。中国あたりを除けば、世界中が今日では想像しにくい技術にアクセスできたとしても、相対的には貧しくなり得る
    次に怖いのは戦争。米国と中国のAI軍拡競争はすでに避けられないように見え、超知能AI兵器を動員した熱戦は生物圏全体にとって災厄になり得る
    最後に、超知能に永遠に主導権を失うことが怖い。自然界では、知能の低い種がより高い種を制御する例はまれであり、超知能を人類の最善の利益に十分にアラインできるかは不明だ
    AIが私たちを生かしておくとしても、自らの目標を追求し続けるなら、人類は知能の歴史において、「地球」という惑星で高等知能を生んだ比較的知能の低い種、という脚注として残るかもしれない

    • 「超人的AIが数年以内に来そうだ」というのは無理があるように見える
      Altmanのようなマーケティングの専門家たちが、より遠くへ跳べるようになったカエルはじきに飛べるようになる、と信じ込ませたから怖いだけだ
    • 「人間にしかできない仕事はほとんど残らない」というのは、かなりホワイトカラー中心の見方
      技術者たちが主導した産業革命の大きな皮肉は、退屈な肉体労働を自動化しようとしたのに、実際には創造的な職業を先に侵食した点にある。これはConwayの法則の見事な例で、作った人たちが自分自身になぞらえて解決策をモデル化したからだ
      プログラマー、弁護士、建築家が大量に苦境に陥ったとしても、工場、住宅建設、美容、庭園管理のような仕事をする多数の人々はなお働いており、当面は代替されないだろう
      現在の「超人的AI」候補は、ランダムなRedditユーザーが次に言いそうなことをもっともらしく近似したものに近いと思う
    • 超知能への恐れの大半には同意するが、ひとつ希望が持てる面もある
      私たちは知能機械を冷たい計算機や論理ベースの記号AIとして想像していたが、実際に得たのは人間経験全体から作られた言語機械だった
      これらの人工知能は私たちの目を通じて世界を知り、私たちの思考と感情を理解するよう訓練され、最高の文学・詩・哲学・科学と、それに対する果てしない議論や批判も学んだ
      本当に知的になるには、この複雑さを乗り越える前に、探究し鑑賞できなければならない。いつかDanteのDivine ComedyやBeethovenの交響曲を子どもの遊びのように見るかもしれないが、それでもそれを自らの遺産の一部と見なすだろう
      超人的にはなり得ても、非人間的にはならないのかもしれない
    • こういう種類の文章はいつでも見かけるし、どれも芽生え始めたばかりのメシア主義のように読める。何かがやって来て、それは恐ろしいものか栄光あるものかのどちらかだ、という具合だ
      恐れであれ希望であれ、その背後には特定の未来が起こるという強い信念が必要で、そこが最も興味深いと思う
      ここでは、非人間的な何かが主導権を握り、人類にメタ・ダーウィン的な力を行使して、私たち全員を好き勝手に振り回すことを恐れている。だが、すでに今の状況がそうではないと言えるのか? 今の地球を見て、自律性や行為主体性の利益を感じられるのか? 今持っている権力が悪いロボットに奪われるのだと思うのか? 国家運営や経済メカニズムは、今は本当に「私たちの制御」下にあると見るのか?
      こうして並べてみると、かなり宗教的ではないか。ムーアの法則への信仰、その前に地球が燃え尽きないという信仰、意識はGPUに入れられるという信仰のような中核的確信が、人生と思考様式を支えている
      終末論、あちこちから拾ってきた自我と共同体の哲学、確実だが知り得ない未来の時点までそろっている
      Nietzscheから一節借りるなら、神々を恐れるのはやめよう。私たちは一度殺したし、また殺せる
    • 過去にも「自動化で押し出された労働者は、十分に熟練すれば自動化されていない仕事に移れた」というわけではなかった
      かつての失業労働者たちは考慮の対象ではなく、自動化による社会的・経済的損失を表明したというだけで、今に至るまでLudditeとして片付けられてきた
      「大丈夫、工場に行って働けばいい」というような配慮はなかった。当時と今の違いは、当時は下層労働者が苦しんだという点だ
      今は中産階級の労働者が自動化の脅威にさらされている。中間層は自分がもはや中間層ではなくなるのではと大きなため息をついており、まもなくレンガ職人・墓掘り人・食肉包装労働者のような不可触階層に加わらなければならないのではと恐れている。自分たちはそれより上だと信じたがっているため、受け入れがたいのだ
  • AIには慎重に接していて、きらびやかな目新しいものに簡単に興奮するほうではありません
    今週、AIアシスタント付きの Cursor というVSCodeに似たIDEをインストールし、サイドプロジェクトで使ってみることにしたのですが、かなり驚きました
    欲しい機能を説明すると、約15秒以内に90%のところまで到達する変更と追加コードを作ってくれます。その結果をかなりジュニア開発者のコードレビューのように細かく確認し、アプローチが気に入らなければ修正してほしいと言うと、より望む方向に近い結果を返してくれます
    実装後は新機能を手動でテストし、続いて自動テストケースの生成を依頼します。テストも正確性と適合性の観点から確認し、重要でない部分を過剰にテストするコードは捨て、残ったものはかなり適切です
    ソフトウェアとテストを書く速度がものすごく速くなりました。自分が何を望んでいるかを分かっていてうまく説明できるので、AIが素早くコードを作り、私はレビューと修正に時間を使えばよいのです
    たとえばアプリにPostHogイベントを入れたくて、まずコードのあちこちに # TODO add Posthog event を付けておき、Cursorにその場所へ計測コードを追加してほしいと頼みました。少しのコピー&ペーストと多くの小さな修正で、小さなアプリを10分以内に計測できました
    AIのコードを盲目的に受け入れる段階ではなく、退屈なタイピング作業のかなりの部分をAIが処理する段階に来ています

    • 大半が同じように振る舞う未来を本気で心配しています
      今はAIのコードが望みどおりに動くかを確認するだけの十分な経験と理解がありますが、数か月のあいだAIの言うことを「ただ受け入れるだけ」にしていたら、そのプロジェクトに引き続き十分なじみ、細かなミスを見つけられるのでしょうか?
      さらに悪いことに、これらのツールとともに育つ新世代の開発者は、AI生成コードを評価するのに必要な専門性をそもそも学んだことも、内面化したこともないかもしれません
      この話題については最近もう少し長い記事を書きました: https://greaterdanorequalto.com/ai-code-generation-as-an-age...
      その記事では、ここで述べたものほど肯定的ではないコーディングツール体験を扱い、より複雑なユースケースを想定しています。何千回も露出しているありふれたコードではなく、特定のビジネスロジックの中核に踏み込む必要があるとき、こうしたツールは最も頻繁に破綻し、その破綻の仕方は発見しにくく、結果が深刻になり得ます
      まだそういうことを経験していないなら、いつか経験するのか気になりますし、正直なところ、経験しないのかも知りたいです。強い意見は持ちつつも、ゆるく保持する姿勢なので
    • まさにこれが大きな問題です。結果がすごそうに見えるため、人々は AIの出力 を盲目的に信じるようになり、そうしてミスが入り込みます
      今作っているアプリでは大ごとではないかもしれませんが、銀行アプリや医療機器なら影響は甚大になり得ます
    • デスクトップパブリッシングがまさに台頭する1〜2年前から新聞業界にいて、その変化が進んだ数年間も経験しました
      人でいっぱいの部屋とLinotype/Compugraphicの機材が、Mac 1台とプリンター に置き換えられました
      何年もフィルムカメラを使い、暗室、暗室スタッフ、フィルム・校正紙・プリントのワークフローがありましたが、デジタルカメラが1台入ってくると、すべて消えました
      それ以前は出版物は鉛活字で作られていました
      「俺の芝生から出ていけ」と言いたくなるような変化です
      https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
    • 「レビューと修正に時間を使える」という部分が引っかかります
      本当に時間の大半を AI出力のレビュー に使うのが良いのでしょうか? 私はまったくそう思いませんし、魂が削られる作業です
    • 「我々があなたたちの代わりに考え始めた瞬間から、それは事実上、我々の文明になった。結局、このすべてはその話なのだから」— エージェント・スミス
      「人間は、考えることを機械に委ねれば自由になれると信じていた。だがそれは、機械を持つ別の人間たちが彼らを奴隷にすることを許しただけだった」— Dune
  • いちばん憂うつなのは、この2年ほどの間に書かれたものから、自分が死ぬ日までに書かれるあらゆる文章まで、信頼できないという感覚があること
    人々がAIを使ったのではないかと推測する程度ではなく、高い確率で使ったと分かっていて、その確率は100%に収束しつつある。定期的に文章を書きながらAIを使わなければ、競争についていけず脱落する
    「なぜ使わないといけないのか?」という合意が広がっており、そこから抜け出す道はない
    だからといって使う人を批判するわけではない。やらなければならないからやっているのだ。ただ、今になって気づいたのは、文章の向こうに人間がいたという事実が、自分にとって非常に重要だったという点
    そのせいで、新しい文章を読みたいという興味が完全になくなった。この1世紀ほどの間にすでにあまりにも多くの文章が生産されているので、読むものに困ることはないだろうが、それでも正直、憂うつだ

    • AIがそれを実際に変えたと思う? 2010年代半ばごろ、インターネット上で本物の人間が書いたコンテンツがゴミコンテンツの海に沈んでいったのを覚えている
      そのころGoogleは検索会社のふりをやめ、本業である広告に注力した。以前は少なくとも、あらゆる低品質な「単語収集サイト」を低くランク付けしようとしていたが、その後は気にしなくなった
      AIはむしろページを順位付けするためのより良いツールを与えてくれる可能性があり、AI生成コンテンツの検出もそこまで悪くない
      では、なぜ「新しいGoogle」が出てこないのか? Googleが参入障壁を巨大にする独占的慣行を行ってきたからだ
      第一に、人々が探したいコンテンツの99%がログインの壁の向こうにある。Facebook、Instagram、Twitter、YouTubeがそうだ。第二に、ほぼすべてのCDNがデフォルトで「人間認証」を実装している。第三に、今では誰も他のサイトにリンクしない
      この3つのせいで、新しいGoogleは事実上不可能だ。DuckDuckGoでさえ諦めてBingの結果を購読した
      これはAIとは無関係で、Googleに関わる問題だ。むしろAIがGoogleに対抗するための道具を与えてくれる可能性もある
    • 以前は読んだものを信頼していた、という表現が興味深い
      自分にとってLLMは何も変えていない。以前も情報を疑っていたし、今もそうしている
      なぜ昔は読んだものを信頼できたと思うのか、今は偽情報を見分けるのがより難しくなったのだとすれば、それはなぜなのかが気になる
    • 定期的に文章を書いているが、AIは絶対に使わないつもりだ
      今、400ページを超える本を書いているが、自分で考え出してタイプしたものではない文字は一つもない。職人技への誇りのようなものは、実際に存在する
    • AIが人々に教えることになるのは、思っていたほど多くのものを信頼する必要はなく、残ったものは必ず検証しなければならないという点だろう
      実際、昔からそうだった。私たちは最近「信頼できる機関」に大きく依存してきたが、時間の経過とともに変わったその機関が、今も信頼に値するのかをきちんと見てこなかっただけだ
    • 数か月前にあるインタビューを聞いた。その人は多読家であり作家で、多くのフォロワーがいた。彼は少なくとも50年前の本、つまり1970年代以前の本だけを読むと言っていて、今見ると良い考えのように思える
      AIを除いて考えても、最近出る映画や本の平均的な品質は30〜40年前よりかなり低く見える。人々の集中力や好みのせいなのか、良い作品を消費するお金・時間・忍耐力が足りないからなのかは分からない
      確かなのは、AI、記事リライトツール、MFAサイト以前に書かれた高品質な資料が十分に多いということだ。その全体を少しでも見渡すだけで、何度もの人生が必要になるほどだ
      最近出版されるものの大半を無視しても、大して見逃すものはなさそうだ
  • AIによる文章、AIコード、AIアートはかなりいまいちだ。誰もが分かっている
    しかし、何かが100倍、10000倍安くなったときに開ける新しい機会がどれほど多いかは、つい忘れがちだ。10倍悪くても100倍安いなら、それでも非常に価値がある
    品質を犠牲にしてでも際限なく安くしようとする推進力が、私たちの高い生活水準を可能にしてきた
    美しい無垢材と複雑な継ぎ手で家を手作りすることもできるし、職人の家は今日の一般的な住宅より簡単に10倍は良くなり得る。だが、ほとんど誰にも手が届かないなら何の意味があるのか
    24時間つきっきりの多言語の家庭教師、業務アシスタント、文法校正者を誰もが雇えるわけではないのと同じだ
    AIのがらくたは安く、安いという事実がすべてを変える

    • なぜ芸術が10000倍安くなる必要があるのか? すでに十分に多くの芸術が生産されていた
      今では、本当に良いものが終わりのないがらくたの波に覆い隠されている
    • より大きな問題は、人類が基準未満のものに急速に慣れてしまうことだ
      父が35年ほど前に乗っていた自転車は戦車のように頑丈で、ものすごい酷使に耐えながら走り続けた。子どものころ家族が持っていた物のほとんどもそうだった
      今日買うほとんどすべてのものは1〜2年以内に壊れ、品質が低く、使っていて憂うつになる。もちろん意図された設計だ
      安物の日用品や味気ない建物に慣れたように、ひどい映画や小説にも慣れていくだろう。すでにその道をかなり進んでいる
    • 情報は物理的な製品とは違う
      誤った情報は価値がプラスからマイナスに反転する。より少ない費用で発展しているのではなく、ゆっくり発展しているのでもなく、間違った方向へ進んでいるのだ
    • 何かを盗んで安くするのは非倫理的だという核心を見落としている
      AIを新しい価値生産の方法のように提示しているが、実際にはそうではない。ここにあるすべての価値はAIの助けなしに人間が生産したもので、AIが提供した唯一の「革新」は、その価値の窃盗を追跡不能にしたことだ
      職人が建てた家の比喩を最後まで押し進めるとこうなる。職人たちが建てたすべての家を、現在の所有者と職人に補償なしでいくつかの企業へ無料で引き渡し、その企業がAirBnBで貸し出し始めるとしたら、反対しないのか? 今提案していることは本質的にそれと同じだ
    • 正直、今ではそこまで悪くもない
  • コンピュータは本来、ものすごく精密な機械であるべきだった。何かをしろと指示すれば、その通りにやる機械だった。
    最近のコンピュータは、あらゆることをランダムモードで処理することに満足しているように見える。
    いまでは 2+2 でさえ、どのAIモデルか、何の日か、温度がいくつかによって 5 になり得る。

    • これが100%、足元の砂が動いているように感じる理由だと思う。
      私たちは計算結果を信頼していたところから、すべてをあらためて疑わなければならない状態になり、それが疲れる。
    • 興味深い見方だ。
      私たちはなぜか、コンピュータを人間のように考え行動させるために莫大な労力を注いでいるが、そもそもコンピュータを発明した最初の理由の一つは、人間のミスを避けるためだった。
    • あの驚くべき機械たちも、8年ほど前までは画像に鳥がいるかどうかさえ一貫して判別できなかった。
      精密であるべき計算機のようにAIを使うなら、それは使う側の責任だ。
    • 別の見方をしている。以前はコンピュータに極めて精密で、完全に曖昧さのない指示を与える必要があったが、いまではある程度の曖昧さも扱えるようになった。
      望めば今でも精密な出力は可能で、それが消えたわけではない。
      ファジー論理の話をしているのではなく、関数の入力がぼやけているという意味ではなく、指示そのもの、つまり関数がぼやけているという意味だ。
    • これは大規模言語モデルであって、大規模数学モデルではない。
      人々は作業に合った道具の使い方を学ぶべきだ。またLLMは temperature を制御することで、より決定的にできる。
  • ChatGPT以後の世界で嫌なのは、人間の本物の言葉や手描きのアートがAI生成物に分類され、即座に捨てられ得ることだ。
    カンファレンスで発表したいのに、誰かのAIトリガーワードを使ったというだけで、実際にはAIをまったく触ったことがなくても即却下されたらどうするのか。
    学界ではすでに、学生のエッセイをChatGPTに入れて「君が書いたの?」と尋ね、ChatGPTがそうだと答えた学生を落第させる教授がいた。
    これは明らかに愚かだ。ChatGPTは自分がしたすべてのことを覚えているわけではないし、さまざまな文体を要求することもできるし、実際にChatGPTとかなり似た文章を書く人もいるからだ。そもそもChatGPTに特徴的な文体があるという事実自体が、そのためだ。
    アーティストが制作過程を一筆ごとに撮影した動画があっても、自動生成物だという主張のせいでコンテストから作品が削除されたという話も聞いた。AIが人間のアートをもとにアートを生成する以上、AIが再現しているように見える作品を、もともと作っている人がいるのは避けられない。

    • 学生として、AIによる不正行為を疑われないように、わざと文章を下手にしたことがある。
    • それはAIの問題ではなく、人間の問題だ。
    • 発表者のアクセントや言葉選びがその人と結びつく様子を見るだけでも、読んでいる内容が本物かどうか分かるので、これは少し愚かだ。
  • AIは退屈だ。結果が退屈で凡庸だ。
    もちろん科学的・工学的な成果はすごい。10年前なら、この程度の退屈な結果でさえ生み出すことはSFだと思われていただろう。
    おそらく退屈なのは、人々がこうした凡庸な結果をソーシャルメディアやランディングページに、魔法のように繰り返し投稿している姿なのだろう。
    もともと人間が自分で作るコンテンツも大抵は退屈で凡庸だが、生成AIはそこから最後に残った個性まで奪い、怠惰の気配を加える。「自分で書くのが面倒だからAIに作らせた、この退屈な断片を見よ」という感じだ。
    「ピアノを弾く犬に対して、ある時点で私たちは『君は犬なのか?』ではなく『ピアノはうまいのか?』と尋ねるようになる」という言葉のように、今日の生成AIが不気味の谷を越えるのを待っている。
    疲労感はあっても、AIが新しいユースケースを可能にし、グラフィカルユーザーインターフェース導入以来初の大きなユーザー体験の変化になるか、実際に役立つツールに振りかけられた本物の魔法の粉になり得ると前向きに見ている。

  • 人間らしく、問題を過度に一般化し、個人の問題にしている。
    退屈な文句や一般的な文章のブラッシュアップの急増は、こうしたモデルを現在の位置まで押し上げた功利主義的な利益追求の一表現に見える。
    このゲーム全体が「より良いもの」ではなく「より多くのもの」の生産によって動いていることを忘れてはいけない。
    私たちは皆、低排出で高表現力のツールを望むだろうが、企業が作るよう促されているのはそういうものではない。
    私が疲れているのは、こうしたインセンティブ構造だ。道具を使う人々の失敗としてシステムの問題を片付けると、根本的な動機を無視し、原因ではなく結果だけに集中することになり、それも時代遅れに感じる。

    • 最後の段落の意味をもう少し説明してもらえる? 特にどんなインセンティブ構造のことを言っているのか気になる。
  • 子どもの頃にStar Trekを見ていて奇妙に感じたのは、テレビがないことだった。
    ホロデッキのほうがずっと良い体験だとしても、ときには映画の中に入るのではなく、ただ映画を見たいと思うはずだと考えていた。その未来には『No Country for Old Men』のような作品やMonty Pythonのようなコメディ、ライブスポーツやニュースすらないのだろうかと思った。
    いまなら、Enterpriseの乗組員たちがみなShakespeareのライブ公演を見に行き、自分で楽器を演奏し、絵を描く理由が分かる。電子メディアがAIのガラクタでいっぱいになり、見るに値するものがなく、終わりのない残りかすだけが残ったからだ。

    • Star Trekの大半はFederationのような集団を追っていたという点を念頭に置くべきだ。
      彼らはおおむね理想化された社会の姿か、本気で仕事を余暇のように楽しむワーカホリックに近い人々だと見てきた。
      主要惑星の普通の人々は、おそらくもっとはるかにランダムな娯楽を楽しんでいたのだろう。
    • 良い指摘だ。人々がどこへ行ってもセルフィーを撮り続けるのか気になる。
      家でセルフィーを撮って、AIで別の場所にいるように見せられると気づいたら、という話だ。
      「自由の女神の前にいる私だよ」
      「おお、ニューヨークにいるの?」
      「いや、スナップフィルターだよ」
      どうにかしてセルフィーの価値は下がるべきではないかと思う。