現代の預言者か、それともでたらめ生成機か ― ChatGPTの世界で繁栄する方法

 (thebullshitmachines.com)
8 ポイント 投稿者 GN⁺ 2025-02-10 | 1件のコメント | WhatsAppで共有
  • 私たちは、超知能コンピューターシステムが革新と繁栄の時代をもたらすことを期待している
  • ChatGPTの登場により、ある人々はそれを現代版の預言者と呼び、別の人々はでたらめ生成機だと評している
  • 技術の専門家や広報担当者たちは、LLMが私たちの仕事、学習、遊び、コミュニケーション、創作、つながり方を刷新すると主張している
  • AIは日常生活のほぼあらゆる側面に影響を与えるだろう
  • 人々が自然な言葉でコンピューターと対話できるようにし、コンピューティングへのアクセス性を大きく向上させる
  • しかし、AIシステムが有用な役割を果たす一方で、情報環境が巨大なでたらめで飽和する危険もある

"この技術は、人類が生み出した最も革新的な技術になるだろう。そして印刷機、電気、インターネットの発明に匹敵しうる"
— Sam Altman, OpenAI CEO

  • 良くも悪くも、LLMは私たちの生活に定着している
  • 私たちはオンラインでLLMが生成したコンテンツを読んでおり、多くの人がLLMチャットボットとやり取りしている
  • 一部の人々は、LLMを使って自らコンテンツを制作している

LLM時代を生き抜く方法

  • 5〜10分の講義を通じて、LLMとは何か、どのように動作するのかを説明する予定
  • 時間と労力を節約できる場合と、誤りを犯す可能性が高い場合を見分ける方法を学べる
  • 誇張されたマーケティングの中で、本当に有用な情報と大げさな主張を見分ける力を身につけることが重要

レッスン一覧

  • レッスン 1: 暴走するオートコンプリート (Autocomplete in Overdrive)
  • レッスン 2: でたらめの本質 (The Nature of Bullshit)
  • レッスン 3: チューリングテストとでたらめベンチマーク (Turing Tests and Bullshit Benchmarks)
  • レッスン 4: 会話できるコンピューター (Computers You Can Talk To)
  • レッスン 5: 理解しにくく、修正はさらに難しい (Hard to Understand, Harder to Fix)
  • レッスン 6: いや、彼らはそんなことはしていない！ (No, They're Not Doing That!)
  • レッスン 7: 音声クローンからシュリンプ・ジーザスまで (From Voice Cloning to Shrimp Jesus)
  • レッスン 8: 毒キノコと犬のパスポート (Poisonous Mushrooms and Doggie Passports)
  • レッスン 9: 青いリンクは重要だ (Blue Links Matter)
  • レッスン 10: 書くことの人間的な技芸 (The Human Art of Writing)
  • レッスン 11: 教育を変えるのか？ (Transforming Education?)
  • レッスン 12: AI科学者 (The AI Scientist)
  • レッスン 13: でたらめ仕事のためのでたらめ生成機 (Bullshit Machines for Bullshit Work)
  • レッスン 14: 真正性 (Authenticity)
  • レッスン 15: 人工知能と人間の愚かさ (Artificial Intelligence and Human Stupidity)
  • レッスン 16: 最初の一歩の誤謬 (The First-Step Fallacy)
  • レッスン 17: あなただけのプライベート・トゥルーマン・ショー (Your Own Private Truman Show)
  • レッスン 18: 民主主義 (Democracy)

関連記事

1件のコメント

 
GN⁺ 2025-02-10
Hacker Newsの意見

  • この記事はAIについて非常に断定的な主張に満ちているが、根拠が乏しく、一部は間違っているように見える

    • AIに「基本的な真実がない」という主張は誤り
    • AIが論理的に推論できないというのは誇張された主張
    • AIが結論に至った方法を説明できないというのも事実ではない
    • こうした断定的な主張は、むしろ弱いモデルへの批判に近い

  • 友人が政府政策に影響を与えるチームで働いているが、チームの若いメンバーがLLMから持ってきた数字だらけの報告書を書いていた

    • その報告書は不正確で信頼できなかった
    • 開発者はLLMの動作方式をよく理解しており、出力の不正確さをレビューして修正できる
    • 多くの人がこうしたツールを信頼するようになり、不正確なコンテンツがあふれることになるだろう

  • 現在のバージョンのAIは学生にとって危険になり得ず、彼らをより悪くしてしまう可能性がある

    • 非技術系の友人を助けるときは変化率を見て、信頼性が可能性に大きく遅れている点を強調している
    • 敵対的環境は依然として解決されておらず、予測は不確実
    • オウム返しのような人々の予測は信頼できない
    • RLが存在するため、自動修正の主張は誇張されている
    • 悲観論者はおそらく間違っているが、彼らの主張を軽視する人々は悲観論者より理解が浅い

  • 「The AI scientist」セクションは素晴らしかった

    • オウム返しに関する議論の落とし穴にはまらず、AIの前向きなユースケースを示している
    • 科学におけるAIの前向きな活用、有害な例、時間の無駄な例を客観的に提示している

  • この資料は基本的だが、幅広い読者にとって有益

    • モデルを擬人化してはいけないと述べていた点が良かった
    • 50歳以上の政策立案者がこの講座を聞くことは、19歳の新入生よりも有益だろう

  • LLMが次のトークンを推測するだけだからオウムだと言うのは意味がない

    • 人間もキーボードで次のキーを予測している
    • この見方は、迫り来る技術革命に目を閉ざしているにすぎない

  • 学生がAI環境を探索するのは難しい課題

    • この資料を学生たちに共有することを検討している
    • LLMを何にでも使おうとする学生は、資料に向き合わない可能性がある
    • 科学分野でLLMなしに文章を書くことがなぜ重要なのかを説明する段落を追加することを提案する

  • タイトルがあまりにも反技術的でなければよかった

    • 職場でこの講座を推進したいが、そうすると否定的で邪魔をする人のように見えるかもしれない

  • この資料は素晴らしいリソース

    • 医学生にMLとLLMの発展に関する基本知識を提供する講座を設計中
    • 医療MLを理解させ、技術の可能性を示し、安全に導入できる道筋を提示することが目標

  • この資料を本当に楽しんでいる

    • Lesson 11でいくつか誤字を見つけた
    • "No one is going to motivated by a robotic..." では "be" が抜けていた
    • "People who are given a possible solution to a problem tend to less creative at..." では "be" が抜けていた