私たちは「Bullshit」を自動化しました

 (cst.cam.ac.uk)
1 ポイント 投稿者 GN⁺ 2023-11-18 | 1件のコメント | WhatsAppで共有

AIに関する議論

  • AIに関する議論は、アフリカにおけるAIの重要性についての問いから始まった。
  • 最近、米国大統領と英国首相がAIに関する大統領令や首脳会談を行い、AIの未来への関心が高まっている。
  • AIは実際には論理や事実ではなく、予測テキストに依存した「bullshit」を生成しているのではないか、という問題提起。

AIの仕組み

  • MITのAI教授ロドニー・ブルックスは、ChatGPTを「もっともらしいことをでっち上げるもの」と要約している。
  • 「もっともらしいこと」とはインターネット上で見つけたテキストを模倣するアルゴリズムを指し、「でっち上げる」とは予測テキストに基づく基本的なランダム性を意味する。
  • 他の先進的なAI研究者たちも同様の見解を示しており、これは「stochastic parrots」論文などでより技術的な詳細とともに説明されている。

AIと真実

  • AIの「ゴッドファーザー」とされるジェフ・ヒントンは、チャットボットが知的であるというより、強い説得力を持つテキストを生成する危険性について警告している。
  • 証拠や論理が尊重されない世界では、証拠も論理もなしに動くシステムが、説得力によって支配者になりうるという懸念がある。
  • 哲学者ハリー・フランクフルトの『On Bullshit』では、真実の権威を否定するのではなく無視する「bullshit」について説明している。

AIと社会的影響

  • 英国首相はなぜAIと自動化された「bullshit generator」に感銘を受けたのだろうか。
  • デヴィッド・グレーバーの『Bullshit Jobs』分析は、AIの本当の性質を明らかにしている。
  • 英国の労働者の30%以上が、自分の仕事は社会に何の価値も提供していないと信じている。
  • 大学教育の一部は、若者たちが人生に大きな期待を持たないまま官僚的なプロセスに順応するよう準備させている。

AIシステムの訓練

  • AIシステムは、Twitter、Facebook、Redditなどにある巨大な「bullshit」のアーカイブと、実際の事実を含むテキストで訓練されている。
  • ChatGPTには、どの部分が真実かを確認するアルゴリズムがなく、その出力は「bullshit」と定義される。
  • Twitterは、真実かどうかに関心のない政治家たちを助長しており、彼らの発言アーカイブは自動「bullshit generator」の訓練に使われうる。

GN⁺の意見

  • この記事で最も重要なのは、AIが生成する内容が真実や論理に基づいておらず、人々を説得できる「bullshit」を生み出しうるという点である。
  • これは社会的対話と情報の質に影響を及ぼす可能性があり、AI技術の発展とともにこうした問題はさらに重要になっていくだろう。
  • 人々にとって興味深いのは、AIが私たちの日常生活や雇用市場に与える潜在的影響を理解し、技術がもたらす変化に備える助けになるからである。

関連記事

1件のコメント

 
GN⁺ 2023-11-18
Hacker Newsの意見

  • 1つ目のコメントの要約:

    • LLM（大規模言語モデル）は「正解らしく見えるか」を基準に動作しており、専門家でない場合、LLMの回答が正確かどうかを判断するのは難しい。
    • LLMは専門家にとって有用なツールであり、自分の分野ではLLMが提供するコードスニペットの正確性を判断できる。

  • 2つ目のコメントの要約:

    • ChatGPTはさまざまな出典のデータで訓練されており、正確な事実と不確かな情報を区別せずに回答を生成する。
    • 人間も似たような方法で学習するため、LLMの出力を全面的に信頼すべきではない。

  • 3つ目のコメントの要約:

    • LLMが提供する回答は、人間の会話において予測可能な次のトークンを生成する方式に似ている。
    • LLMは初期段階にあるにもかかわらず、対話を通じて問題を解決するうえでかなりの能力を示している。

  • 4つ目のコメントの要約:

    • LLMは人間の言語を模倣し、言語構造の中にエンコードされた推論能力を模倣する。
    • LLMには正確な記憶力が不足しているが、適切なプロンプトで情報を含めればそれを補える。

  • 5つ目のコメントの要約:

    • LLMは問題解決において、対話を通じたアプローチを用い、ワークフローに革新をもたらす。

  • 6つ目のコメントの要約:

    • LLMは言語能力に特化した技術であり、全体的な推論システムや事実データベースと統合されていなければ問題が生じる可能性がある。

  • 7つ目のコメントの要約:

    • LLMはときに不正確な回答を提供することがあるが、それをユーザーがどう活用するかによって生産性を高められる。

  • 8つ目のコメントの要約:

    • 言語自体が、「真実」とは独立して機能する「bullshit generator」と見なせる可能性があり、LLMはこうした言語の特性を活用している。

  • 9つ目のコメントの要約:

    • フランス語の「baratineur」という単語は、真実か虚偽かに関係なく相手が聞きたいことを言う人を指し、LLMにはこちらのほうが適切な表現かもしれない。

  • 10個目のコメントの要約:

    • LLMが生成したコードが要件を満たしているなら、それは「bullshit」ではなく、特定の文脈では有用に活用できる。