スノーデン：OpenAIとその製品を決して信頼してはならない

 (twitter.com/Snowden)
1 ポイント 投稿者 GN⁺ 2024-06-16 | 1件のコメント | WhatsAppで共有
  • Snowdenは、@OpenAIとChatGPTなどの製品を決して信頼してはならないと公に警告した
  • 警告の直接のきっかけは、@OpenAIが@NSA/CSSのDirectorを取締役会に任命した決定である
  • 彼はこの任命には「ただ一つの理由」しかないと断じたが、投稿内で具体的な理由は明かしていない
  • この決定を、世界中のすべての人の権利に対する意図的かつ計算された裏切りだと強く批判した
  • 投稿は短い警告文に近く、追加の根拠・事例・対応策は含まれていない

Snowdenの警告内容

  • Snowdenは、@OpenAIとその製品を信頼してはならないと述べている
    • 例としてChatGPTを含めている
  • 問題視した決定は、@OpenAIが@NSA/CSS Directorを取締役会に任命したことだ
  • 彼はこの任命を、世界中のすべての人の権利を意図的に裏切る決定だと見ている
  • 投稿は「You have been warned」で締めくくられ、読者に直接警告する形式になっている

関連記事

1件のコメント

 
GN⁺ 2024-06-16
Hacker News のコメント

  • Snowden は Stallman のように、意見が合わないこともあるし立場が極端だと見られることもあるが、完全に無視するのは愚かな部類の人物だ。
    今は社会と立法者が眠っている間に、知的財産権を迂回し、数十億人の創作物を出典表示も補償もなしに利用しようとするゴールドラッシュが起きている。

    • Richard Stallman は、プライバシーの権利と個人の自由に根ざした原則によって動いているという信頼を損なうことをしたことがない。
      Snowden の本当の動機は、はるかに不確かだ。

  • OpenAI を信用するなと Snowden に言ってもらう必要はない。
    初めてこの会社を知ったとき、数語読んだだけで、高校時代に自分をいじめていた人間が経営する中古車販売店に入ったような気分になった。

    • それでも、多くの人には誰かが言ってやる必要がある。
      むしろ何も言わないほうがいいと思うのか？

  • Nakasone が取締役会に入る正当な理由は、当然ある。
    OpenAI は規制に非常に敏感で、そのため米国政府を自分たちの方向へ引き寄せようとする大規模なロビー活動チームを抱えている。彼は (a) 政治的な人脈をもたらし、(b) どんな発展も米国の国家安全保障を脅かさないという信頼を与える。企業の取締役会ではかなりよくあることだ。
    現実には、AI が実際に何をできるかよりも、AI が何をできると認識されているかのほうが、世界にはるかに大きな影響を及ぼしている。

    • Henry Kissinger のような人たちが Theranos の取締役会に入っていたことを思い出す。
      こうした取締役の席が実際に意味のある役職なのか、それともタダで給料をもらいながら全部に判を押すだけの席なのか、どうやって見分けるのか？
    • その通り。
      しかも彼は NSA 長官だっただけでなく、U.S. Cyber Command の司令官でもあり、これは OpenAI のセキュリティ・安全体制にも、政府・防衛関連顧客への販売にも非常に関連のある経歴だ。
    • 政府に売り込みたいなら、これも良い考えだ。
    • 最も好意的に解釈すれば、彼の人脈は、政府が事実関係に基づかず AI 全般に無差別な禁止措置を打ち出すのを防ぐ助けになるかもしれない。
      ただ、大多数の人の頭の中では、この件をかなり否定的に受け止めるだろうと思う。
    • 「AI が何をできると認識されているか」が実際の能力より大きな影響を与える、という部分をもう少し説明してもらえる？
      その認識はどんな影響を及ぼしていて、実際の AI はどんな影響を与えているのか？

  • 同じツイートには「これは地球上のすべての人の権利に対する、意図的かつ計算された裏切りだ」とある。
    自分には少し誇張に聞こえる。

    • この特定の件の詳細は知らないが、Snowden にとって誇張はかなりよくあることだ。
      彼をあまり責めるつもりはない。地獄のような経験をした人だから。ただ、彼の Twitter での宣言が特に中立的な表現だとは思わない。
    • 同意。
      警告的な表現は何かの大義を掲げる助けにはなり得るが、オオカミ少年のように見られないためには控えめに使うべきだ。

  • こういう状況を見ると、Apple が OpenAI の ChatGPT と統合することを選んだのは、さらに悪く見える。
    情報をあまり明かさず、ユーザーに明示的に確認するというプライバシー上の約束があるとしても、OpenAI で起きたこの件や他の出来事は、Apple の経営陣に深刻な懸念を抱かせるべきだ。
    Apple の最高幹部は、ChatGPT が最高だからそこから始めたと言っていた。もしかすると、このパートナーシップは来年の今ごろまで続いていないかもしれない。

    • Steve が Facebook と Twitter を iOS の一級機能として統合することに乗り気だった頃を思い出す。
      この状況は、あの瞬間にあまりにもよく似ている。
      そして Siri がどれほどひどいかを思い出す。OpenAI は突然 Apple に恥をかかせ、Apple はこの分野で競争力があるように見せるために、これを切実に必要としている。奇妙で悲しいことだ。
    • 他のモデルを差し込めるように柔軟に作ったように聞こえた。
      選択肢が増えれば、ユーザーにモデルを選ばせることもできるだろう。
    • Mixtral、Minstral、XWin、Mythomax、Claude 3 Haiku 196M を使うこともできる。
      どれも優秀で、そのほとんど、あるいはすべてが Siri より優れている。
      Apple にできる最善策は、ユーザーにどの AI を呼び出すか選ばせることだと思う。iTunes や App Store のように、AI store と呼ぶこともできる。そうすれば AI 提供者はプライバシーと性能で競争できる。ただし、ユーザーが何を選ぶ価値があるのか判断するには、比較機能がかなり必要になる。

  • 出典: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Former head of NSA joins OpenAI board

  • チャットボットにさまざまなテーマで本当にたくさん質問してきたし、何度も価値があることは証明されている。
    それでも確実に信頼しているわけではなく警戒しているし、自分が細かく監視されていることもあまり疑っていない。ただ、それが自分に不利に使われるシナリオを見つけるのが難しいだけだ。
    より良いプライバシーならもっと払う気もあるし、自分でホスティングすることにも関心がある。だが自分の99の問題の中では、これはかなり後ろの方にある。
    以前、23andMeに唾液を送ったことがある。そのデータの一部は盗まれ、おそらくどこかで売られているアシュケナジム系ユダヤ人リストに自分も載っているはずだ。不快なことだ。今のところチャットボットによる監視が問題になる状況は思い浮かばないが、自分の想像力が足りないだけかもしれない。

    • 友人たちや、その友人の友人たちまで皆が空は紫だと言ったら、観察結果と違っていても青いと断言できるほど大胆でいられるだろうか？
      私たちはAIのフィードバックに浸かることになり、誰もがその助言の影響を受けるだろう。GoogleがBuzzFeedへ送り、自分がゴミ記事を読んでいると分かるような「出どころ」は、事実上なくなる。ChatGPTが言ったというだけで、すべてが権威の外皮をまとうことになる。この製品は信頼そのものだ。悪意ある暴漢に同じ質問をし、個人的な細部を明かすだろうか？ そんなことはしないはずだ。
      いくら思う存分疑っているつもりでも、AIの助言の流れは水のようなもので、私たちは魚のようなものだ。すでに影響を受けているし、どう影響されているのか分からないなら、もっと注意深く見るべきだ。
    • 少し別の話かもしれないが、23andMeのようなサービスの本当の問題は、取り返しのつかないDNAと形質情報を持っていることだけではない。
      今や彼らは、家系図の上下にかなり広い範囲の親族全体についてのDNAと形質情報も持つことになる。そうしたサービスを使うことは、本質的に家族を売り渡すことであり、彼らには選択権がない。
    • OpenAIは今後、チャットボット以上のものを提供する可能性が高い。
      今でもすでにファイルをアップロードして分析させることができる。
      Microsoftが消費者向けのWindows Recallを推し、削除済みファイルの恒久的なインデックスを維持しようとし、O365の法人顧客のデフォルト保存先としてOneDriveを推し、OAIに何十億ドルも注ぎ込んでいるのは偶然だとは思わない。

  • Twitterをブロックしている人のために、残りのツイート内容と思われる部分がここに引用されている。
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Twitterをブロックしたわけではないが、そこで何も見られない。
      8割くらいは一般的なエラーと「再試行」しか出ない。
    • 参考：その「記事」ページにはx.comへ移動するという警告がある。
      フィルターリストに項目を追加する時が来た。
      今はツイートの代わりにどんな新しい故障画面を見せるのか確かめようとリンクを押した。奇妙なことに、記事リンクは動作する。自分にとっては本当に久しぶりのことだ。

  • OpenAIと政府の間に何らかの協力関係があるのは、ある程度明らかに見える。
    だが、なぜそれがそれほど劇的に悪いことになり得るのか？

    • おそらく彼らの実績があまり透明ではないからだろう、hehe。

  • また一つ消えた。
    リストに追加し、有料アカウントを解約し、データを削除し、アカウントも削除した。
    あるサービスから一歩引いて、それが必須なのか考えることがますます簡単になっている。原則として必須ではなく、虐待的な関係になった瞬間に取り除けばいい。
    OpenAIは良い犬ではなかった。