Hugging Face CEO「オープンソースAIは米国の利益に合致」

 (venturebeat.com)
1 ポイント 投稿者 GN⁺ 2023-06-29 | 1件のコメント | WhatsAppで共有
  • 米下院科学委員会の公聴会で、Hugging Face CEOのClement Delangueは、オープンサイエンスとオープンソースAIが米国の価値観と利益に強く合致すると強調
  • Delangueは、PyTorch、Tensorflow、Keras、transformers、diffusersのような米国発のオープンソースツールが、AIの発展と米国の主導的地位を支えてきたと見ている
  • 今回の証言は、MetaのLLaMA流出を受けて上院議員らが、スパム、詐欺、マルウェア、プライバシー侵害、ハラスメントなどの悪用可能性について質問してから2週間後に行われた
  • 彼は、倫理的な開放性が市民社会、非営利団体、学界、政策立案者に大手民間企業を牽制する力を与え、ブラックボックスシステムを減らすと説明
  • Hugging Faceは、モデルカード、アクセス制限、段階的リリース、コミュニティによる調整、オプトイン・オプトアウト型データセットを組み合わせ、開放性と安全策を両立させようとしている

米下院公聴会で示されたオープンソースAI擁護

  • Hugging Face CEOのClement Delangueは、米下院科学委員会の全体公聴会 Artificial Intelligence: Advancing Innovation Towards the National Interest で証言した
  • 同じ公聴会には、RAND Corporation CEOのJason Matheny、Lux CapitalのゼネラルパートナーShahin Farshchi、Harvard Universityの責任あるAIフェローRumman Chowdhury、Georgetown University Center for Security and Emerging TechnologyのエグゼクティブディレクターDewey Murdickも参加した
  • Delangueは、近年のAIの進展はオープンサイエンスとオープンソースの上に成り立っていると見ている
    • PyTorch、Tensorflow、Keras、transformers、diffusersは、米国で作られたオープンソース技術として言及された
    • こうした技術がなければ、米国はAIの主導国ではなかったかもしれないと述べた

LLaMA論争の中で提示された倫理的な開放性

  • Delangueの証言は、上院議員らがMetaのオープンソースLLM LLaMA流出をめぐってMark Zuckerbergに質問してから2週間後に行われた
    • その書簡は、LLaMAがスパム、詐欺、マルウェア、プライバシー侵害、ハラスメント、その他の不正行為や被害に使われる可能性を懸念していた
    • LLaMAの拡散により、一般の人々がアクセスできるAIモデルの精巧さが大きく高まり、悪用または濫用の可能性への懸念も強まった
  • Hugging Faceはニューヨーク拠点のスタートアップで、昨年20億ドルの評価額を受け、オープンソースコードとモデルのハブとして定着している
    • 4月、DelangueはサンフランシスコのExploratoriumで開かれたオープンソース技術ミートアップに5,000人以上を集めた
  • Delangueは、オープンサイエンスとオープンソースがAIを活用する数万のスタートアップを後押ししていると述べた
  • 倫理的な開放性は、市民社会、非営利団体、学界、政策立案者が大手民間企業の力を牽制するために必要な能力を提供する
    • ブラックボックスシステムを防ぎ、企業の説明責任を高める
    • バイアスの緩和、偽情報の減少、著作権の促進、アーティストやコンテンツクリエイターを含む利害関係者への補償に役立ち得る
  • Hugging Faceのアプローチは、制度的ポリシー、技術的安全策、コミュニティのインセンティブを組み合わせるもの
    • 文書化とモデルカード、Dr. Margaret Mitchellが先駆けたmodel cardsを含む
    • アーティファクトへのアクセス制限と段階的リリースを技術的安全策として使う
    • コミュニティによる調整、オプトイン・オプトアウト型データセットもインセンティブ構造に含める
  • ここ数カ月、大規模言語モデルのリリースが相次ぎ、スタートアップ、集団、学界がクローズドで独占的なLLMへの移行に反発する中、オープンソースAI論争はさらに熱を帯びている

関連記事

1件のコメント

 
GN⁺ 2023-06-29
Hacker Newsの意見

  • これはシステムがどう動くかを示す完璧な縮図だと思う。この人の言っていることは正しいが、動き出しが遅すぎたし、資金も足りなかったし、十分な注目も集められなかった。
    一方でSam Altmanは、優秀なマーケティングチームやロビイストまで抱えた消費者向け製品の顔であり、Microsoftから数十億ドルを受け取り、誰でも無料で試せる製品も持っている。
    先に入り込んでAIリスク論を展開し、最先端技術は危険だと議員たちを説得すればいい。OpenAIはすぐに最先端技術の代名詞のように受け取られるので、業界リーダーを追いかけはするが、彼らがどこへ向かっているのかはきちんと見ず、結局ここまで来てしまった。
    オープンソースソフトウェアが法廷で公正に代表されればいいのにと思うが、アイデアは自分で費用を払えず、金の声はあまりにも大きい。

    • Altmanが「最先端AIは危険だ」と議会を説得しに行ったのではなく、Blumenthalがメディア向けの名目を作るために彼を招いたんだ。
      議会はソーシャルメディアを放置したという負い目を感じていて、AI規制をやりたくてたまらない状態だ。公聴会には実質的な異論がなく、政府と産業界の意図は完全に一致している。中央集権的な統制にレッドカーペットを敷き、規制で競争を消す方向だ。
    • 政府の利害はOpenAI側とよりよく一致するだろうし、オープンソース/ローカルモデルを排除しないなら、むしろ愚かなことかもしれない。
      ローカルで動くものは、盗聴・監視可能なネットワーク境界を回避する。Googleに尋ねれば記録され、検索履歴は召喚状で入手できるし、公立図書館の貸出記録も同じだ。OpenAIのようなゲートキーパー事業者がその役割を担い、通行料を取ることもできる。
      Vicuna-13B-ggmlのようなもので同じ調査をすれば、何をしているかをsniffできる者はいない。一人でいたい人には良さそうだが、より悪意のある利用者を止めなければならない立場からすると恐ろしい含意がある。
      残念ながら、この問題では妥協はほとんど不可能だ。最善なのはオランダの最近の法律のように、相当な理由があれば政府が個人の機器に侵入できるようにする方式だろうが、そうはならないだろう。政府側に有利な唯一の代替案は、ローカルモデルとそのオープンソース開発自体を禁止することだ。
    • 一般の認識では、OpenAIが名前のせいでオープンソースと誤って結び付けられているのもひどい。だから相反する二つのアプローチが大衆には混ざって見えてしまう。
    • 本当にそんなに遅すぎたと思う？ まだ始まりの段階じゃないのか？
    • 楽観できる理由は、AIを閉じようとするロビイストには、最近の議会は仕事があまりできないという弱点があり、この件の現状維持は「何もしないこと」だからだ。
      現状維持の抵抗を越えるには大きな大衆的支持が必要だが、そんな支持はなく、金で買うにも非常に高くつく。

  • オープンソースは、私たちが掲げる価値観に近い健全なデジタル社会を作るための必須の構成要素だ。
    AIは重要だが、この全体的な変化の中では結局小さな部分にすぎない。経済生活の根本を揺るがそうとしているBitcoinもオープンソースだという点を思い出す必要がある。
    社会規模でオープンソースの能力を根付かせる進化の過程は、自動的でもなければ明白に善でもない。上の暗号通貨の例がそれを示している。
    まだ想像し、開発し、試し、広めなければならない技術・制度・行動様式がたくさんある。これは現在と未来のデジタル「社会」エンジニアが腕まくりして取り組むべき良い課題だ。
    ディストピアではない別の宇宙がなかなか思い浮かばない。個人の主体性・自由・民主的統制と道徳的に整合し、同時に自らのインセンティブについて知的に正直な独占的ビジョンが示されたことがあるなら、ぜひ知りたい。

  • Hugging Face CEOはよくやった。友人や家族に5分のYouTubeリンクを共有したが、オープンモデルとオープンソースの利点をとてもよく説明していた。

    • 動画のリンクをもらえる？

  • このケースでは、オープンソースと自由ソフトウェアの違いがかなり重要になる例のように感じる。

    • LLMでは、ソースコードや重みが流出したモデルを「オープンソース」と呼ぶのは本当にやめてほしい。
      意図的に公開されたとしても、ライセンスが「非商用利用」に制限されていたり、公開した会社と「競争しない」場合にだけ商用利用を許可するモデルも同様だ。
    • 意味論にこだわりすぎなくても、ここで重要なのはアイデア・アルゴリズム・一部コードの自由な交換だ。
      この20年間のこの分野の進歩は、こうした交換のおかげで驚くほど速く進んだ。企業は成果を抱え込み秘密の秘訣を守る代わりに、多くの詳細を共有し、互いの結果を再現し改善しながら検証している。
      OpenAIはChatGPTを作り、MetaはLlamaを作り、GoogleはBardをやっている。Llamaはある程度オープンソースコミュニティに放たれ、人々は今それを使い、改善し、自前のモデルとベンチマークしている。
    • オープンソースは常に重要だ。オープンソースなしでは良い開発者パイプラインは生まれにくい。他の工学分野も同じようなものを目指すべきだ。もちろん、クローズドなソフトウェアが存在してはいけないという意味ではない。
      少なくとも画像生成では、学習がクラウドソーシングされることで、オープンモデルのほうが今ではずっと良い結果を出しているように見える。
    • 正直、私は逆に感じる。オープンソースソフトウェアは多ければ多いほどいいが、LLMがオープンソースになったからといって、私が見ているLLMの最大のリスクが大きく減るとは思えない。

  • Hugging Faceがこんな形でニュースに出てくるのを見ると不思議な気分だ。2019年の夏ごろ、スターが4,000くらいだった時に修正パッチを貢献したのを覚えているが、その頃でもかなり人気のあるプロジェクトだと思っていた。

    • 5年後を想像してみてくれ ;)

  • Hugging Faceの最終目標は何なんだろう？ AI版GitHubになること？

    • Hugging FaceのCEOです。オープンサイエンスとオープンソースのおかげで、良いAIの民主化を支えられるなら、そうなればいいと思う。それは有用だと思う？
    • インターフェースがGitHubに90%くらい似ているので、それはかなり明白に見える。
      AIモデルの学習や推論実行の方向にも拡張しようとしている。ただ、推論コストはCoreWeaveのようなGPUプロバイダーと比べると競争力がかなり低く見える。
    • 何になるにせよ、MicrosoftやGoogleのようなところの手に渡らないことを本当に、本当に、本当に、本当に願う。もちろん結局はそうなって、エンシティフィケーションが後に続くのだろうけど。
    • もうそうなんじゃない？
    • AWSに買収されるってこと？

  • ソーシャルメディアで、今でもかなり気軽に接触できる人だという点がいい。

  • どうして議会がソフトウェアやオープンソースやAIみたいなところにまで関与するんだ？

  • Bittensorプロジェクトを見たことがあるか、意見はどうか気になる。統合を検討する価値はある？
    この手のプロジェクトやオープンソースAI運動の助けになると思う。

  • Hugging Faceに載っているモデルの大半は、オープンソースではない奇妙なRAILライセンスの下にあるんじゃないの？

    • 少なくともGitHubでは、彼らのプロジェクトの大半はMITかApache 2.0ライセンスだ。何か見落としている？