多くのAI安全団体が、現在存在するオープンソースAIの犯罪化を試みている

• LLMユーザーの間では、AI安全団体が自分たちの利用するオープンソースLLMを禁止しようとしているという不満が出ていたが、これは誤って広まった噂だという主張が提起された。
• しかし、この主張は事実ではない。実際には、多くのAI安全団体が「現在存在するモデルのオープンソース化を犯罪化する法案」を支持していた。
• これらの団体の一部は潤沢な資金を持ち、政策立案者とのつながりもますます強まっている。

AI安全団体の法案提案

• Center for AI Safety: AI安全の研究とアドボカシーに重点を置く資金豊富な団体で、NTIAに提案した規制案の中で「強力なAIシステム」を定義し、こうしたシステムのオープンソース化を事実上禁止する要件を提示した。
• Center for AI Policy: ワシントンD.C.に拠点を置くロビー団体で、当初提案したルールによれば、すでに公開されているLlama-2が新しい機関の規制対象になる。
• Palisade Research: 政策立案者や一般市民にAIリスクについて助言するため、危険な能力を具体的に実演することを目指す非営利団体で、Llama 2の公開停止を政府に求めた。
• The Future Society: AIをより良いガバナンスに適合させることを目的とするシンクタンクで、「Type 2」GPAIに対する厳格な要件を提示し、オープンソースモデルではそれを満たせないことを明示した。

AI安全団体の影響力

• これらの団体は、自らの政策や目標を非常に明確に示している一部にすぎない。
• それほど明確でない政策を持つ他の団体も存在し、最終的にはオープンソース化に反対する立場を取っている。
• AI安全団体が過去に望んでいた通りの法案が可決されていたなら、現在広く使われているモデルは禁じられていたはずだ。
• こうした団体は今なお類似の措置の成立を望んでおり、オープンソースAI運動は立法面でこれらの団体に後れを取っている。

GN⁺の見解

• AI安全団体の提案は、オープンソースAIの発展を制限し、企業独占を強める危険がある。
• オープンソースAIは研究とイノベーションに不可欠であり、これを制限することは技術の発展に悪影響を及ぼしかねない。
• この記事は、オープンソースAIに対する法的制約が現在進行中であることを示しており、これはAI技術の民主化とアクセス性に重要な影響を与えうるテーマである。

[kuroneko]

新技術が出るたびに、毎回こういうことが起きる気がします。

[GN⁺]

Hacker Newsの意見

• AI安全の専門家は偽善的だという批判がある。彼らが自分たちの主張を実践するなら、すべてのAIを禁止すべきだと主張するはずだ。AIの有害な影響は重みの公開有無に関係なくすでに発生しており、特に剽窃を隠してインターネット上に技術的に別の言葉へ言い換えられた同一テキストをスパム投稿することが、AIの最も収益性の高い使い方だと指摘されている。
• オープンソースAIの終焉が近いかもしれないもう一つの理由は、学習データがライセンス制になればそれで終わりだという点だ。多くの人が、オープンソースAIが生き残るために必要なこと、つまりファインチューニングやゼロからの学習に関して、OpenAIやMidjourneyに怒っている。政治家がこれをプラットフォーム争点にした瞬間、企業が学習データを好き勝手に使うのを防ぐように法律が書き換えられるように見える。
• 安全には複数の種類がある。たとえば、利益の保護も安全の一形態だ。AI分野の既存企業のためのロビイストのように見える組織が多くある。Microsoftのライセンス執行の取り組みも、この戦略を使っていたと記憶している。
• AI安全という用語の下にさまざまな異なるアイデアが含まれているのは有益ではない。たとえば、「安全な」政治的に正しい出力、ポルノなし、大規模な社会・選挙操作、強力なAIによる人類滅亡などがあり、この三つにはほとんど共通点がないため、あらゆる議論を非効率にしている。
• 政府は、「AI」を一般人が自分たちの統制と監督なしに使える能力が、自らの権力拡大を弱めることを知っている。記事が示すように、こうした「シンクタンク」はLlama 2の再来を防ぐためにすでに土台を築いている。私たちに必要なのはAI版ストールマンだけであり、FOSS AIモデルは80年代と90年代にFOSS UNIXのために推進された運動のようになるべきだ。しかし、この話題についてストールマンに手紙を書いたとき、彼は関心がないか、敗北主義的な態度を見せ、モデル重みに対するGPLの考え方をほとんど無視していた。
• ほとんどのAI安全専門家は、自分たちが説いていることを強く信じているように見える。彼らが正しいかどうかはまったく別の議論だ。しかし、AI安全への資金提供は明らかに、規制の虜や何らかの形の保護主義によって部分的に動機づけられている。
• 既存の統制または権力システムが自己複製したがる欲求を過小評価してはならない。
• 善意あるAI安全研究者は多いが、「自分にはAIを、お前にはだめだ」という二重基準を露呈する安全上の偽善も見られる。
• データライセンシングは大きなボトルネックになるだろう。
• 検閲されていない出力は、オープンソースモデルに関する議論で暗い用途やグレーゾーンの文脈で不利に使われるだろう。
• オープンソースとクローズドソースのモデルの間には、計算能力とモデルサイズに大きな差がある。7Bはオープンソース側に当たり、クローズドソースはそれよりはるかに大きいだろう。
• こうした組織がFLOPしきい値を名指しし、MMLUを関連評価指標にしているのはやや滑稽だ。複数の組織が似たしきい値をコピー＆ペーストしたように見える。計算コストが安くなるにつれ、これらのしきい値もますます安くなるだろう。私たちは後になってこれを振り返り、偏狭で短期的な見方だったと考えるかもしれない。