オープンソース開発に関する懸念事項
- 過度に広範な定義: 法案内の「適用対象モデル」の定義が非常に広範で、最小限のリスクしか内包していないさまざまなオープンソースモデルまで含みうる。これは意図せず、有益なAIプロジェクトに取り組む善意の開発者の活動を犯罪化してしまう可能性がある。
- デュアルユース: AIモデルは、ワードプロセッサ、電卓、Webブラウザのようにコンピュータ上で実行される一般的なソフトウェアである。モデルの開発者は、そのモデルが有害な用途に使われないことを保証できない。これはWebブラウザ、電卓、ワードプロセッサの開発者でも同様である。このような汎用ツールの開発者に責任を負わせることは、実質的に大企業の法務チーム以外はそのようなツールを作れないことを意味する。
- 制限的な要件: この法案は、義務的な停止、広範な報告、潜在的に曖昧な「適用対象指針」の順守など、開発者に相当な負担を課している。こうした要件は、複雑な規制プロセスを乗り越えるためのリソースが不足しているオープンソース開発者に不均衡な影響を与える可能性がある。
- 開放性の阻害: 法的制裁や官僚的障壁への懸念によってオープンソース開発が萎縮し、AI発展の原動力であった協調の精神を損なうおそれがある。この透明性の低下は、潜在的な安全上の問題を特定して解決することをより難しくしかねない。
中小企業とイノベーションへの影響
- 参入障壁: コンプライアンスに伴う多額の費用（手数料、監査、法的助言など）は、中小企業やスタートアップにとって大きな参入障壁となりうる。これは競争を制限し、既存大企業への権力集中を招き、最終的にイノベーションを阻害する。
- 研究への萎縮効果: 意図せず法案条項に違反してしまうことへの恐れは、研究者や開発者に自己検閲を促したり、有望なAI研究分野の探究を避けさせたりする可能性がある。これは科学的進歩を妨げ、社会問題を解決するためのAIの可能性を制限するだろう。
- 人材流出: この法案によって生み出される制約的な環境は、有能なAI研究者や開発者をカリフォルニア州から押し出し、州経済に害を及ぼすとともに、AIイノベーションを主導する地位を弱める可能性がある。
代替的アプローチ
- オープンソース開発の支援: 協調、透明性、そしてより多様でレジリエントなAIエコシステムの形成のために、AIモデルのオープンソース開発を奨励し促進すること。
- 開発ではなく利用に焦点: AIモデル開発を規制するのではなく、特に公共の安全とセキュリティに高いリスクをもたらすアプリケーションに焦点を当てること。医療、刑事司法、重要インフラなど、被害可能性が最も高い高リスク領域でのAI利用を規制して有害な利用に責任を負わせつつ、AI技術の継続的な発展は認めること。
- 透明性と協調の促進: 産業界、学界、政府の協力を通じて、責任あるAI開発のためのベストプラクティスの策定と採用を促進すること。これには、業界標準の確立、オープンソース開発の育成、AI安全研究への投資などが含まれうる。
- AI専門性への投資: 政府機関がAIに関する専門知識を育成し、潜在的リスクを効果的に監視・対処できる能力を構築できるよう資源を提供すること。これにより、安全とイノベーションのバランスを取る、より情報に基づいた精緻なAI規制アプローチが可能になるだろう。
GN⁺の見解
- オープンソースモデルの開発を規制するのではなく、規制当局はオープンソース開発を奨励し監督する役割を担うべきである。オープンソースは透明性と協調を促進するだけでなく、多様な視点を提供するため、むしろ安全性向上に役立ちうる。
- AIモデル自体を規制するよりも、高リスク分野におけるAI活用を監督・規制するほうがより効果的だろう。医療、司法、公共安全などリスクの高い分野でのAI活用には厳格なガイドラインと規制が必要だが、低リスク分野ではAI技術の発展を妨げない範囲で規制すべきである。
- この法案はAI開発に過度な負担を与えることで、カリフォルニアがAI分野での先導的地位を失うリスクをもたらす。イノベーションを阻害せず、有害な利用には責任を問える代替的アプローチを模索すべきである。
- 政府はAIに関する専門性を高め、AIエコシステムへの理解を深めて、より賢明な規制政策を進める必要がある。単に規制を強化するのではなく、産学官連携を通じて望ましい方向へ導いていく努力が必要に思われる。
1件のコメント
Hacker Newsの意見
モデル開発者は、Webブラウザ、電卓、ワードプロセッサの開発者と同様に、モデルが有害な用途に使われないことを完全に保証することはできない。こうした汎用ツールの制作者に責任を負わせるのは、事実上、大企業の法務部門にしか対応できないようにすることになる。
政治家たちはオープンソースAIに強く対処しようとしている。ソロスは、企業と政府のAIプロジェクトの相乗効果が、冷戦時代の独裁者たちよりも大きな脅威になり得ると述べている。"独裁政権とIT独占企業の結合は、開かれた社会に対して本質的な優位を与え、致命的な脅威となる"としている。
ブログでは言及されていなかったが、2024年2月7日にカリフォルニア州議会でSB-1047法案が提出された。先進的なAIモデルの開発と利用を規制するもので、開発者に安全性評価、安全要件の遵守、事故報告などを義務付け、技術省の下に監督機関を新設する。
こうした規制によって既存の先行AI企業が有利になり、新規参入が不可能になるのではないかと懸念される。スコット・ウィーナーの住宅政策は良かったが、この法案は政府の過度な介入だ。
政府が許可したものしか学習できず、新しい部署と手数料徴収権限が生まれ、当然のようにコンサルタントの雇用も義務化される。
長期的に見て、AIスタートアップに有利な州はどこだろうか。カリフォルニアではなさそうだ。ワシントンやテキサスにはまだ規制の動きがなく、利点もありそうだ。
「適用対象モデル」の定義が曖昧だ。Intとfloatの演算では計算量が大きく異なるのに、法廷で文言の解釈余地がある。現在のベンチマーク基準を将来まで固定し、アルゴリズムの進歩に関係なく制限しようとしている。
この記事はLLMが生成したような低品質な内容だ。法案をきちんと理解するには、Zviの分析を読むのがよい。
この記事全体がChatGPTが書いたように感じられる。漠然とオープンソースの価値に言及するだけで、元の法案は引用すらしていない。
「AIモデルの開発ではなく活用、特に公共の安全に危険な分野を規制しよう」という意見がある。医療、刑事司法、重要インフラなどリスクの高い分野でのAI利用を規制して、有害な利用に責任を問いつつ、AI技術の発展は認めようというものだが、これに対する反論はあるだろうか?