ギャビン・ニューサム、SB 1047 AI安全法案を拒否
(wsj.com)- カリフォルニア州知事 Gavin Newsom がAI安全法案SB 1047を拒否し、AI規制の範囲をめぐる議論が続いている
- 拒否理由の核心は、この法案が 最も大規模でコストの高いAIモデル にしか適用されず、対象範囲が狭い点にある
- Newsomは、法案がモデルが 高リスクな状況 に配備されるかどうかを考慮していないと見ている
- OpenAIとMeta は法案に反対し、AI技術を開発した著名な研究科学者たちは支持している
- Newsomは、SB 1047よりもさらに 包括的なAIルール を推進しようとする立場である
拒否決定と利害関係
- カリフォルニア州知事 Gavin Newsom は、物議を醸したAI安全法案SB 1047を拒否した
- この法案は、大手テック企業とAI技術を開発した著名な研究科学者たちを対立させる争点となっていた
- OpenAIとMeta は法案に反対し、研究科学者たちは支持した
法案の適用範囲と拒否理由
- Newsomは拒否メッセージの中で、法案の適用範囲は限定的だと判断した
- 法案は 最も大規模でコストの高いAIモデル にしか適用されない
- AIモデルが 高リスクな状況 に配備されるかどうかを考慮していない
- Newsomは、この法案よりもさらに 包括的なAIルール を望んでいる
1件のコメント
Hacker News のコメント
https://www.wsj.com/tech/ai/californias-gavin-newsom-vetoes-...
Newsom の判断は素晴らしかった。カリフォルニア州議会は非常に活発だが、ここ数年は流行に乗っただけの立法があまりにも多く、Wiener の政策課題のうち特に住宅政策は支持しているものの、この法案は完全に的外れだったと思う
事実上、オープンモデルを狙った魚雷であり、OpenAI や Anthropic のような先頭企業は、この法案やオープンモデル全般をそれほど懸念していなかった。支持者は Musk のような後発組が下位層を整理しようとする側、あるいは西側の敵対勢力や慎重な著作権保有者のように、自分たちがコントロールできない AI に反対する側に近かった: https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-off...
また OpenAI は Google、Meta とともにこの法案への組織的な反対を主導し、Anthropic はむしろ主要な支持者だった
LLM には、特に専用ハードウェアがさらに作られるにつれて明るい未来があると思う。大半の問題は市場が解決できるし、誤った方向に進んだり独占と濫用が明確になったりした時点で政府が介入すべきであって、両極端の幅広い憶測だけで動くべきではない
https://legiscan.com/CA/text/SB1047/id/3019694
この法案は、一定規模を超えるモデルにオープンウェイトを提供することを違法化し、そのようなモデルを訓練できるだけの計算資源を売る前に、顧客が法律を無視してモデルを訓練しないか確認させ、モデルが災害を助長せず停止可能であることを証明する監査要件を強制するもののように見える
そして「停止できなければならない」というくだりは、立法者たちには Star Trek のエピソードではなく現実の中で動いてほしいと思わせる
この人物に権力を任せるのは難しく、彼が推し進めたばかげた法律は今回が初めてでもない。代表例として、彼は明らかに違憲だった AB2098 の背後におり、この法律は裁判所で打ち砕かれる前にカリフォルニア州議会がひっそり廃止した: https://finance.yahoo.com/news/ncla-victory-gov-newsom-repea...
https://www.sfchronicle.com/opinion/openforum/article/COVID-...
これは党派の問題ではない。政治的傾向や「AI 安全」に対する立場に関係なく、このようなひどい判断力と立法による自己顕示よりも、もっと慎重な代表を望むべきだ
関連記事。ほかにもある？
OpenAI, Anthropic, Google employees support California AI bill - https://news.ycombinator.com/item?id=41540771 - 2024年9月、コメント26件
Y Combinator, AI startups oppose California AI safety bill - https://news.ycombinator.com/item?id=40780036 - 2024年6月、コメント8件
California AI bill becomes a lightning rod–for safety advocates and devs alike - https://news.ycombinator.com/item?id=40767627 - 2024年6月、コメント2件
California Senate Passes SB 1047 - https://news.ycombinator.com/item?id=40515465 - 2024年5月、コメント42件
California residents: call your legislators about AI bill SB 1047 - https://news.ycombinator.com/item?id=40421986 - 2024年5月、コメント11件
Misconceptions about SB 1047 - https://news.ycombinator.com/item?id=40291577 - 2024年5月、コメント35件
California Senate bill to crush OpenAI competitors fast tracked for a vote - https://news.ycombinator.com/item?id=40200971 - 2024年4月、コメント16件
SB-1047 will stifle open-source AI and decrease safety - https://news.ycombinator.com/item?id=40198766 - 2024年4月、コメント190件
Call-to-Action on SB 1047 – Frontier Artificial Intelligence Models Act - https://news.ycombinator.com/item?id=40192204 - 2024年4月、コメント103件
On the Proposed California SB 1047 - https://news.ycombinator.com/item?id=39347961 - 2024年2月、コメント115件
大規模AIモデルの差し迫ったリスクは、地球をクリップに変えることではなく、詐欺のサービス化を生み出し、何も信用できない社会にすることにある
X個以上のパラメータを持つモデルが生成した画像、音声、動画には、AI生成であることを示すメタデータを付けさせるという、多少不器用な法律でも支持できる。そうしたタグを付けないモデルの作成を禁止する、という形である
ただし明白な問題は、AI画像のスクリーンショットを撮ってメタデータなしで再投稿することまで違法化しなければならない点で、特に画像では執行が完全にぐだぐだになり得る。何より、この分野のあらゆる施策は、「悪意ある行為者」が何をするかを実質的にこちらは制御できない、という前提で作られるべきだ。責任ある行動を取るということは、金を諦めるという意味であり、その金はより責任感のない国が手にすることになる
後で何らかの画像が出てきたときに、Metaであれ誰であれ「これはあなたたちが作ったもののように見えるか？」と尋ねられる。YouTubeのContent IDやCSAM検出のように、すでに似た技術は存在する。完璧ではないが、すべての画像生成をロックダウンしようとする試みの巨大な副作用なしに役立ち得る
記事がこの法案の扱うリスクを誇張しているのか気になって、原文を読んでみた。
「重大な危害」とは、対象モデルまたはその派生モデルが引き起こした、あるいは実質的に可能にした危害を指し、化学・生物・放射性・核兵器の生成または使用によって大量の死傷者が発生する場合、重要インフラへのサイバー攻撃によって大量の死傷者や5億ドル以上の損害が発生する場合、限定的な人間の監督の下でモデルが犯罪に該当する行為により死亡・重傷・財産被害を引き起こす場合、そしてこれらに準ずる公共の安全・セキュリティ上の重大な危害を含む。
ただし、モデルが出力した情報が一般人にとって他の情報源から合理的に公開アクセス可能な情報であれば除外され、他のソフトウェアと結合された場合でもモデルが危害の可能性に実質的に寄与していなければ除外され、開発者によるモデルの作成・保存・使用・公開によって引き起こされた、または可能になった危害でなければ除外される。
人間がAIで被害を引き起こせるなら、AIなしでもやれるはずで、AIが破壊的な目的の実現可能性をどれだけ高めるのかが核心だ。懸念は、AIがそれをよりアクセスしやすく効果的にするということなのか、正確にどんな怪物を想定しているのか分からない。こうしたモデルが悪用可能なインフラやシステムの非公開情報を持っているとは思えない。
だからこの法律は立法ショーのように見える。関心と献金を集め、政治的フランチャイズを築くための設計かもしれない。最大のモデルだけを狙って最大手のプレイヤーだけが影響を受けるようにしているのも、彼らが政党への献金余力を最も大きく持ち、反対した場合の善意の損失が最も小さいからかもしれない。
AI規制は新しい税法典級に複雑な立法・行政課題になるはずだが、政治的フランチャイズとして扱えば不可能になる。OpenAIが営利企業へ変わろうとしている状況を見ると、非営利という形だけでは公益中心を維持するには不十分だ。こうした転換を認めることは、1990年代以降の非営利病院システムの営利転換と同程度の話だ。
AIの潜在力は、私たちのガバナンスの脆弱性を鮮明に浮かび上がらせる。弱いガバナンスはより多くの機会をもたらすこともあるが、その失敗による搾取から逃れようとする動力が独裁を育て、独裁は他の権利とともに財産権も飲み込んでしまう。
問題の一つは、制御不能なAI計算が単にカリフォルニアの外で行われるようになるという懸念なのか。
SonomaのCAFOに関する郡選挙でも同様に、地域的には環境面の前進を得られても、規制の緩い他州へ問題を輸出する結果になり得るという論点がある: https://www.kqed.org/news/12006460/the-sonoma-ballot-measure...
EUとカリフォルニアは、技術とプライバシーの分野でしばしばこうした先導的な位置に立つように見える。表面的には無駄骨に見えるかもしれないが、道を切り開く過程であり、良い法律が世界的に足場を得るための必須段階だ。
バカげた法律だったのだから、政治家が一度くらい賢いことをしたというわけだ。
この法案の賛否の論理を要約した資料があれば知りたい。記事を読んで最初に思ったのは、「合理的な注意」や「不合理なリスク」のような表現は際限なく訴訟につながりかねず、法律としては不可能なほど曖昧に見えるということだった。
同時に、Geoffrey Hinton や Yoshua Bengio のように、現在の生成AIの潮流を支える基盤技術のかなりの部分を作ったコンピュータ科学者たちが公に支持しており、主要AI企業の現職・元従業員119人も可決を求める書簡に署名していた。もちろん、ある分野で知性があるからといって法律上の助言を信じてよいという意味ではないが、Hinton と Bengio がなぜこの法律を強く支持したのか気になる。
もちろん訴訟になる可能性はあるが、グレーゾーンがあるなら企業は明らかに問題のない領域内で運営すべきであり、境界を押し広げるなら法的な賭けをしているのだと理解すべき、というのが要点だ。常識的な手続き、明確な文書記録、弁護士が承認した意思決定を整えれば、たいていは安全圏にとどまりやすい。この法案が別の理由で悪い可能性はあっても、この2つの表現自体が問題なのではない。
大手の最先端AI企業の多くの人々は、世界を変えるAGIが5年以内に到来し得ると信じており、例として Aschbrenner の Situational Awareness が挙げられる。AIがテロをより容易にし得るという並行した懸念もある: https://www.theregister.com/2023/07/28/ai_senate_bioweapon/
Yoshua Bengio は最近、AI安全性についての見解を詳しく書いており、人間レベルのAIがごく近いうちに来るという見方にはやや慎重だが、5〜20年以内に超人的知能が可能になると見ている。「その不確実性、破滅的または絶滅級リスクの規模、最近のAI能力の急速な進展を予測できなかったという事実を考えれば、不可知論的な慎重さのほうがはるかに賢明な道だ」と述べている。
Hinton も最近、制御喪失リスクについて詳しい講演を行っている。支持者たちは概して、この法案を制御喪失と悪用の最悪シナリオにある程度対処する、狭く調整された法案と見ている: https://yoshuabengio.org/2023/05/22/how-rogue-ais-may-arise/
https://yoshuabengio.org/2023/06/24/faq-on-catastrophic-ai-r...
https://yoshuabengio.org/2024/07/09/reasoning-through-argume...
以前の解説記事にリンクしており、賛否の論拠やコメントでの追加議論もある。
業界視点の賛否リストではないが、この法案が何をするものかについて最も中立的な説明である可能性が高い。
ひどい立法であり、知事が止めてくれてよかった。
これこそが規制の虜の姿だ。誰かがあなたの製品をコモディティ化してしまったら、無料で作り続けられないよう違法化するということだ。
いっそ Linux を違法化して、全員に Microsoft と Apple を使わせるのと何も変わらない。
AIスタートアップの創業を夢見る多くの人が、AIの地形と長所・短所を合理的かつ中立的に評価するのは難しいと思う。
カリフォルニアには技術と大学が結びついた珍しい時代精神があるが、十分な資金と約束があれば、他の場所でも再現不可能というわけではない。