- AIのルールが作られるこの時点で、YCは巨大テック企業だけでなく、little techと呼ぶスタートアップも政策議論に加わるべきだとしてワシントンDCを訪問した
- 議論の軸は、オープンソースAI、移民を通じた人材へのアクセス、反トラスト措置を通じた市場アクセス、従業員の競業避止義務（noncompete）の廃止だった
- YCコミュニティは、米国のほぼすべての州にまたがる11,000人の創業者と5,000社のスタートアップで構成され、今年は50,000件の応募の中から500社以上に投資する予定で、そのほぼすべてが何らかの形でAIに関わっている
- クローズドなAI政策は、少数の大企業に権力をさらに集中させ、スタートアップが競争する前から成長の余地を狭める可能性がある
- YCが望む方向性は、オープンソースモデル優先、大企業への相互運用性の強制と自社優遇の制限、FTCによる全面的な競業避止義務の禁止のような、公正で開かれた市場を作る措置である
ワシントンDC訪問の目的
- ビッグテックは今世紀の大半にわたり限定的な監視と監督の下で運営され、ソーシャルメディアの害や反競争的行為といった負の結果を生んできた
- 最近になって統制の試みが進んでいるものの、少数の巨大企業は経済とワシントンで依然として大きな力を持っており、AIでも同じ過ちが繰り返される危険がある
- YCは数週間前からDCで政策担当者との接触を始め、little techの声を届ける活動に乗り出した
- little techは、経済のダイナミズムを維持する新興テクノロジー企業を意味する
- YCは超党派の指導者とホワイトハウスの技術政策担当者に会った
スタートアップがAI政策議論に必要な理由
- AIとテクノロジー政策で大企業の意見を聞くことは必要だが、AIの利益が広く共有され、米国の技術的リーダーシップが持続するためには、何千ものスタートアップの視点もあわせて反映される必要がある
- スタートアップ創業者は、AI政策の中核的な争点に直接の利害関係を持っている
- オープンソース対クローズドの開発
- 国家安全保障上の懸念
- イノベーションへの脅威
- その他のAI政策における主要争点
- YCコミュニティは現在、米国のほぼすべての州にまたがる11,000人の創業者と5,000社のスタートアップで構成されている
- 今年YCは、50,000件の応募の中から500社以上に投資する予定で、ほぼすべての企業が何らかの形でAIに関わっている
AIの機会と政策空間
- AIは、気候変動への新たな対処法を見つけたり、ヘルスケアのコストを下げたりする助けになる可能性がある
- こうした利益を実現するには、小さな企業の中にある大きなアイデアが成長するための余地が必要だ
- スタートアップを議論の場に含める賢明な政策が必要である
- スタートアップの視点と利害を無視し、始まる前から潰してしまう政策を作ることは、立法者が犯しうる最も深刻な過ちの一つである
YCが望むAIおよび競争政策
-
オープンソースAIとカスタムアプリケーションを優先
- 競争環境を作り、スタートアップに実質的な機会を与えるには、オープンソースモデルとよりカスタマイズされたAIアプリケーションを優先すべきである
- オープンソースAIモデルは、基本コードへの公開アクセスと改変を可能にし、透明性、協業、イノベーションを高める
- クローズドモデルは大手テック企業に好まれることが多く、競争を制限し、権力を集中させる可能性がある
- オープンソース技術が悪意ある行為者の手に渡る可能性があるという安全保障上の懸念はあるが、これまでのところその懸念は誇張されていたと見ている
- 立法者がビッグテックのロビー活動に屈してAI開発を閉じてしまえば、より少ない主体により多くの力が集中し、スタートアップのイノベーションは競争前にくじかれる可能性がある
-
競争促進のための強力な救済策
- 市場競争を促進し、新規参入者が報復を恐れずに参入できるようにするには、強力な救済策を優先すべきである
- 大企業には、より高い相互運用性を義務付け、自社優遇を制限する断固たる措置が必要である
- これは、2021年に土壇場でビッグテックのロビー活動によって頓挫したAmerican Innovation and Choice Online Actで求められていた措置と類似している
- 最終的には、消費者と開発者が直接関係を維持できるオープンで中立的なアプリのエコシステムが必要である
-
競業避止義務の全面禁止
- YCは、FTCによる最近の従業員の競業避止義務の全面禁止のような措置がさらに必要だと考えている
- この禁止は、carve-out、制限、例外のない形で提示されている
- こうした政策は、創業者が力強い新会社を作り、既存秩序を揺るがす助けになる
little techが成功する条件
- YCの見方では、米国は荒々しい個人主義、創造性、粘り強さとともに、機会の平等という考えの上に築かれている
- 新たなイノベーションの時代に入り、ルールが今まさに書かれている以上、little techには成功する機会が与えられるべきである
- 公正で開かれ、競争的な市場を促進するAI政策は、little techの成長を後押しする方向につながる
1件のコメント
Hacker Newsのコメント
さらに直すべき点があるなら、まずソフトウェアR&Dの償却を見るべき
実際には存在しない利益に課税する仕組みであり、特許法はパテントトロールから小企業を守るべき
政府主導のコンプライアンス標準は自動化して、小企業が大企業・政府機関に納品できるようにし、事前承認済みのクラウドソリューションを使えば自動認証されるようにすべき
医療保険は、中小企業の従業員が自動的にMedicareへアクセスできるようにする、といった形が必要
趣旨は理解するが良い解決策ではなく、数万〜数十万ドルもかからず、スタートアップと顧客の双方が納得できる、よりスタートアップフレンドリーなコンプライアンス・フレームワークのほうがよいと思う
例えばSOC2-liteのように、負担は軽いが第三者の視点から現在の状態をかなりよく示せる方式が必要
スタートアップには実質的な利益がないので控除するものがなく、医療保険コストをすべて背負うが、大企業は従業員の医療費で莫大な利益を費用処理できる
そのためスタートアップの保険はたいていひどく、年齢が上で子どもがいる立場だと医療保険が必要なので、スタートアップはますます選びにくくなる
スタートアップは若者のゲームであるべきなのかもしれないが、そうではないかもしれない
以前読んで問題だと思った記憶はあるが、詳細はすっかり忘れてしまった
ロビー活動で作り出せる性質のものではないと思う
5年前、OpenAIが安全性を理由にGPT-2を公開しないことにしたとき、そこにいたJack Clarkの新しい記事が関連していそう: https://importai.substack.com/p/import-ai-375-gpt-2-five-yea...
歴史は、政府に権限を渡すと、その後その権限を国民に返したがらないことを示している
政策はラチェットのように機能し、時間がたつほど積み上がるため、今日政府に与える権限が将来の権限の下限になる
だから政府に権限を与えるときは極めて慎重であるべきで、一度与えた権限は取り戻せない可能性が高い
過去30年間のヨーロッパの大半と米国の政策を思い浮かべると、規制緩和と、市場により多くの権限を与え、国際貿易の障壁を下げる流れが強かった
引用された記事が言う力学とは逆のように見える
むしろ前向きな監督がどのようなものか見てみたいが、今までこうした組織の誰もそれを提示していない
結局「私たちを信じろ」に行き着くが、それも受け入れがたい
この見方は米国人によく見られるが、米国人だけがそうというわけではなく、私も米国人だ
私たちは、政府が前向きな力になり得るという想像と、その具体的な姿を集団としてうまく描けていない
友情、恋愛、職場の関係といったさまざまな人間関係にも当てはまる
権力を渡すことはラチェットであり、最初から線を引いておかないと、ずっと削られ続ける
ときにはT2時点で学んだことがT1時点で学んだことを無効化し得るので、何らかの形で巻き戻す仕組みは必要ではある
しかし実際にラチェットを動かすのは、現在の政策または政策不在についての経験だ
「Xに関する計画がなくて痛い目に遭ったから、Xに関する政策を追加しよう」といった具合だ
政策のラチェット性は、社会的経験の蓄積のラチェット性を反映していると思う
その話は聞いたことがない
否定的なトーンで申し訳ないが、YCが「オープンソースモデルと、よりカスタマイズされたAIアプリケーションを優先して競争環境を作り、スタートアップに実質的な機会を作ろう」と言うのは奇妙だ
YCの元代表が、競合を遅らせるという明示的な意図でモデルを閉じていた事実と、この立場をどう両立させるのか分からない https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-lau...
論旨は「私たちのような人間が、私たちがやったことをできないように政治家に止めてほしい」ということなのかと思ってしまう
元幹部の行動が会社の現在の価値観と合わないからといって、矛盾ではない
さらに重要なのは、あることをしながらそれを禁止する政策を支持することが、必ずしも矛盾ではないという点だ
税率が20%のときに25%の税率を主張しつつ、法律が通るまで追加の5%を払わないとしても、行動に矛盾があるとは思わない
ただし過去の経緯のために少し慎重にはなるので、少し様子を見るという姿勢も必要に見える
それでもこれはかなり前向きな方向に聞こえる
人も組織も考えを変えられる
業界の内外で変化を訴えるのはよいが、現実的にはこれは森を見ずに木だけを見ているか、症状を原因と取り違えているものだと思う。
長期的に抜け出す唯一の道は、政治から金を排除すること、Citizens Unitedを覆すこと、回転ドア人事や政治家の懐を潤すその他の仕組みを止めることだ。
最高裁が判例を覆すか、各州が憲法を改正する必要があるが、どちらも非常に難しく、まれなことだ。
Citizens United事件はそういう事案だったのに、反対している人の大半は、その事件が実際には何に関するものだったのかをよく分かっていないように見える。
個人や企業が極度に富裕化して不当な市場支配力を得ないよう、はるかに再分配的な税制を導入するのはどうだろうか。
解決策が何かは分からないが、最近の出来事は、政府が選挙資金法を乱用して公共の議論の場で勝者と敗者を選べることを示していると思う。
「ソーシャルメディアの被害という破滅的な影響」を語りながら、「AIについて楽観できる理由は多い」と言うのは、最低限の自覚すらないように見える。
Paul G https://x.com/paulg/status/1651613807779667968もSam Altman https://blog.samaltman.com/machine-intelligence-part-1も、潜在的なリスクを認めていた。
その哲学が、ソーシャルメディアが世界に害を与えたやり方と似た有害な影響を数多く助長しているからだ。
あまり期待していなかったが、この記事には意外にも好意的に反応した。
避けるのは難しいだろうが、生成AIがまた一つのテック寡占に変わらないよう防ぐことは非常に重要だと思う。
1社か2社が市場を支配できるなら、イノベーションは確実に抑え込まれる。
この10年、Googleが金のなる木のような独占利益で何をしてきたかを見るだけでいい。
現代のAIが現在の過大な期待をかなり満たすなら、競争は二重に重要になる。
そのような力がSam Altmanのような洗練された中古車セールスマンの手に渡るのは、さまざまな面で悪いことだろう。
「今年、私たちは5万件の応募の中から500社超に投資する予定で、そのほぼすべてが何らかの形でAIに関係している」という発言は、2024年にベンチャー資金を受けるにはスタートアップがAI関連でなければならない、という意味に聞こえる。
投資家の関心は毎年変わるが、創業者は10年かけて作らなければならないからだ。
2020年はリモートワーク、2021年はweb3、そして今は巨大な大規模言語モデル・ブームだ。
正直、「波に乗る」ことにも多くの利点があり、逆張りすることにも多くの利点があるように見える。
ただし資金調達が優先なら、波に乗るべきだと思う。
逆張りはロマンチックに聞こえるが、自分と意見の違う人たちから投資を受けられると期待すべきではない。
YCのAI集中を最も好意的に解釈するなら、AIで何らかの形で助けられないスタートアップのアイデアを思いつくのは難しい、という程度だ。
現在VCの需要がかなりある別のテーマ領域も複数ある。
むしろAIがソーシャルメディア上の関心を大量に吸い上げたおかげで、他の流行領域でVC投資を受けるのは楽になった。
低品質な「自分もやる」系スタートアップがすべて流行りのAI軌道に引き寄せられたからだ。
そのため非AI領域ではシグナル対ノイズ比が大きく改善し、残っているスタートアップは、流行とは関係なく自分の分野に相当な投資と専門性を持つ人たちが創業したケースが多い。
VCと創業者の双方にとって良いことだ。
「応募者の1%しか採りません。でも全員応募してください！」
実質的に宝くじに近いものに毎年応募するために浪費される集団の労働時間は、ばかげているほど大きい。
モバイル、クラウド、VR、ブロックチェーンを経て、今はAIだ。
「オープンソースAIモデルは、基盤となるコードに公開でアクセスして修正できるようにすることで、より大きな透明性、協業、イノベーションを可能にする」という主張には同意しにくい
オープンモデルは、透明性、協業、イノベーションにはほとんど何もしていないように感じるし、修正可能というのも実質的にはファインチューニング程度にとどまる
オープンソースの学習プロセスとデータがあってこそ透明性、協業、イノベーションにつながるはずだが、大企業でそうしているところは知らない
自分が間違っているのだろうか
もっと悪いのは、「オープンソース」と宣伝されているモデルの中に、さまざまな利用を認めなかったり、独自のカスタムライセンスを指定したりするものがある点
Falconの初期ライセンスや、Metaモデルの特定の商用例外条項などを見ればよい
こうした偽OSS的なアプローチを指摘する新時代のrmsが必要だ
実際には自由でもオープンでもないのに、オープンソースというマーケティング上の光沢だけを得ようとしているように感じる
学習コード、元データセット、モデル構造の詳細、学習手法がすべて公開されていないなら、「ソース」はオープンでも透明でもない
学習データはおおむね公開されており、学習プロセスもDiscordサーバーで公開の場で議論・計画・評価されている
学習データセットの多くは https://the-eye.eu から入手できる
ただし著作権上の懸念から、onionリンクが「デフォルト」と見なされている
しかしより広く見れば、法的にファインチューニングし、ローカルでハックできるオープンモデルがあったからこそ、そうしたモデルなしには存在し得なかった巨大な開発者・イノベーションコミュニティが生まれた
画像分野のInvokeAI https://github.com/invoke-ai/InvokeAI や、特にテキスト生成分野のllama.cpp https://github.com/ggerganov/llama.cpp を見ればよい
これらのプロジェクトは規模が大きく、コントリビューターも多く、非常に速く動いており、オープンモデルなしには不可能だった形で、さまざまな領域へのAI適用におけるイノベーションと協業を牽引している
その分野の専門家の意見も聞いてみたい
私たち全員がそうするのと同じ理由だ：ロビー活動
FTCが最近すべての従業員の競業避止条項を禁止したように、もっと多くの措置が必要だという話については、大きな例外を設けるべきだと積極的に声を上げる必要がある
従業員の引き抜き禁止法がなく、連邦レベルではそのような法律がない状況では、これは悪い政策だ
Googleがチームをacqui-hireする必要なしに、丸ごと引き抜けるということだからだ
競争促進のために強力な救済策を優先すべきだという主張についても、歴史が示しているのは、純粋な独占だったAT&Tを除けば、こうした企業には賞味期限があるという点だ
60年前に戻れば、US SteelはAppleと似たような市場シェアを持っており、AT&Tは独占で叩かれていた
しかし今では、GE、IBM、RCAをテクノロジー分野の主要プレイヤーとして語ることはない
当時はテックジャイアントだったにもかかわらずだ
こうした企業への制限には賛成だが、より大きな措置は適切に課税することだ
今のようにすべて見逃すべきではない
税負担を最大手企業に移せば、下の層に余地が生まれ、ほかのさまざまな問題も解ける
残りの提案は、官僚主義が大幅に増えるように聞こえる
歴史に戻ってOrwellを切実に読み直す必要がありそうで、私たちは文字通り過去の過ちを繰り返している
資金力のある会社が競合のチームメンバー全員を年収2倍で連れていき、競合を壊す目的で6か月後に解雇する、というケースは想像できる
だがそれ以外では、問題があまり見えない
ある会社があなたのチームを丸ごと引き抜けるなら、そもそもそのチームは報酬が低く、新しい会社でより良くなる可能性が高い
競業避止の禁止の核心的な目的は、競業避止で賃金を抑え込む雇用主から従業員を守ることだ
競争の増加も良い副次効果ではあるが、主な動機ではない
あそこの産業はうまく成長してきたように見えるし、それが問題になったという話は聞いたことがない
気に入っていたなら指輪をはめるべきだった、という話だ。そうでなければ雇用契約を結ぶべきだった