OpenAI、主要文書を一般公開するという約束をひそかに破棄

• OpenAIは創設当初からガバナンス文書を公開すると約束していたが、最近WIREDがこれを求めた際に提供を拒否した
• OpenAIは社会と一般市民が強力なAIの開発に参加できるよう設立されたが、現在は内部文書を公開しない新たな方針を採用している
• OpenAIの透明性に関する約束の撤回は、同社の脆弱性や、AIの未来に重要な影響力を持つ企業の最近の危機を理解しにくくしている

OpenAIの危機とガバナンス

• OpenAIの取締役会はCEOのSam Altmanを解任したが、従業員と投資家の反発を受けてAltmanは復帰し、取締役会メンバーの大半が交代した
• Altman個人の投資と彼の職務との混在が、取締役会の不信感の一因だった可能性がある
• OpenAIのガバナンス文書の公開は、取締役会がAltmanと彼の社外活動に対してどのような権限を持っているのかを明らかにし得る

OpenAIの企業構造とMicrosoft

• OpenAIの創設定款は、取締役会の一部が支配権を握ってAltmanを追放できる方法を示している
• MicrosoftのCEOであるSatya Nadellaは、Altman解任について公に驚いたと述べた
• OpenAIは、取締役会の構造を安定させ、Microsoftのような支援者をなだめるために、ガバナンス文書を修正した可能性がある

OpenAIの透明性低下

• OpenAIは過去にはAIの発明に関する詳細な情報を公開していたが、最近ではChatGPTのようなツールの技術的詳細やデータを保護している
• 2019年に、非営利部門からAI開発の大半を担う営利子会社を設立して以降、透明性は低下している
• OpenAIの非営利組織は最終的に、OpenAIの活動と技術を統制している

OpenAIの非営利組織とIRS報告

• 米国の非営利組織は毎年IRSへの報告書を公開し、追加文書を公開可能かどうかを報告しなければならない
• OpenAIは2022年まで、年次のIRS報告書で追加ファイルを「要請があれば」提供すると記していたが、実際には提供していない
• 非営利組織が内部文書を公開することはまれであり、アクセスは難しい

OpenAIの財務状況

• OpenAIが公開した財務諸表は営利部門の結果を除外しており、2022年には収益44,000ドル、費用130万ドルを報告している
• OpenAI全体では数百万ドルの売上を上げていたが、これは公開されていない
• OpenAIの非営利部門は一般からの支援をほとんど受けておらず、透明性を高める動機に乏しい

GN⁺の意見

• OpenAIの透明性に関する約束の撤回は、AI技術の未来に重要な影響力を持つ企業の運営への理解を難しくしている
• こうした変化は、AI研究と開発に対する一般市民の参加と信頼を低下させる可能性がある
• OpenAIの方針転換は、AI業界における透明性と倫理的運営をめぐる議論を促す重要な事例である

[GN⁺]

Hacker Newsの意見

• 失望はしたが、驚きはしないニュースだ。この件から学ぶべきことを見つけよう。

  • AI分野では、利他主義とオープン性を掲げることが人気であり、OpenAI、Anthropic、そしてマスクの新しいxAIなどは、公共の利益のために独特なガバナンス構造を持っている。問題は、それらのうちどの企業であっても十分な注目を集め、数十億ドルの利益を得られる可能性が見え始めると状況が変わることだ。
  • この問題はAI企業だけに限られたものではなく、新しいものでもない。これは人間の本性の一部であり、常に存在し続けるだろう。
  • 私たちは、AIの恩恵が少数の企業ではなく大衆に行き渡るよう、真にオープンなAIモデル（公開された学習データ、学習用ソースコードとハイパーパラメータ、モデルのソースコード、重み）により多くの強調と注意を払うべきだ。

• OpenAIがChatGPTの公開以降、何も共有していないまま数十億ドルの投資を受けてきたことは分かっているのだから、OpenAIがクローズドであることに驚く必要はない。

• OpenAIは、自分たちがしたあらゆる約束を破った。

• 取締役会は、どうしてこんなことが起こるのを許したのか！

  • もっと深刻に考えると、これは明白な帰結である一方で、やや薄気味悪さも感じる。
  • OpenAIに多額の資金と資本が必要であり、その結果として資金調達やパートナーシップが必要になるのは事実だ。
  • しかし、彼らがそもそも存在できた唯一の理由は、自らを「オープンな」、ほとんど公共財のような企業として位置づけ、それを基に寄付を受けていたからだ。

• この技術が社会にもたらし得る有害な利用について聞かされていることを踏まえると、この状況は、何が起きているのかを把握するための何らかの調査が必要なほど深刻なのか気になる。

  • この状況は十分に深刻であり、この種の取り組みを私有化するのを放置しておくわけにはいかない。
  • 「これが普通だ」という主張に関心を払う必要はない。それは、人々にこうした行動を正常なものだと思わせるための試みにすぎない。
  • 公共の利益のために行動するAI安全センターのようなものがあるのか、そしてこの問題が彼らのレーダーに入っているのか、知っている人はいるだろうか。

• マスクを擁護したいわけではないが、もし自分が彼だったら、記事が「裕福なテック起業家たちは透明性を約束したが、今はそうではない」と始まり、唯一言及される創業者が何年も前に追い出され、今や競合相手となって「最大利益のための超クローズドソースAI」と呼んでいる状況なのに、それを指摘するまでに8段落もかかることに少し腹を立てると思う。

  • メディアは非難に中毒しており、非難と見出しのあいだに入るべきあらゆるニュアンスは記事の末尾に置かれ、有料の壁の向こうに隠される。おそらく数年後には、アルトマンにもこうした戦術が使われるだろう。
  • 状況はあまりにも悪く、偽善をほのめかす見出しを読むと、実際にはむしろ逆のことを信じたくなる傾向が自分にはあるのだが、これはそれを正しいと仮定するのと同じくらいひどい精神的な欠陥だ！

• この組織の発足時から、こうしたことが起きないよう防ぐルールがあるべきだった。事態の展開は、彼らのガバナンス形態が有効でないことを示している。

• 彼らが社名を「Microsoft AI」に変えるまで、もうそれほど時間はかからない。

• OpenAIを公益的な非営利企業のように見ようとするのではなく、実際には他の私的なテック企業と同じように見るのが最善だ。