ヤン・ルカン: AIを所有する1%が永遠に権力を握ることこそ本当の終末シナリオ

• MetaのチーフAIサイエンティストであるヤン・ルカンは、AIのリスクに関するAI業界リーダーたちの陰鬱な発言を批判し、彼らのほうがより大きな害をもたらしかねないと主張。
• ルカンは、OpenAIのサム・アルトマン、Google DeepMindのデミス・ハサビス、Anthropicのダリオ・アモデイのようなAI創業者たちが、「恐怖をあおること」と「大企業によるロビー活動」を自らの利益のために利用していると非難。
• 彼は、こうした取り組みが成功すれば少数の企業がAIを支配することになり、それを「災厄」だと見ている。
• ルカンの発言は、物理学者マックス・テグマークの投稿への反応であり、ルカンがAI終末論を十分深刻に受け止めていないことを示唆する内容だった。
• ルカンは、AIの現実的かつ差し迫ったリスクは、しばしば強調される仮説上の危険ではなく、少数の主体に利益をもたらす労働者の搾取やデータの盗用だと主張。
• 彼は、超知能システムが起動した瞬間に人類が滅亡するという「急激な離陸」という考えを退けた。
• ルカンは、AIが現在どのように開発されているかに焦点を当てることの重要性を強調し、AI開発が利潤追求のための私企業によって独占される危険を警告。
• 彼はオープンソース開発者たちを擁護し、とりわけ大手テック企業によるAI開発における透明性の欠如を批判。
• ルカンは、規制当局がAIをめぐるセンセーショナルな議論に容易に振り回され、その結果、実際の開発プロセスに対する監督が不足するおそれがあるとの懸念を示した。

[GN⁺]

Hacker Newsの意見

• Yann LeCunのAI技術の誤用に関する見解についての記事討論
• 「X-Risk」と人類の突然の絶滅という主張を利用した、権力者による規制の虜獲の試みへの懸念の表明
• AIをライセンス制と報告要件によって閉鎖しようとする動きへの批判
• AI研究を統制するための措置への支持の表明、この分野では慎重さが必要だという指摘
• 新技術の開発と展開に関する議論、技術のリスクは広く展開されるまで隠されうるという主張
• 主要なAI研究者を「AI Godfather」とラベリングすることへの批判、それが誤解を招き不要だという主張
• AIの誤用の可能性に関する議論、オープンソースモデルを禁止すると、そのような誤用にどう対処するか分からなくなる可能性があるという主張
• Yann LeCunの見解に同意しない意見、彼がAIのリスクに真剣に向き合っていないという主張
• 株式選択と予測にAIが使われる可能性に関する議論、そのようなAIが社会を事実上所有するほどの富を吸い上げうるという主張
• 大規模言語モデルを独占するにはすでに手遅れだという主張、技術はすでに知られておりコストも下がっていると指摘
• 豊かな時代におけるビジネスの未来についての推測、さらに独占化が進む可能性が高いという主張