OpenAIの「AGIのための計画とその先」 [翻訳]

• 「私たちの使命は、人間よりも一般的に賢い汎用人工知能（AGI）――あらゆる人類に利益をもたらすことができるAIシステム――を実現することです」
• 「AGIがうまく開発されれば、この技術は豊かさを促進し、世界経済を活性化し、可能性の限界を変える新たな科学的知識の発見を支援することで、人類の向上に役立つ可能性があります。」
• 「一方で、AGIには誤用、深刻な事故、社会的混乱を引き起こしうる重大なリスクも伴います。AGIの肯定的な側面が非常に大きいため、社会がその開発を永遠に停止することは不可能でもあり望ましくもないと私たちは考えており、その代わりに社会とAGI開発者が正しい方法を見つける必要があります」
• 重要な原則
  • 私たちは、AGIが人類が宇宙で可能な限り繁栄できるよう力を与えることを望んでいます。未来が完璧なユートピアになるとは期待していませんが、良い点を最大化し悪い点を最小化することで、AGIが人類の増幅器となることを望んでいます。
  • 私たちは、AGIの利益、アクセス性、ガバナンスが広く公正に共有されることを望んでいます。
  • 私たちは、巨大なリスクをうまく乗り越えたいと考えています。こうしたリスクに直面するとき、理論上は正しく見えることが、実際には予想以上に奇妙な展開を見せることが多いと認識しています。私たちは、「一度の失敗」を最小限に抑えるため、より弱いバージョンの技術を展開して継続的に学び、適応していくべきだと考えています。

目次

• 短期的（計画）
• システムがAGIに近づくにつれて、私たちはモデルの生成と展開にいっそう慎重になっています。
• 私たちは、インセンティブと望ましい結果を結びつける形で構造を設計しようと努めてきました。
• 長期的（計画）