Project Sid: AI文明に向けたマルチエージェント・シミュレーション

 (github.com/altera-al)
2 ポイント 投稿者 GN⁺ 2024-11-04 | 1件のコメント | WhatsAppで共有

  • Project Sid: AI文明に向けたマルチエージェント・シミュレーション

    • このリポジトリには、技術レポート「Project Sid: Many-agent simulations toward AI civilization」が含まれている
    • arXivに掲載予定

  • 要旨

    • AIエージェントはこれまで、孤立した状態または小規模グループ内で評価されてきており、相互作用の範囲と複雑さは限定的だった
    • 文明的なプロセスを反映する大規模シミュレーションは、まだ十分に探究されていない
    • 本研究では、10〜1000以上のAIエージェントがエージェント社会の中でどのように行動し、発展するかを示す
    • PIANO（Parallel Information Aggregation via Neural Orchestration）アーキテクチャを紹介し、エージェントが人間および他のエージェントとリアルタイムに相互作用しながら、複数の出力ストリーム間の一貫性を維持できるようにする
    • 人類史に基づく文明的ベンチマークを用いて、大規模シミュレーションにおけるエージェント性能を評価する
    • Minecraft環境内で設定されたこれらのシミュレーションは、エージェントが自律的に専門化された役割を発展させ、集団規範を順守・変更し、文化および宗教の伝播に参加できることを示している
    • これらの初期結果は、エージェントがAI文明に向けた重要なマイルストーンを達成しうることを示しており、大規模社会シミュレーション、エージェント組織知能、人類文明へのAI統合に向けた新たな道を開く

  • 論文

    • 論文は2か所で利用可能
      • arXiv: 掲載予定
      • PDF: 2024-10-31.pdf（このリポジトリ内）

関連記事

1件のコメント

 
GN⁺ 2024-11-04
Hacker Newsの意見

  • 人工知能エージェントは、自律性と持続的な環境を備えた概念であり、ビジネス課題に応用できる可能性がある

    • 経営陣が真のイノベーションを理解していないことへの残念さがある

  • 哲学者でもAI研究者でもないが、システムが原則から出発して進化するようにすることが重要だと考える

    • 自己保存、コミュニケーション、記憶などの原則に基づいてシステムを設計すべきである
    • 人間の生を「生命」「自由」「愛／つながり」「欲望」で説明できると見ている

  • このプロジェクトは、科学研究の観点からは有用ではないと思う

    • 実験設計や明確な目標が不足していると指摘する

  • この論文は虚偽の主張で構成されていると確信している

    • AIエージェントが選挙関連の活動を調整したという主張には十分な証拠がないと見る

  • このプロジェクトが文明にもたらす利点には疑問があるが、興味深いシミュレーションゲームにはなり得ると思う

  • Mozilla Firefoxで動画が再生されない

  • エージェントはMinecraftで役割を十分に果たせておらず、社会組織も実際の人間社会に適用するのは難しいと見る

    • エージェントの役割はハードコードされていると指摘する

  • GPT-4を使った実験は、誠実な研究には適していないと思う

  • 文明は人間のような複雑さを持っておらず、実際の社会というよりスクリプトされた行動に近いと感じる

  • 「Agentic」という言葉が鼻につくと言及する