AGIについてどう考えるべきか

"根本的に分からず、危険性も分からず、専門家たちも分からないと言うなら、私たちはどう考えるべきなのでしょうか？"

歴史的観点から見たAGIについての考え方

• 1946年から、コンピュータの登場とともに人工知能（AI）への関心が始まった
• AIは、いまだ完全には実現されていない技術を指す用語だと見なされてきた
• 人間と同等レベルのソフトウェアベースの知能を意味するAGI（Artificial General Intelligence）への関心が続いている

AGI実現可能性をめぐる意見の違い

• 最近の大規模言語モデル（LLM）の登場により、AGIの実現が近づいたという見方が出てきている
  • 一部の専門家は、LLMがAGIへ発展しうると予測している
  • 一方で、AGIの実現にはなお追加のブレークスルーが必要だという意見もある
• AGIが人類への脅威になりうるという懸念も提起されている
• しかし、専門家の間でもAGIの実現可能性や時期について意見は一致していない

AGIに関する理論モデルの不在

• 一般知能（General Intelligence）が正確には何なのかについて、合意された理論モデルがない
• LLMがうまく機能する理由や、今後の発展可能性についても不確実である
• AGIという概念自体が、思考実験（Thought Experiment）的な性格を帯びている

AGIをめぐる不確実性と危険性

• AGIを感情と権利を持つ新たな生命体と定義し、制御不能になると仮定することは、循環論法に陥る危険がある
• AGIの特性と潜在力について確信することはできない
  • 人間よりはるかに知能が高いかもしれないし、単により速いだけかもしれない
  • 犬レベルの一般知能を持つ有用な道具にとどまる可能性もある
• AGIの危険性に対する懸念は現実のものだが、危険の正確な大きさや性質は分からない

AGI開発の必然性と対応策

• 長期的には、AGI技術の発展は避けられないように見える
  • オープンモデルが広がっており、チップの性能は継続的に向上していくだろう
  • 結局のところ、数学を禁止することはできないからだ
• 自動化技術が引き起こす摩擦や苦痛は避けられないが、人生は続いていく
• AGIの危険性を認めつつも、過度に恐れるのではなく、冷静な姿勢で対応していくのが望ましいように思われる

[vwjdalsgkv]

リスクを基準にした観点では、子どもや原始人が火を見ているのと似ていると思います。
火がどのような過程を経て光と熱を出すのかは分からなくても、現象から光が役に立つこともあり、熱が役に立つ場合も見つけ出してうまく使うようになります。
しかし、その現象について明確に理解していなかったり、誤ったやり方で使ったりして被害を受けることもあるので、結局そのような面では私たちは人工知能に対する原始人なのです。
あるいは、もしかして私だけを除いて、皆さんは人工知能をよく分かっているというわけではないですよね？

[kandk]

当然の話ではありますが..
AGIに対して多くの人が恐れを抱いていますが、この記事が役に立つかもしれません。