AIのゴッドファーザー、ジェフリー・ヒントン教授「私たちは普遍的基本所得（UBI）を必要とするようになる」

• 「AIのゴッドファーザー」と呼ばれるコンピュータ科学者の Geoffrey Hinton 教授は、AIがもたらす不平等の問題に対処するため、政府が基本所得を導入すべきだと主張
• BBC Newsnight とのインタビューで、AIが多くの単純な仕事を代替するため、基本所得が必要になると述べた
• AIは生産性と富を増大させるだろうが、その資金は裕福な人々にしか渡らず、仕事を失った人々の助けにはならないだろうと懸念を示した
• ヒントン教授はニューラルネットワークの先駆者であり、現在の人工知能ブームの理論的基盤を形作った
  • 昨年まで Google で働いていたが、規制されていないAIの危険性についてより自由に語るため、この巨大テック企業を去った
  • 普遍的基本所得の概念は、政府がすべての個人に対し、その資力に関係なく一定額の給付を支払うことを意味する
  • 批判派は、これは非常に高コストであり、公共サービスから資金を振り向ける一方で、必ずしも貧困緩和に役立つとは限らないと述べている
• ヒントン教授は、AIが規制されないままであれば、人類に絶滅レベルの脅威をもたらす可能性があると警告した
  • この1年間の進展は、各国政府がAIの軍事利用を統制しようとしていないことを示しており、製品を急速に開発する競争によって、テック企業が「安全に十分な努力を払わない」危険があると述べた
  • 彼は「今後5年から20年の間に、AIが主導権を握ろうとする問題に直面する確率は半分だ」と推測した
  • これは「生物学的知能より優れた知能の形態を作ってしまった可能性がある」ため、人間にとって「絶滅レベルの脅威」につながりうるもので、「私たちにとって非常に憂慮すべきこと」だと述べた
• AIは「より多くの自分自身を作る動機を得るために」「進化」し、「支配権を得るという下位目標」を自律的に「発達」させる可能性があると述べた
  • 彼は、テキスト生成に使われる一種のAIアルゴリズムである大規模言語モデルが、欺瞞的になることを選択した証拠がすでにあると述べた
  • また、何千もの軍事目標を生成するためのAIの最近の活用は「くさびの薄い先端」にすぎないと述べた
• ヒントン教授は、AIの軍事利用を規制するために、戦争における人道的扱いの法的基準を定める国際条約であるジュネーブ条約に類するものが必要になるかもしれないと述べた
  • しかし彼は、「非常に不快な出来事が起きた後でなければ、そうはならないだろう」と付け加えた
  • 西側諸国がロシアや中国のような独裁国家と、AIの軍事利用をめぐって、第二次世界大戦期の核兵器研究を指すマンハッタン計画型の競争をしているのかと問われると、ヒントン教授は「プーチンは数年前、AIを制する者が世界を制すると言った。だから私は、彼らが非常に熱心に取り組んでいると想像している」と答えた
  • さらに「幸いなことに、西側はおそらく研究面で彼らをかなり大きくリードしている。私たちはおそらく依然として中国をわずかに上回っている。しかし中国はより多くの資源を投入している。だから軍事利用の面では、競争が起きると思う」と述べた
  • そして、AIの軍事利用を禁止することのほうが、より良い解決策になるだろうと語った

[humblebee]

約5年ほど前に読んだマックス・テグマークの『ライフ 3.0』で扱われていた内容が、ますます現実のものになってきているように思います。AIの発展可能性をさまざまなスペクトラムでうまく分類して説明したこの本は、AIの未来学的な観点に関心がある方にぜひおすすめしたいですね！

[unsure4000]

自分が普段から考えていたことと同じで、何とも言えない気分になりますね…。

[unsure4000]

資金調達は、どうやら「AIを通じて富を蓄積した富裕層」に課税する方法になるだろうと思います

[GN⁺]

Hacker Newsの意見

Hacker Newsコメントまとめ要約

• UBIの否定的な影響

  • UBI（ベーシックインカム）は、ローマ時代のパンの配給よりも悪い可能性がある。金銭はあらゆる資源を含むため。
  • UBIは人々を生産しないコストへと変え、排除したくなる対象にしてしまう。
  • 一般の人々が生き延びるには権力が必要であり、UBIだけでは十分ではない。
  • スウェーデンでは、成功した労働者に課税して資金を調達しようとした試みがあった。これは労働者階級内での再調整にすぎず、本当の富裕層には影響しない。

• 低所得層への投資

  • 低所得層への給付は、国家が「安く買って」後で税金として「高く売る」ようなものだ。
  • UBIは全員に支給されるが、主に低所得層に恩恵が及ぶ。

• SF作家たちの予測

  • SF作家たちはすでにUBIについて数多く考えてきた。例として特定の小説が挙げられている。

• UBI研究の失敗事例

  • 記者はUBIが失敗すると主張したが、実際には失敗した研究事例はないという主張がある。

• Sam AltmanのUBIアプローチ

  • Sam Altmanは、金銭の代わりに価値ある資源を提供するUBIを提案している。
  • たとえば「計算資源」を提供し、人々がそれを活用できるようにする。
  • これは単に金銭を配るよりも、人々が資源を使って何かを生み出すよう促せる可能性がある。

• UBIの必要性

  • 富と権力の中央集権化、自動化の進展、人間の労働の必要性の低下により、UBIは不可避になるかもしれない。
  • 人々に最低限の生活だけでなく良い暮らしを提供しなければ、社会は不安定になりうる。

• UBIの動機の問題

  • UBIが導入され、ベーシックインカムで家族を養える状況になった場合、何が働く動機になるのかという疑問が提起されている。

• 権力と生存

  • 現在のシステムは権力者に必要とされているから存在している。必要とされなくなれば、反乱するか死ぬことになる。

• 経済的効率の再分配

  • 新しい技術による経済効率の向上を、社会のより広い層に再分配するほうがより良い考えかもしれない。

• UBIの財源問題

  • 米国の場合、1人あたり月500ドルを支給すると年間1.8兆ドルが必要になる。UBIの財源をどう確保するのか説明が必要だ。