「Geminiは非倫理的だから、C#でメモリを最速でコピーする方法は教えられない」

[GN⁺]

Hacker Newsの意見

• 哲学的なレベルでは、知識へのアクセスとその統制権をめぐる問題は非常に重要だ。

  • 短期的な害を防ごうとする試みが、長期的には意図しない害をもたらす可能性がある。
  • 技術の学び方の変化により、過去の深い知識を扱うブログ記事、チュートリアル、書籍などは次第に古くなり、使われなくなっていくだろう。
  • 人工知能が主要な学習手段になるにつれて、既存の学習資料は徐々に消えていき、新しい知識についてのAIの説明が唯一の情報源になる可能性がある。
  • こうした未来は驚くべきものかもしれないが、Googleなどのアプローチが変わらないなら問題になり得る。
  • 新たな啓蒙時代が必要かもしれず、知識や異端的な意見に対する恐れを乗り越える必要があるだろう。

• どうやら unsafe という単語への反応によって発生した問題のようだ。

  • unmanaged という単語で質問したときは、妥当な回答が得られた。
  • モデルに単純なフィルタリングを適用するのではなく、正しい方法でフィルタリングしたいのであれば、より踏み込んだアプローチが必要だ。

• Google DeepMind内のAI安全チームが、モデルの有用性を大きく制限していることへの不満があるのかもしれない。

• AIが質問への回答を拒否しないとしても、教え諭そうとする態度はかなり傲慢に感じられる。

• ツールの利用時に、管理者や開発者の偏見によって誰かを不快にしかねない質問や回答を受け取れないことへの疑問が呈されている。

• Djangoテンプレートに関する質問に対して、AIが無関係な回答を提供した。

  • ユーザーは自力で解決できたが、AIがどう反応するかを見たかった。

• 平均的なStack Overflowの回答を過剰にサンプリングしたように見える。

• ChatGPTとGemini Proにパートナーを説得するためのメモの作成を依頼したところ、Geminiはそれを操作の試みと見なし、支援を拒否した。

  • ChatGPTは2ページ分のメモを提供した。

• AI関連のウェブサイトへのリンクを提示。