あなたのAIがなぜそんなことを言ったのか、誰にも分からないとしたら？（ブラックボックス現象とXAI）

私たちは勘違いしています。開発者がAIを完全に理解してコーディングしたはずだ、と。そうではありません。開発者たちは「構造」だけを設計したのであって、その中で何が起きているのかは分かりません。分かりやすく説明しましょう。

[dbs0829]

失礼かもしれませんが、これはご自身で直接お書きになった文章ですか？ ブラックボックス現象とXAIのどちらについても十分に扱われていない印象ですし、文中で使われている単語などにも少し既視感があります。

[machogrande]

あっ、鋭いご指摘ありがとうございます（笑）。私のような非専門家の方々にも理解してもらいたくて比喩中心で書いた結果、浅い投稿になってしまったようです。今後はもっと深みを持たせていけるようにします。引き続きよろしくお願いします！ フィードバックありがとうございます！

[dbs0829]

そもそもターゲット層自体が違っていたのですね。理解しました。私も社内でディープラーニング関連の教育をしているので、その点については共感する部分があります。