ディープラーニングは限界に直面している
(nautil.us)-
記事で説明されている限界は次のとおり。GPT-3は文を理解しておらず、ただ自然につながるように続けることに重点が置かれている。テスラの自動運転モデルは、STOP標識を持った人を見分けられない。雪に埋もれたバスを除雪車に分類してしまう。その原因は、ディープラーニングが考えているのではなく、記憶したうえで分類しているからだ。
-
そのため、致命的ではなく、すでに決まった領域について、次の結果を予測できる分野ではディープラーニングは優れた効果を示すが、そうでない領域では問題が多い。筆者はNetHackを例に挙げる。このゲームをプレイしてクリアするAIを、古典的AIとディープラーニングAIの2種類でテストしたところ、古典的AIのほうが優れた性能を示した。
-
古典的AI、シンボリックAIは意味を理解して進行できた。だからこそ、新しいパターンが登場しても素早く対応できる。しかしディープラーニングは、既存のものから欠けている部分を分類するのには有用だが、自動生成されるダンジョンをうまく攻略できなかった。なぜなら、それがどんな意味を持つのかを理解できないからだ。
-
筆者が代案として提示したのはハイブリッドAIである。（参考：AIの過去を通じてAIの未来を見る - MIT Technology Review）古典AIのシンボル分析と定義可能なルールによって、ディープラーニングAIの限界を克服するというものだ。こうすれば内部動作の原因を制御でき、部分的な関係と全体的な関係をより正確に扱えるようになる。
-
こうしたAIは単に筆者の主張の中にだけあるものではなく、AlphaGoやAlphaFold2もハイブリッドAIであり、ほかの企業もその方向へ進んでいる。
2件のコメント
これをどう要約して投稿すればいいのかと思っていて、下のように著者紹介だけ書いて悩んでいたのですが……ありがとうございます（笑）
Robust AIのCEOであり、
Rebooting AIの著者であるGary Marcusの文章です。今回の記事は扱っている範囲がとても広く、面白い部分も非常に多いので、簡単ではありませんでした。そこで、著者がなぜハイブリッドAIが必要だと考えているのかという流れだけを要約しました。
本文では、ディープラーニングAIと従来型AIの関係や神経戦（...）についても扱っており、興味深い話がたくさんあるので、まだ本文をご覧になっていない方はぜひ本文も読んでみてほしいです。 (__ )/