Data2Vec - 音声、ビジョン、テキストで動作する初の高性能自己教師あり学習アルゴリズム

• Meta AIがオープンソースとして公開したコード、事前学習済みモデル、論文

• 現在の自己教師あり学習は近年のAIにおける重要な進歩を支えてきたが、実際に人が多様な情報を結びつけて複合的に習得する方法とは依然として大きな隔たりがある

→ 画像のために設計された単一目的アルゴリズムはテキストへの適用が難しい

• data2vec は、音声・ビジョン・テキストなど多様なモダリティに対して動作する初の手法

→ 新しいパラダイム：全体論的自己教師あり学習

→ ビジョン・音声では単一目的アルゴリズムより優れた性能を示し、NLPでも競争力がある

[ktasha45]

面白いですね

[xguru]

Data2vec: さまざまなモダリティの学習のためのフレームワーク https://smilegate.ai/2022/01/23/data2vec/