Data2Vec - ses, görüntü ve metinde çalışan ilk yüksek performanslı kendinden denetimli öğrenme algoritması

• Meta AI'nin açık kaynak olarak yayımladığı kod, önceden eğitilmiş modeller ve makale

• Günümüzdeki kendinden denetimli öğrenme, yapay zekadaki son önemli ilerlemeleri destekledi; ancak insanların farklı bilgileri bir araya getirip bileşik şekilde öğrenme biçiminden hâlâ oldukça uzak

→ Görüntüler için tasarlanmış tek amaçlı algoritmaların metne uygulanması zor

• data2vec, ses/görüntü/metin gibi çeşitli modalitelerde çalışan ilk yöntem

→ Yeni bir paradigma: bütünsel kendinden denetimli öğrenme

→ Görüntü ve seste tek amaçlı algoritmalardan daha iyi performans gösteriyor ve NLP'de de rekabetçi

[ktasha45]

İlginçmiş

[xguru]

Data2vec: farklı modality'lerin öğrenimi için bir framework https://smilegate.ai/2022/01/23/data2vec/