CS 886: Foundation Modellerde Güncel Araştırma Eğilimleri

• Kanada'nın "MIT"si olarak anılan Waterloo Üniversitesi'nin AI derslerinden biri
• Her bölüm için açıklama slaytları, YouTube ders videoları ve referans bağlantıları içeriyor
• Yalnızca konu ve referans listesi bile iyi bir başvuru kaynağı gibi görünüyor

Ders İçeriği

Foundation Modellerine Giriş

1. Foundation Model'e giriş
2. Ders tanıtımı
3. RNN & CNN
4. NLP & CV

Transformer Mimarisi

5. Self-Attention & Transformer
6. Verimli Transformer
7. Parametre-Verimli İnce Ayar
8. Dil Modeli Ön Eğitimi

Büyük Dil Modelleri

9. Büyük Dil Modeli
10. Ölçekleme Yasası
11. Instruction Tuning & RLHF
12. Verimli LLM Eğitimi
13. Verimli LLM Çıkarımı
14. LLM Sıkıştırma ve Seyrekleştirme
15. LLM Prompting

(Büyük) Çok Modlu Modeller

16. Vision Transformer
17. Diffusion Model
18. Görüntü Üretimi
19. Çok Modlu Model Ön Eğitimi
20. Büyük Çok Modlu Model

Foundation Modelleri Genişletme

21. Araçla Genişletme
22. Retrieval Augmentation