MIT 6.S184: Flow Matching ve Difüzyon Modellerine Giriş

 (diffusion.csail.mit.edu)
3 puan yazan GN⁺ 2025-03-04 | 1 yorum | WhatsApp'ta paylaş
  • MIT 6.S184'ün 2026 sürümü, görüntü ve video gibi çeşitli veri türlerinde kullanılan difüzyon modelleri ile flow modellerini teori ve pratikle birlikte öğreten giriş düzeyinde bir derstir
  • Ders; stokastik diferansiyel denklemler, Fokker-Planck denklemi, flow matching, score matching, classifier-free guidance, latent uzaylar ve ayrık difüzyon modellerine kadar uzanır
  • Her derste, katılımcıların flow matching ve difüzyon modellerini adım adım sıfırdan uygulayabilmesini sağlayan pratik çalışmalar yer alır
  • Programın ilerleyen bölümünde doğrudan bir latent diffusion model (latent difüzyon modeli) oluşturulur ve stokastik analiz araçlarının başka alanlara da uygulanabilmesi hedeflenir
  • Olasılık teorisi ve deep learning deneyimi önerilir; ön koşul olarak lineer cebir, çok değişkenli kalkülüs, temel olasılık teorisi, Python ve PyTorch deneyimi gerekir

Ders yapısı ve öğrenme hedefleri

  • Flow Matching and Diffusion Models — 2026 Version, öğrencilerin ve araştırmacıların difüzyon ve flow modellerini daha derinlemesine anlaması için tasarlanmış bir derstir
  • Ele alınan modeller, görüntü, video ve çeşitli diğer veri türleri için kullanılan üretken yapay zeka yöntemleridir
  • Matematiksel temelden uygulamaya uzanan bir akışla yapılandırılmıştır
    • Stokastik diferansiyel denklemler
    • Fokker-Planck denklemi
    • Her model bileşeninin adım adım açıklaması
    • Ders bazlı pratik çalışmalarla rehberli uygulama
  • Sonunda sıfırdan bir latent difüzyon modeli inşa edilir
  • Önerilen arka plan olasılık teorisi ve deep learning deneyimidir; ön koşullar ise lineer cebir, çok değişkenli kalkülüs, temel olasılık teorisi, Python ve PyTorch deneyimidir

Ders notları ve ders materyalleri

  • Ders notları, programın ana materyalidir ve dersin tüm içeriğini kendi içinde eksiksiz şekilde açıklar
  • Ders notları için atıf bilgisi
    • Introduction to Flow Matching and Diffusion Models
    • Peter Holderrieth, Ezra Erives
    • 2026
    • arXiv eprint: 2506.02070

  • Ders listesi

    • Ders 1: Flow and Diffusion Models
      • Üretken modellere giriş, adi ve stokastik diferansiyel denklemler, flow ve difüzyon modeli örneklemesini ele alır
      • slides 1, Video 13
    • Ders 2: Flow Matching
      • Koşullu ve marjinal olasılık yolları, koşullu ve marjinal vektör alanları, flow matching öğrenme hedefini ele alır
      • slides 2, Video 14
    • Ders 3-A: Score Functions and Score Matching
      • Score fonksiyonlarını, denoising score matching'i ve SDE örneklemesini ele alır
      • slides 3, Video 15
    • Ders 3-B: Classifier-free Guidance
      • guided generation, classifier guidance ve classifier-free guidance konularını ele alır
      • slides 3, Video 16
    • Ders 4: Latent Spaces and Neural Network Architectures
      • VAE ve latent uzayları, Diffusion Transformer ve U-Nets'i, büyük ölçekli model örneklerini ele alır
      • slides 4, Video 17
    • Ders 5: Discrete Diffusion Models
      • Sürekli zamanlı Markov chains (CTMCs), CTMC modeli örneklemesi ve CTMC modeli eğitimini ele alır
      • slides 5, Video 18

Pratik çalışma yöntemi

  • Programda toplam 3 pratik çalışma (labs) bulunur; derslerle birlikte sunulan alıştırmalar aracılığıyla uygulama deneyimi sağlar
  • Pratik çalışmalar, flow matching ve difüzyon modellerini adım adım sıfırdan oluşturma biçimindedir
  • İzlenecek süreç
    • Pratik çalışma bağlantısındaki talimatları kontrol etme
    • GitHub'dan .ipynb notebook indirme
    • Jupyter notebook ortamında çalıştırma; Google Colab da bir seçenek olarak kullanılabilir
    • Tüm sorular tamamlandıktan sonra notebook'u PDF olarak dışa aktarıp Canvas'taki Gradescope'a gönderme
    • Değerlendirmeyi zorlaştıracağından hücre çıktıları silinmemelidir
  • Takılınan durumlarda çözümlerden yararlanılabilir

İlgili okumalar

1 yorum

 
GN⁺ 2025-03-04
Hacker News yorumları

  • MIT dersi “6.S184: Introduction to Flow Matching and Diffusion Models” artık YouTube’da yayımlandı
    Görüntü, video, proteinler vb. için en yeni üretken yapay zeka algoritmalarını ve bunları anlamaya yarayan matematiksel araçları birlikte ele alıyor
    Flow matching ve diffusion modelleri matematiksel olarak zorlu olduğundan birçok ders sezgi düzeyinde kalıyor; ancak bu ders, yapay zekaya yeni başlayanları hedeflerken aynı zamanda matematiksel olarak titiz ve kendi kendine yeterli bir giriş sunmayı amaçlıyor
    Kaynak: https://x.com/peholderrieth

    • MIT Optics [1] dersini izlemek istemiştim ama ses/video kalitesi çok kötü. Birisi düzeltebilse iyi olurdu; belki diffusion modelleriyle mümkün olabilir
      [1] https://ocw.mit.edu/courses/2-71-optics-spring-2009/resource...
    • YouTube oynatma listesi bağlantısı: https://www.youtube.com/watch?v=GCoP2w-Cqtg&list=PL57nT7tSGA...
    • Öğrenme materyalleri ve derslerde, bunun “üst düzey sezgi” mi yoksa tüm ön koşul bilgilerini es geçmeyen derin, uygulama odaklı bir kaynak mı olduğunun açıkça ayrıldığı bir gelenek oluşsa iyi olurdu
      İkisi de değerli; ama yalnızca sezgi veren giriş materyalleri denizinde ikincisini bulmak zor

  • Koşullu normalleştirici akışlar, eğitilecek veri olduğu sürece ters tasarım problemleri için gördüğüm en güzel çözümlerden biri
    Temel dağılımın olasılık kütlesini birebir-örten bir fonksiyonla itip çekerek istenen konuma kadar dikkatle dönüştürme fikri gerçekten zarif; o birebir-örten fonksiyonun kendisinin kurulumu da çok akıllıca
    Hedef değerlerin bir kısmı sürekli, bir kısmı kategorik olduğunda uygulaması zor olsa da yine de çok havalı bir yöntem ve adının da gerçekten iyi konduğunu düşünüyorum

  • Harika bir ders; bir an önce dinlemek istiyorum. Bu ders sürekli uzaya sıkı biçimde odaklanmış gibi görünüyor, ancak ayrık diffusion tarafında da çok ilginç işler var
    Devam dersi planı var mı merak ediyorum. Eğitmen Peter’ın kısa süre önce ayrık diffusion makalesi de yayımlamış olması dikkatimi çekti
    https://x.com/peholderrieth/status/1891846309952282661
    https://github.com/kuleshov-group/awesome-discrete-diffusion...

  • En güncel yapay zeka tekniklerini ele alan açık dersler koleksiyonu var mı merak ediyorum

  • MIT OCW ve benzeri açık ders materyalleri için gerçekten minnettarım. Bunları bölüm derslerinde yardımcı materyal olarak kullandım; aynı konuyu iki farklı şekilde öğrenmek, özellikle anlaşılması zor içeriklerde çok yardımcı oluyor

  • Bu dersi burada görmek sevindirici. LLM’lerin bu inanılmaz faydalı teknikten çok fazla ilgiyi çaldığı anlaşılıyor

  • Bu konuya aşina biri, başlıca kullanım alanlarını ve genel izlenimini birkaç cümleyle anlatabilse iyi olurdu

    • Stable Diffusion, Dalle dahil en yeni görüntü üretim modellerinin ve video/ses üretim modellerinin temel prensibi bu. Son dönemde robot kontrolü alanında da hızla kullanılmaya başlandı [1]
      Bu modeller, saf gürültü örneklerini eğitim verisi dağılımına doğru azar azar itmeyi öğrenir. Eğitim kümesinin gürültü eklenmiş sürümleriyle eğitildikleri için, gürültü giderme sürecinde gerçek veri dağılımının çevresindeki bölgeleri daha iyi keşfedip kullanabilirler
      GAN’lerin büyük sorunlarından biri mod çökmesi denen olgudur [2]
      [1] https://www.physicalintelligence.company/blog/pi0
      [2] https://en.wikipedia.org/wiki/Mode_collapse

  • Son 10 yıl derin öğrenme eğitiminin altın çağıydı. Kimin daha kaliteli öğrenme içeriğini ücretsiz yayımlayacağı konusunda rekabet edilmesini seviyorum

  • MIT’nin böylesine zamanında ve alakalı içerikleri ücretsiz yayımlaması harika

  • Güncel yapay zekayı ele alan başka hangi OCW dersleri var merak ediyorum