Fizik Tabanlı Derin Öğrenme Kitabı

• Physics-based Deep Learning Book v0.3, fizik simülasyonu ile derin öğrenmeyi birlikte ele alan dijital bir kitap; çalıştırılabilir örnekler aracılığıyla sayısal analiz ile sinir ağlarının nasıl birleştirildiğini öğretir
• GenAI edition içinde üretici modelleme ağırlığı artırıldı; denoising, flow-matching, autoregressive learning, fizik entegreli kısıtlar ve diffusion tabanlı graph network konularını içerir
• Öğrenme kapsamı, gözetimli öğrenmeden başlayıp fiziksel loss kısıtları, diferansiyellenebilir simülasyon, diffusion yaklaşımları, reinforcement learning ve sinir ağı mimarisi seçimine kadar genişler
• Duyurulan bölümlerde, airfoil etrafındaki akış tahmini, denklem residual tabanlı öğrenme, inverse problem ve simülatörü eğitim döngüsüne dahil etme gibi gerçek fizik problemlerine daha yakın örnekler ele alınır
• Tüm kod örnekleri, tarayıcıda çalıştırılıp değiştirilebilen Jupyter Notebook odaklıdır; böylece yalnızca kavramları okumakla kalmayıp hemen deney de yapılabilir

---

Fizik simülasyonu için derin öğrenme rehberi

• Physics-based Deep Learning Book, fizik simülasyonu alanında derin öğrenmeyi ele alan uygulamalı kapsamlı bir rehberdir
• Bu belge, kuramsal açıklamaları etkileşimli Jupyter Notebook'larla birleştirerek her kavramın anında çalıştırılıp doğrulanabilmesini sağlayacak şekilde yapılandırılmıştır
• Ele alınan başlıca konular şunlardır
  • geleneksel gözetimli öğrenme
  • fizik loss-constraints
  • diferansiyellenebilir simülasyon
  • olasılıksal üretici yapay zeka için diffusion tabanlı yaklaşımlar
  • reinforcement learning
  • gelişmiş sinir ağı mimarileri
• v0.3 olan GenAI edition'ın başlıca yeniliği, üretici modelleme bölümüdür
  • denoising
  • flow-matching
  • autoregressive learning
  • physics-integrated constraints
  • diffusion-based graph networks
• Fizik simülasyonu için tasarlanmış neural architecturesa ayrılmış özel bir bölüm de eklendi ve tüm kod örnekleri en güncel framework'leri kullanacak şekilde güncellendi

Duyurulan bölümler ve uygulama yaklaşımı

• İlerleyen bölümlerde, diffusion modeling ile airfoil etrafındaki akışkan akışını tahmin etme yöntemi ele alınıyor
  • Bu yaklaşım, mevcut simülatörlerin yerini alabilen ve onları aşabilen olasılıksal bir surrogate model sunar
• Ağın, model denklemlerini residual olarak kullanarak çözümü temsil etmeyi öğrenmesi yöntemi de yer alıyor
  • residual kısıtları, diferansiyellenebilir simülasyon kullanılarak iyileştirilebilir
• Tüm simülatörle daha sıkı etkileşime girerek inverse problem çözme yöntemi işleniyor
  • Simülatörü eğitim döngüsüne dahil etme yaklaşımıyla, standart reinforcement learning tekniklerinin yakınsama sorunlarının nasıl aşılabildiğine dair bir örnek gösteriliyor
• Uygun ağ mimarisinin seçimi de ana konulardan biri
  • global interaction ve local interaction
  • continuous representation ve discrete representation
  • structured graph mesh ve unstructured graph mesh
• PBDL yaklaşımları, fizik modellerinin derin öğrenmeye giderek daha güçlü biçimde entegre edildiği bir sırayla sunuluyor
  • Her yaklaşımın artıları, eksileri ve hangi senaryolarda faydalı olduğu da birlikte ele alınıyor
• Kod örnekleri, doğrudan tarayıcıda çalıştırılabilen Jupyter Notebook merkezlidir
  • Google Colab teaser notebook üzerinden örnekler çalıştırılabilir ve değiştirilebilir
• Bu kitap, TUM'un Physics-based Simulation Group ekibi tarafından sürdürülüyor; ayrıca yakın dönem araştırma makalelerini toplayan bir bağlantı koleksiyonu da sunuluyor

[GN⁺]

Hacker News yorumları

• Chris Rackauckas, Ekim 2022’deki yoğun genel bakış sunumunda Scientific Machine Learning’i salgınlar, kütleçekim dalgaları, farmakometri, okyanus simülasyonları gibi çeşitli alanlardan örneklerle tanıtıyor
  SciML için açık kaynak ve özel Julia kütüphanelerini de ele aldığı için bilgi açısından epey yoğun
  https://www.youtube.com/watch?v=yHiyJQdWBY8

  • “fizik simülasyonu ML mühendisi” gibi pozisyonlar için işe alım piyasasının nasıl olduğunu bilen var mı merak ediyorum

• Başlığın güçlü biçimde değiştirilmesi doğru gibi görünüyor. Bu, fizik tabanlı derin öğrenme hakkında bir kitap değil
  Daha çok bu araştırma grubunun geliştirdiği, fizik problemlerine yönelik derin öğrenme yaklaşımlarını ele alan bir kitap; bence bu çok önemli bir ipucu
  Üstelik fiilen kendi simülasyon çerçeveleri Phi-Flow’u güçlü biçimde öne çıkarmak için kullanılıyor, bu yüzden alanın tamamını doğru betimleyen bir kitap demek zor

• Chris bu türde iyi işler yaptı ve fizik ya da Scientific ML’i destekleyen Julia diferansiyel denklem paketi de oldukça güzel
  https://www.stochasticlifestyle.com/the-essential-tools-of-s...

• Kitabın tamamını PDF olarak indirmenin yolunu bulamadım. Üstteki indirme düğmesi yalnızca tek tek sayfaları indiriyor gibi görünüyor
  Bildiğim kadarıyla Jupyter Book ile hazırlanmış, ama dokümantasyonda da ilgili bir şey bulamadım
  [1] https://jupyterbook.org/en/stable/intro.html

  • https://github.com/tum-pbs/pbdl-book/issues/1 adresine bakılabilir

• İyi ek kaynaklar arasında CRUNCH group YouTube’daki matematik+ML konuşmaları, Steve Brunton’ın Physics Informed Machine Learning oynatma listesi, Steve Brunton’ın “Data Driven Science and Engineering” kitabı ve ETH Zurich’in Deep Learning in Scientific Computation dersi var
  CRUNCH group YouTube: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
  Steve Brunton oynatma listesi: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
  ETH Zurich dersi: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...

• 2021’de yapılmış önceki bir tartışma da var
  https://news.ycombinator.com/item?id=28500577