Üretim Ortamında Machine Learning (CMU dersi)

Carnegie Mellon Üniversitesi'nin makine öğrenimi üretim dersi

• Ders genel bakışı

  • Bu ders, makine öğrenimi modellerinin yazılım ürünleri olarak nasıl geliştirileceğini, dağıtılacağını ve sürdürüleceğini ele alır.
  • Sorumlu yapay zeka, MLOps, güvenlik, emniyet, adillik ve açıklanabilirlik dahil olmak üzere tüm yaşam döngüsünü kapsar.
  • Veri bilimi deneyimi ve temel programlama becerilerine sahip öğrencileri hedefler.

• Dersin hedefleri

  • Makine öğrenimi modellerini ürüne dönüştürmeyi, kaliteyi güvence altına almayı ve bunları büyük ölçekte işletip sürdürmeyi öğretir.
  • Yazılım mühendisleri ile veri bilimcileri arasındaki iş birliğini teşvik ederek ML sistemleri kurmak için gereken karşılıklı anlayışı oluşturur.
  • ML mühendisi olarak kariyer yapmayı düşünen öğrenciler için uygundur.

• Başlıca konular

  • Hatalı tahminlere göre tasarım yapma, emniyet ve güvenliği sağlama yöntemleri.
  • Gerçek ortamlarda çalışabilecek kullanıcı arayüzleri ve sistemlerin tasarımı.
  • Modellerin güvenilir biçimde dağıtılması ve güncellenmesi.
  • Veri kalitesi sorunlarını, kavram kaymasını ve geri besleme döngülerini tespit etme yöntemleri.
  • Büyük ölçekli ML sistemlerini tasarlama ve test etme yöntemleri.
  • Adillik, açıklanabilirlik, gizlilik, dayanıklılık ve emniyet gibi, modelin tahmin doğruluğunun ötesindeki önemli kalite gereksinimlerini belirleme ve ölçme yöntemleri.

• Öğrenim çıktıları

  • ML bileşenleri içeren üretim sistemleri tasarlanırken ödünleşim analizi yapma.
  • ML bileşenlerinin hatalarını önceden planlayıp dayanıklı sistemler uygulama.
  • Veri altyapısı tasarlama ve deneyler için sistem tasarlama.
  • Uçtan uca ML işlem hattının kalitesini güvence altına alma.
  • Karmaşık ML ürünleri geliştirirken sistem düzeyi gereksinimleri dikkate alma.
  • Disiplinler arası ekiplerde etkili iletişim kurma.

• Uygulama ve proje

  • Öğrenciler, 1 milyon kullanıcıya hizmet veren bir film öneri servisini geliştirme, dağıtma, değerlendirme ve sürdürme projesine katılır.

• Dersler ve uygulamalar

  • Dersler pazartesi ve çarşamba günleri yapılır; uygulamalar ise cuma günü farklı saat dilimlerinde gerçekleştirilir.
  • Ders içi etkinliklere Slack üzerinden katılım sağlanabilir ve ders kayıtları Canvas üzerinde sunulur.

• Değerlendirme ve ödevler

  • Değerlendirme; bireysel ödevler, grup projesi, ara sınav, katılım, uygulamalar ve okuma quizleri üzerinden yapılır.
  • Her ödev, öğrencilerin beklentileri net biçimde anlayabilmesi için açık teknik özellikler ve puan dağılımı sunar.

• Takım çalışması ve iş birliği

  • Takım projesi, 3-5 öğrenciden oluşan ekiplerle yürütülür ve takım çalışması zorunludur.
  • Ekipler bağımsız çalışır; ekip içi iş birliği ise teşvik edilir.

• Diğer bilgiler

  • Önemli duyurular Slack üzerinden paylaşılır; sorular e-posta ve Slack aracılığıyla sorulabilir.
  • Ders materyalleri GitHub üzerinde herkese açıktır ve kendi kendine öğrenmek isteyen öğrencilere de sunulur.

Bu ders, makine öğrenimini kullanan yazılım ürünleri geliştirmekle ilgilenen öğrenciler için temel beceri ve bilgileri sunar; çeşitli gerçek dünya örnekleri ve projeler aracılığıyla uygulamalı deneyim kazanma fırsatı sağlar.

[GN⁺]

Hacker News görüşleri

• Kafka, Docker, Kubernetes ve Jenkins sektör standardı araçlar; MLOps’a odaklanması da ferahlatıcı. Sadece model kurmakla kalmayıp bunu gerçek prodüksiyon sistemlerine bağlamayı ele alan bir ders olması güzel. Açıklanabilirlik, adillik ve izlemeyi de kapsaması etkileyici

  • Bu giriş seviyesi mi? Uygulamalı çalışmalara bakınca, orta seviye yazılım mühendislerinin ya da motive yeni başlayanların eğitimlerle öğrenebileceği çok şey var gibi görünüyor. Git, Flask ve container orkestrasyonu faydalı, ama zaten prodüksiyon ortamında çalışmış biri için temel kalır. Dağıtık eğitim için ağ optimizasyonu ya da büyük ölçekli çıkarım yönetimi gibi daha derin zorluklar ise daha az ele alınıyor gibi. Belki grup projesinde işleniyordur, merak ettim
  • Kullanılan araçların uzun vadeli ilgisi de merak konusu. Jenkins her yerde ama CI/CD için GitHub Actions ya da ArgoCD gibi daha modern seçenekleri tanıtmak daha mantıklı olmaz mı? Kubernetes elbette bilinmesi gereken bir şey, ama edge deployment ya da serverless sistemler için alternatifler veya yardımcı araçlar ne olacak? Sanki geleceğe biraz daha uzanmak için bir fırsat var

• Veri kalitesi hakkında neredeyse hiç içerik yok ve bu konu 16. bölümde... Yazarların endüstride ne kadar pratik deneyimi olduğunu merak ediyorum. Zamanın %90’ı veri kalitesi ve veri temizliğine gidiyor

• Makine öğrenimi küme altyapısı kurmaya dair kaynak ya da ders bilen var mı? Özellikle depolama altyapısının kurulumu ve ölçeklenmesi ile ağ ve zamanlama yaklaşımlarıyla ilgileniyorum

• Öğrenci olmayan başka insanlarla birlikte takip edilebilecek bir yer var mı diye merak ediyorum

• Herkes kayıt olabiliyor mu, yoksa ülkenin üst düzey bilgisayar bilimi programlarından birine kabul almak mı gerekiyor diye merak ediyorum

• Bu dersi burada görmek güzel. Christian harika biri ve çok iyi işler yapıyor. Bu dersin ve kitabın başlangıcını biliyorum ve güçlü şekilde tavsiye edebilirim

• ML platformları ve sistemlerinde 9,5 yıldır her ölçekte çalıştım. Materyal harika görünüyor

• İlginç; uygulamalı çalışmalara baktım ve LLM konusunda çok deneyimi olmayan bir full-stack geliştirici olarak bunun zaten yarısına aşinayım (git, flask, kafka, kubernetes), kalanı ise sadece kod. ML ile ilgili karmaşık matematik yok

  • Bu, ML ops’un PhD olmadan da sıradan geliştiricilerin erişebileceği kadar zor olmayan bir alan olduğu anlamına mı geliyor?

• Tek bir "Kubernetis" öğrenme fikri hoşuma gitti

• Dersin karmaşıklığını küçümsüyor olabilirim ama bu bana giriş seviyesi bir ders gibi geliyor. Model açıklama araçlarına kadar içeriğin çoğu açıkçası oldukça basit görünüyor. Çoğu kullanım senaryosu için sektör standardı araçları kullanıyor olmalarını ise olumlu buluyorum