Termodinamik Doğal Gradyan İnişi
(arxiv.org)- TNGD, doğal gradyan inişini (NGD) analog termodinamik bilgisayar ile GPU’nun hibrit döngüsünde çalıştırarak, ikinci dereceden optimizasyonun hesaplama yükünü azaltmayı amaçlayan bir sinir ağı eğitim yöntemidir
- İkinci dereceden eğitim yöntemleri, kayıp yüzeyinin eğrilik bilgisinden yararlanarak iyi yakınsama özellikleri sunar; ancak dijital donanımda Fisher bilgi matrisini hesaplama ve doğrusal sistem çözme maliyetleri nedeniyle büyük ölçekli eğitimde kullanımları zordur
- Denge durumundaki analog sistemin termodinamik özelliklerini ve fiziksel Ornstein–Uhlenbeck sürecini kullanarak NGD’nin parametre güncelleme kuralını uygular
- Kullanıcı model mimarisini korur ve analog bilgisayar yalnızca eğitimi hızlandırır; bu nedenle modeli donanıma sabitleyen bazı analog çıkarım hızlandırma yaklaşımlarından farklıdır
- Sayısal deneylerde sınıflandırma ve dil modeli ince ayarında, güncel dijital birinci ve ikinci dereceden eğitim yöntemlerinden daha iyi sonuçlar göstermiştir; yeterli paralelleştirme olduğunda Adam ve SGD’ye yakın iterasyon başına çalışma süresi mümkündür
TNGD’nin hedeflediği eğitim maliyeti sorunu
- Gelişmiş yapay zeka modellerinin eğitim maliyeti arttıkça, dünyanın önde gelen modellerinin eğitimi yüz milyonlarca dolar düzeyine ulaşmaktadır
- Dijital donanımda Moore Yasası ve Dennard Yasası’nın sona ermesi, çalışma süresini ve enerji verimliliğini etkilemektedir
- Bu kısıtlar, yapay zeka modeli eğitiminin verimliliğini artırmak için özel amaçlı, geleneksel olmayan donanım ihtiyacını büyütmektedir
- Dijital donanım, kullanıcıların seçebileceği eğitim algoritmalarının yelpazesini de daraltır
- SGD, Adam ve varyantları DNN’lerin ve büyük yapay zeka modellerinin eğitiminde yaygın olarak kullanılır
- Daha gelişmiş optimizer’lar, hesaplama ek yükleri yüksek olduğu için dijital donanımda nadiren kullanılır
İkinci dereceden optimizasyonun avantajları ve darboğazı
- İkinci dereceden yöntemler, kayıp yüzeyinin eğrilik bilgisini yakaladığından teorik olarak daha güçlü yakınsama özelliklerine sahiptir
- Doğal gradyan inişi (NGD), Fisher bilgi matrisi gibi ikinci dereceden nicelikleri tahmin etmeli ve her epoch’ta maliyetli bir doğrusal sistem çözümü gerçekleştirmelidir
- K-FAC gibi NGD yaklaştırma yöntemleri potansiyel göstermiş ve Adam’dan daha üstün performans da sergilemiştir; ancak rastgele sinir ağı mimarilerine uygulanmaları hâlâ zordur
Hibrit dijital-analog eğitim döngüsü
- TNGD, GPU’nun analog termodinamik bilgisayar ile iletişim kurduğu hibrit bir dijital-analog döngü olarak çalışır
- Eğitim sırasında belirli zaman aralıklarında gradyanlar ve Fisher bilgi matrisi ya da başka bir pozitif yarı tanımlı eğrilik matrisi hesaplanır; aralarda ise analog dinamikler ilerler
- Analog sistemin denge durumunda ortaya çıkan termodinamik özellikler hesaplama kaynağı olarak kullanılır
- Kullanıcı model mimarisini sağlar, analog bilgisayar ise yalnızca eğitim sürecini hızlandırır
- Bu, modeli donanıma sabitleyerek kullanıcının mimariyi serbestçe değiştirmesini zorlaştıran bazı analog yapay zeka çıkarım hızlandırma önerileriyle karşıtlık gösterir
Hesaplama karmaşıklığı ve deney sonuçları
- TNGD, belirli parametre bölgelerinde NGD ile eşdeğerdir; ancak aşırı maliyetli doğrusal sistem çözümünden kaçınır
- NGD’nin parametre güncelleme kuralını uygulamak için fiziksel Ornstein–Uhlenbeck sürecinden yararlanır
- İterasyon başına çalışma süresi, parametre sayısına göre doğrusal ölçeklenir
- Uygun şekilde paralelleştirildiğinde Adam ve SGD gibi birinci dereceden optimizer’lara yakın çalışma süresi mümkündür
- Sayısal deneylerde TNGD, sınıflandırma görevlerinde ve çıkarımsal soru-cevap dahil dil modeli ince ayarında güncel dijital birinci ve ikinci dereceden eğitim yöntemlerinden daha üstün sonuçlar vermiştir
1 yorum
Hacker News yorumları
∇̃L(θ) = F⁻¹∇L(θ)ve bu da bir doğrusal sistemin çözülmesini gerektiriyor.Burada yazarın önceki makalesi Thermodynamic Linear Algebra içindeki yöntem kullanılabiliyor. Tam bir sinir ağını termodinamik bir bilgisayarda uygulamak zor olduğu için makale, bunu sıradan bir GPU ile paralel çalıştırmayı öneriyor. Yapı şöyle: GPU
Fve∇L(θ)değerlerini hesaplıyor, doğrusal sistem ise dijital sistemle paralel çalışan termodinamik bilgisayara aktarılıyor (Şekil 1). Ancak Şekil 3’teki “Runtime vs Accuracy” grafiğinin, gereken bilgisayar henüz var olmadığı için TNGD algoritmasının zaman modelini kullandığı önemli bir nokta.Termodinamik yasalarının yapay zeka modeli eğitimindeki işi üstlenmesini sağlayarak mevcut dijital donanımın ve eğitim yöntemlerinin ölçeklenme sınırlarını ve zorluklarını aşmak mümkünse, böyle bir yönün aranmasını desteklerim.
Sinir ağları dışındaki optimizasyon problemlerinin modellenip modellenemeyeceğini görmek için web sitesinde API ya da yazılım yığınına dair herkese açık bilgi aradım, ancak henüz yayımlanmamış gibi görünüyor. Hâlâ çözmeye değer pek çok NP-zor kombinatoryal optimizasyon ve büyük ölçekli analitik optimizasyon problemi var; kişisel olarak EDA ve yarı iletken tasarımı problemleri ilgimi çekiyor. Adyabatik kuantum bilişim de optimizasyon problemlerini çözme vaadi taşıyan bir teknolojiydi ve kuantum bilişim hâlâ çoğunlukla küçük ölçekli çözümler etrafında ilerliyor. Bu yeni “termodinamik bilişim” girişimlerinin de bu problemleri keşfetmeye yarayacak harika teknolojiler sunmasını umuyorum.
Klasik donanımda zaten çok verimli çalışan ikinci dereceden yöntemler[1] var, ancak pratikte neredeyse hiç kullanılmıyor ve ADAM gibi birinci dereceden yöntemlerin gerisinde kalıyor. Çünkü derin öğrenme modellerindeki gibi son derece doğrusal olmayan kayıp fonksiyonlarını optimize etmek için, birinci dereceden de olsa ikinci dereceden de olsa sonuçta çok düşük bir öğrenme oranı gerekiyor. Bu yüzden ikinci dereceden yöntemler adım başına biraz daha iyi parametre güncellemeleri sağlayabilse de maliyetleri çoğu zaman bundan daha fazla arttığı için genelde pek değerli olmuyor.
[1] https://andrew.gibiansky.com/blog/machine-learning/hessian-f...
Veri kümesinin tamamına ilişkin ikinci dereceden bilgiyi faydalı biçimde tahmin etmek daha da zor; özellikle de mini-batch kullanmamızın başlıca nedeninin hesaplanabilirlik olduğunu düşünürsek.
Günümüzün büyük ve aşırı belirlenmiş modellerinde birbirine benzer çok sayıda ekstremum olduğu düşünülürse, bunun gerçekten gerekli olup olmadığından da emin değilim. Yarı-doğrusal bile değil de alt-doğrusal değilse, ilgilenmek için pek bir neden yok gibi görünüyor.
https://en.wikipedia.org/wiki/Simulated_annealing
Bunun yerine elektromanyetik alanlar ya da girişimleriyle, belki de 3D yapılarla bir şeyler yapılabilir gibi.
Yani eski usul analog hesaplama ile modern GPU tabanlı kodun bir birleşimi. Gerçekte donanım arayüzü ek yükü ve integratörlerin kararlı hâle gelmesini bekleme süresi yüzünden daha uzun sürer; ancak benim anladığım iddia, optimize edilmiş bir uygulamanın yakınsamayı hızlandırarak tamamen dijital bir çözümden daha iyi olabileceği yönünde. Temel fikir şu: mevcut gradyan inişi özünde doğrusal bir işlemken, gerçekte izlenen gradyan eğri bir yüzey üzerinde; bunu yalnızca dijital alanda ele alınca gereksiz çok sayıda adımla yaklaşık hesaplamak gerekiyor. Sorun, Seymour Cray’den bu yana pek çok kişinin zor yoldan öğrendiği gibi, sonunda CMOS’un her zaman kazanması. Çünkü bütün bir sektörün finansal gücü CMOS’u optimize etmeye akıyor.