xLSTM ile uzun vadeli zaman serisi tahmini: XLSTMTime

xLSTMTime: Long-term Time Series Forecasting With xLSTM

• Son yıllarda Transformer tabanlı modeller, çok değişkenli uzun vadeli zaman serisi tahmini (LTSF) alanında dikkat çekici başarılar gösterdi. Ancak yüksek hesaplama gereksinimi, zamansal dinamikleri yakalamadaki zorluklar ve uzun bağımlılıkları yönetme gibi sorunlarla karşı karşıya kalıyorlar
• Basit doğrusal yapıya sahip LTSF-Linear'ın ortaya çıkması, Transformer tabanlı modelleri geride bırakan sonuçlar ortaya koydu ve bu da zaman serisi tahmininde Transformer'ların faydasını yeniden değerlendirmeye yol açtı
• Buna karşılık bu makale, yakın dönemde ortaya çıkan bir mimari olan genişletilmiş LSTM'yi (xLSTM) LTSF'ye uygulamanın sonuçlarını sunuyor. xLSTM, üstel gating ve daha yüksek kapasiteli değiştirilmiş bellek yapısı sayesinde LTSF için uygun bir potansiyel taşıyor
• Benimsediğimiz LTSF mimarisi xLSTMTime, mevcut yaklaşımları geride bırakıyor. Çeşitli gerçek dünya veri kümelerinde çok sayıda güncel model ile xLSTMTime'ın performansını karşılaştıran sonuçlar, üstün tahmin yeteneğini ortaya koyuyor
• Bulgularımız, iyileştirilmiş yinelemeli mimarilerin LTSF görevlerinde Transformer tabanlı modellere karşı rekabetçi bir alternatif sunabileceğini ve zaman serisi tahmini alanının çehresini yeniden tanımlama potansiyeli taşıdığını gösteriyor

GN⁺ özeti

• Bu makale, Transformer tabanlı modellerin sınırlamalarını aşmak amacıyla xLSTM'yi kullanarak uzun vadeli zaman serisi tahmininde üstün performans sergiliyor
• xLSTMTime, üstel gating ve değiştirilmiş bellek yapısı sayesinde mevcut modelleri aşan tahmin yeteneğini ortaya koyuyor
• Bu çalışma, zaman serisi tahmininde yinelemeli mimarilerin potansiyelini yeniden gündeme getirirken Transformer tabanlı modellere yeni bir alternatif sunuyor
• Benzer işlevlere sahip projeler arasında Facebook'un Prophet'i ve Amazon'un DeepAR'ı bulunuyor

[GN⁺]

Hacker News görüşleri

• Son birkaç yıldır, transformer tabanlı modeller çok değişkenli uzun vadeli zaman serisi tahmininde öne çıkıyor
  • Ancak, genel olarak derin öğrenme dışı modellerden daha iyi olup olmadıkları net değil
• Ekonomi (enflasyon, GSYİH vb.) ve finansta (piyasa likiditesi vb.) nowcasting ve tahmin modelleri kurma işiyle uğraşıyorum
  • transformer modeller mükemmel olsa da LSTM türü modellerin hâlâ çok faydalı olduğu görüşüne katılıyorum
• Google’ın yapay zeka kullanan hava tahmini modeliyle bir ilişkisi olup olmadığını merak ediyorum
  • Google’ın Graphcast AI modeli bağlantısı paylaşılmış
• Makaledeki veri kümesi bağlantısının çalışmaması üzücü
  • Umarım düzeltilir
• Bir tahmin aracı olarak pazarlanıyor, ama zaman serilerinde olay sınıflandırmasına uygulanıp uygulanamayacağını merak ediyorum
• En iyi derin öğrenme zaman serisi modelleri hedge fund’ların içinde gizli olarak kullanılıyor
• Zaman serisi tahmini en iyi deterministik alanlarda çalışır
  • Yayımlanmış LLM/AI/derin öğrenme/makine öğrenimi tekniklerinden hisse senedi piyasasında iyi çalışan yok
  • Hepsini denedim ama başarılı olamadım
• Birinin zaman serisi tahmin yöntemi gerçekten işe yarasaydı, bunu yayımlamazdı
• Bunu yanlışlıkla XSLT diye okudum
• Bu araçla hisse senedi tahmin etmeye çalışıp tüm parasını kaybedecek birini bekliyorum