TimeGPT-1
(arxiv.org)- TimeGPT, ek eğitim gerektirmeden birden çok alandaki zaman serisi verilerini tahmin eden bir zaman serisi foundation modelidir
- Mevcut istatistiksel, makine öğrenimi ve derin öğrenme yaklaşımlarıyla karşılaştırıldığında, zero-shot çıkarımda performans, verimlilik ve sadeliği birlikte iyileştiren bir yaklaşım öne sürer
- Zaman serisi tahmini; finans, sağlık, hava durumu, sosyal bilimler, elektrik talebi ve sunucu, çalışan, makine kapasite planlaması gibi geleceğe yönelik karar vermenin gerekli olduğu alanların temel dayanaklarından biridir
- Mevcut zaman serisi tahmini alanında, derin öğrenmenin etkisine dair pratik uzlaşı zayıftı ve dil ya da algı alanlarındaki kadar yaygın kabul gören genel amaçlı önceden eğitilmiş modeller eksikti
- Genel amaçlı önceden eğitilmiş modellerin, hassas tahmine erişilebilirliği artırma ve zaman ile hesaplama karmaşıklığını azaltma potansiyeli sunduğu belirtiliyor
TimeGPT'nin ortaya koyduğu model yönü
- TimeGPT, eğitim sırasında görmediği çeşitli veri kümelerinde de tahmin üretebilen, zaman serileri için bir foundation modelidir
- Temel nokta, farklı alanlar ve uygulamalarda ek eğitim olmadan tahmin yapabilen zero-shot çıkarımdır
- Önceden eğitilmiş genel amaçlı modeller, zaman serisi tahmini uygulamalarını daha erişilebilir ve daha doğru hale getirirken zaman tüketimini ve hesaplama karmaşıklığını önemli ölçüde azaltabilir
Zaman serisi tahmininin kullanıldığı alanlar
- Zaman serisi, zamana göre sıralanmış veridir ve sistemler, şirketler ve kurumlarda gelecekteki durumu değerlendirmek için temel veri olarak kullanılır
- Uygulama örnekleri birçok alana yayılır
- Ekonomik döngüleri ve eğilimleri anlama
- Tüketici harcama kalıplarını belirleme
- Elektrik üretimi ve şebeke yönetimi için elektrik talebini optimize etme
- Sunucu, çalışan ve makinelerin kapasite ve altyapısını ayarlama
- Okyanus gelgitlerini ölçme ve Dow Jones günlük kapanış fiyatını izleme
- Finans, sağlık, hava durumu ve sosyal bilimlerde zaman kalıplarını, eğilimleri ve dönemsel değişimleri anlamak; gelecekteki değerleri tahmin etmek ve karar vermek açısından önemlidir
Mevcut tahmin yöntemlerinin sınırlamaları
- Zaman serisi tahmini alanı, dil ve algı alanlarındaki üretici modellerde olduğu gibi geniş kabul gören bir uzlaşı düzeyine ulaşamadı
- Tahmin görevlerinde derin öğrenmenin etkinliği konusunda uygulayıcıların değerlendirmeleri hâlâ bölünmüş durumda
- Mevcut tahmin araştırmaları, gerçek anlamda genel amaçlı önceden eğitilmiş modellerin vaat ettiği düzeyi henüz yeterince karşılamıyor
Değerlendirme sonuçları ve çıkarımlar
- TimeGPT, mevcut istatistiksel modeller, makine öğrenimi modelleri ve derin öğrenme modelleriyle karşılaştırmalı olarak değerlendirildi
- Değerlendirme sonuçlarına göre, önceden eğitilmiş TimeGPT'nin zero-shot çıkarımı; performans, verimlilik ve sadelik açısından üstün görünüyor
- Bu durum, diğer yapay zeka alanlarındaki ilerlemelerden elde edilen içgörülerin zaman serisi analizine de uygulanabileceğine dair bir dayanak olarak kullanılıyor
- Büyük ölçekli zaman serisi modelleri, daha hassas tahminlere erişimi artırmak ve belirsizliği azaltmak için bir fırsat olabilir
1 yorum
Hacker News yorumları
Zaman serisi tahminiyle epey uzun süre uğraştım ama bu tür zaman serisine özel derin öğrenme modellerinin ne işe yaradığını hâlâ bulabilmiş değilim.
Çok yüksek boyutlu verilerde, örneğin bir kart ödeme işleme şirketinde dolandırıcılık tespiti modellemesi yaptığım zamanki gibi, derin öğrenme üstün geliyor. Ama zamanı diğer özelliklerden farklı ele alan ayrı bir “zaman serisi” modeli kullanmanın neredeyse hiç avantajı olmadı.
Son teknoloji performans iddiasındaki N-BEATS, N-HiTS ve Transformer’lardan önce moda olan neredeyse tüm RNN varyantlarını denedim; ancak gecikmeli değerleri özellik olarak veren bir MLP’yi geçemediler. Tahmin alanındaki başka insanlarla konuştuğumda da aynı sonuçları gördüklerini söylüyorlar.
Orta boyutlu verilerde LightGBM/XGBoost ezici biçimde daha iyi; genellikle herhangi bir derin öğrenme modeliyle aynı ya da daha iyi performans veriyor, üstelik çok daha az ince ayar ve son derece az hesaplama süresi gerektiriyor.
Düşük boyutlu verilerde yeterli veri olmadığı için yapıyı insan sezgisiyle kurmak gerekiyor; bu yüzden hâlâ (V)ARIMA/ETS/faktör modelleri en güçlü seçenek.
Bu nedenle genel amaçlı olarak yüksek performans veren bir “zaman serisi” modeli iddialarına karşı çok kuşkucuyum. Dil modellerinin aksine, zaman serileriyle eğitilse bile modelin dünyanın işleyişindeki temel yapıyı anlama kapsamı sınırlı; dolayısıyla genelleme kabiliyeti de kaçınılmaz olarak çok sınırlı olabilir.
Ayrıca birden fazla zaman adımı ilerisini tahmin etmek gereken çok adımlı tahminlerde XGBoost gibi modellerin nasıl kullanıldığını da merak ediyorum.
MLP’ye gecikme özellikleri ekleme yöntemi, Transformer’ın attention mekanizmasında daha uzun sekans uzunluğu kullanmakla karşılaştırıldığında nasıl duruyor? İleri beslemeli bir sinir ağına 128 zaman adımı gecikmeli değer verildiğinde de iyi sonuçlar çıkıp çıkmadığını merak ediyorum.
Çeşitli makine öğrenmesi algoritmalarını deneyerek akıllı alım satım botu https://github.com/asavinov/intelligent-trading-bot geliştirirken de aynı sonuca varmıştım.
Ancak Transformer’ların büyük avantaj sağlayabileceği durumlar da var. Sayısal tahmine ayrık olay analizinin eklendiği ve olay sırasının önemli olduğu durumlarda ya da teknik analizde aranan belirli örüntüler önemliyse yararlı olabilir. Bu tür durumlarda çok daha fazla veriye ihtiyaç var.
GPT tabanlı piyasa tahmini sattığını söyleyen grafik analistlerinin akın edeceği kesin.
Yeterince büyük bir eğitim derlemine sahip bir zaman serisi modeli, mevsimsellik, şoklar ve aykırı değerler gibi tipik anormalliklerle oldukça iyi başa çıkabilir diye düşünüyorum.
Şu ana kadarki durum konusunda tamamen katılıyorum, ancak burada sunulan türden modellerin uygulayıcılar tarafından denenmesini merakla bekliyorum. Gerçekten işe yarayabilir.
Hayır, Transformer her derde deva bir çözüm değil
Transformer son teknoloji, genel amaçlı bir fonksiyon yaklaştırıcısı gibi hissettirse de, dil ve görüntü alanlarında neden bu kadar iyi çalıştığını anlamak gerekiyor
Transformer çok iyi paralelleştirilebiliyor ve sofistike ara temsiller öğreniyor. Uzayda anlamsal kavramlar temiz biçimde ayrışmaya başlıyor; ayraç tespitini de doğal biçimde yapıyor; çizgi, eğri, renk, köpek kulağı gibi öğelerle nasıl başa çıkacağını da öğreniyor. Son katman, bu sofistike kavramları birleştirerek köpek/kedi/blog gibi üst düzey kavramları öğreniyor
Ancak Transformer, daha geniş anlamda da derin öğrenme yöntemlerinin geneli, zaman serisi verilerinden henüz yeni ara temsiller çıkaramadığı için iyi çalışmıyor
Yüzeysel bakınca bile “token penceresi” nasıl ele alınmalı? En basit ifadeyle zaman serisi modelleme, dünyaya dair belirli gözlemler koşuluyla, birbirinden çok farklı yaşam döngülerine sahip tekrar eden örüntüleri tanımlama işidir. Sorunu en baştan ele alabilmek için modelin yıl·gün·saniye ölçeklerini aynı anda doğal biçimde akıl yürütebilmesi gerekir. Komik biçimde, MIT’nin geçen haftaki streaming LLM makalesi buna yardımcı olabilir
İkincisi, iyileşme payı en iyi ihtimalle bile önemsiz görünüyor. Devasa bir mimari değişiklik önerip gözlemlenebilirliği ve açıklanabilirliği ortadan kaldırıyorsanız, gerçekten ezici sonuçlarınız olmalı
Aslında zaman serisi tahmininde çığır açıcı bir teknik bulan biri varsa, piyasadan ilk 1 milyar dolarını kazanmadan bunu başkalarına söylemesi aptalca olur. 1 milyar dolarda durmak da bence aptalca. Zaman serisi tahmini, çözülebilirse finansal olarak en büyük ödülü veren problemdir. Bir makale olarak yayımlandıysa, bunun başlı başına hayal kırıklığı yaratacağını tahmin ederim
Girdi bandı, toplanabilen tüm veriler ile ilgilenilen zaman serisinin uç uca eklenmiş hâlinden oluşan tüm monoton evrensel Turing makinelerini dolaşmak yeterli. Çok uzun süren programları atlayıp, girdi dizisini yeniden üreten kalan programları bırakın; ardından bir sonraki çıktı biti için olasılık dağılımını program boyutuna göre 2^- ağırlıklarla oluşturun
Bunun nesi bu kadar zor?
Yüksek frekanslı alım satım sektöründe derin öğrenme, piyasa verilerine epey uzun süredir başarıyla uygulanıyor. Paket yakalamadan tick’lere, mum grafiklerine kadar her şeyi kapsıyor
50 kişilik bir quant/yazılım mühendisi/trader ekibinin yılda 1 milyar doların üzerinde kâr etme yöntemini neden açıklayasınız?
Standart zaman serisi tahmininde bu özellik genellikle “periyodik örüntüler devam eder” ya da “büyüme örüntüleri devam eder” gibi şeylerdir
Dil verisiyle eğitilmiş bir Transformer, özünde, devam edecek içeriği etkileyen karmaşık özelliklerin çok çeşitli biçimlerde ortaya çıktığı bir zaman serisi tahminini öğrenmiş olur. Dil verisi o kadar karmaşık ve çeşitlidir ki metni sürdürmek için bağlam içi öğrenme gerekir. Bu, her tür sembol dizisinde ortak özellikleri bulup bunları devam ettirme için kullanma yeteneğidir
Dil verisinin içinde hisse senedi fiyatları ya da hava durumu kayıtları gibi çeşitli veriler içeren devasa Excel tabloları da bulunabilir. Bu yüzden bağlam içi öğrenmenin çok güçlü hâle gelip zero-shot zaman serisi devam ettirmesi bile yapabilmesi makul
Dahası, dil verisi ve Transformer mimarisinin, bağlam içi öğrenme sayesinde gerçek genel zekâ benzeri davranış elde etme potansiyeli olduğunu düşünüyorum. Bu genel örüntü tanımadır. Dil verisi yeterince karmaşıktır; bu yüzden stokastik gradyan inişinin genel örüntü tanıma ve devam ettirmeye yol açması kaçınılmazdır
Henüz başlangıçtayız ve şu anda bağlam içi öğrenmeyi bozan ince ayara odaklanıyoruz. Ancak yakında tüm modalitelerde, bulabildiğimiz tüm sembol dizileri üzerinde dev Transformer’lar eğiteceğiz
Ancak video sonuçta katman katman birikmiş görüntü gibi görünüyor. Karelerden oluşan görüntünün, görüntüye benzer şekilde çalışamaması için ne sebep var? Şu anki cevap, çalışmadığı yönünde; ama bunu sinir ağları mı yapamıyor, yoksa biz henüz doğru modelleme yolunu mu bulamadık, merak ediyorum
“Prophet [Taylor ve Letham, 2018] ve ARIMA gibi popüler modelleri, aşırı hesaplama gereksinimleri ve uzun eğitim süreleri nedeniyle analizden hariç tuttuk” kısmını anlamıyorum
Zaman serisi tahminiyle çok uğraşmış biri bunu daha ayrıntılı açıklayabilir mi merak ediyorum
ARIMA’yı basit işler için kullanmışlığım var. Neden bir Transformer modelinden daha pahalı eğitilip çalıştırıldığını bilmiyorum; öyle olsa bile ARIMA o kadar yaygın kullanılıyor ki kaynak ve zaman karşılaştırması yapmak faydalı olurdu
Aksi hâlde satış metni gibi duyuluyor; “ben uzmanım, abc xyz sektör kısaltmaları” tarzı pazarlama için anlaşılması zor kısaltmalar serpiştiriyor gibi görünüyor
Geçerli endişeye yanıt vermek gerekirse hesaplama maliyetinin yüksek olmasının birkaç nedeni var. Birincisi, ARIMA ve diğer “istatistiksel” yöntemler yerel modellerdir; yani her zaman serisi için ayrı bir model eğitmek gerekir. Buna karşılık makine öğrenmesi ve derin öğrenme modelleri global modellerdir; tüm zaman serileri için “tek” bir model kullanırlar
İkincisi, ARIMA bu deneydeki gibi çeşitli zaman serisi kümelerinde genellikle iyi performans göstermez. AutoARIMA daha iyi bir seçenek, ancak zaman serilerinin sayısı ve uzunluğu düşünüldüğünde eğitim süresi çok daha uzar. Ayrıca AutoARIMA uzun zaman serilerinde çok yavaşlama eğilimindedir
Özetle, benchmark’ta kullanılan 500 bin zaman serisine ARIMA uygulamak kelimenin tam anlamıyla haftalar sürer ve maliyeti de çok yüksek olurdu
Bu yüzden Theta ve CES gibi iyi performans gösteren çeşitli yerel “istatistiksel” modelleri dahil ettik. Tüm temel karşılaştırmalarda StatsForecast, MLForecast, Neuralforecast dahil açık kaynak ekosistemimizdeki implementasyonları kullandık. Daha küçük bir alt küme üzerinde yeniden üretilebilir bir deney setini yakında yayımlayacağız
1970’lerin tahmin tekniğini “eğitim süresi uzun” diye hariç tutuyorlarsa bu makaleyi ciddiye almak zor
ARIMA’yı hariç tutmak için birkaç bahane bulunabilir. Gerçekte düzgün çalışması için zaman serisine dair önemli ön bilgileri, örneğin periyodiklik ya da kırılma noktası düzeltmesi gibi şeyleri eklemek gerekir
Ama “aşırı hesaplama yükü ve uzun eğitim süresi” buna uymuyor
O kısım biraz gösteriş gibi duruyor; fakat makalenin geri kalanı, özellikle zero-shot yeteneği, doğrulanırsa çok ilginç. “Bize ulaşın” tarzı bir API’den daha erişilebilir hâle gelmesini ve bizzat ARIMA vb. ile karşılaştırabilmeyi umuyorum
Çeşitli kusurları ve sınırlamaları var, ama hesaplama verimliliği sorun değil
Bu makalenin içeriği aşırı derecede zayıf. Önemli konular hakkında neredeyse hiç bilgi yok; mimari ve veri hakkında yalnızca el kol hareketi yapıyor
Bunun yerine MAE formülü ya da eğitim ve çıkarım kavramlarını gösteren diyagramlar gibi şeylere yer harcıyor. Her yerde uyarı işaretleri var
Nixtla’dan Max. Bu kadar ilgi göreceğini beklemiyordum; hem olumlu hem eleştirel tepkileri memnuniyetle takip ediyorum
Birkaç önemli noktayı netleştirmek istiyorum
Bu makalenin ilk sürümündeki ana hedef TimeGPT-1’i tanıtmak, büyük ölçekli deneylerden ön sonuçları göstermek ve zaman serilerinde de bu ölçekte transfer öğrenmenin gerçekten mümkün olduğunu ortaya koymaktı. Makalede belirttiğimiz gibi, önceden eğitilmiş modellerin birçok uygulamada hesaplama kaynakları açısından çok maliyet etkin bir çözüm olabileceğine derinden inanıyoruz. Ayrıca bu sürüm bir ön baskı. Verilerin bir bölümü için yeniden üretilebilir deney setleri yayımlamak üzere çalışıyoruz; beklemede kalmanızı isteriz
Nixtla’nın önceki çalışmalarının tamamı açık kaynaktı ve TimeGPT’nin uygulayıcılara tahmin ve anomali tespitini anında sunan uygulanabilir bir ticari ürün olabileceğini düşünüyoruz. Bazı ilginç ayrıntıları, şirketin büyümesine katkı sağlamak, daha iyi çözümler sunmak ve ekosistemi geliştirmeyi sürdürmek için rekabet avantajı niteliğinde olduklarından dışarıda bıraktık
Bu başlıktaki diğer kişilerin de söylediği gibi, mümkün olduğunca çok kişiyi ücretsiz denemeye dahil edip daha fazla bağımsız uygulayıcının kendi kullanım senaryolarında doğruluğu test edebilmesi için çalışıyoruz. Prophet’in yaratıcısının ilk izlenimlerine https://x.com/seanjtaylor/status/1694745912776749296?s=20, GluonTS’in yaratıcısının tepkisine https://www.linkedin.com/posts/tim-januschowski_foundational... ve H20 ekibinin yaptığı erken teste https://youtu.be/N0gyDVUFPlg?si=xH8oy5cjgLm-o_WD&t=457 de bakabilirsiniz. Yakında daha fazla bağımsız benchmark görmeyi umuyorum
Akademide “hakem değerlendirmesi önemlidir”, “alanın uzmanı değilseniz arxiv ön baskılarını okumayın” diye uyarıldığında kastedilen tam olarak böyle şeyler
“Belirsizlik hayatın özsel bir yönüdür; insanların yorulmadan içinden geçmeye ve anlamaya çalıştığı bir sabittir” cümlesi biraz tuhaf
Bir şeyi içtenlikle yapmak güzel, ama bunu yapacaksanız en azından bir BBC belgeselinden daha şiirsel olmalı
İlgili gibi mi görünüyor?
Inverted Transformers Are Effective for Time Series Forecasting
https://news.ycombinator.com/item?id=37848321
Bu, ürün https://www.nixtla.io/ için pazarlama materyali gibi görünüyor
Yanılıyor olsam iyi olurdu ama Seasonal Naive modelinden kabaca %20~30 daha iyi görünüyor. Bu kadarıyla o kadar kullanışlı görünmüyor
Sıfır atışlı olması kesinlikle etkileyici, ancak pratikte bununla çok fazla şey yapılabileceğini sanmıyorum