Stokastik Kalkülüse Giriş

 (jiha-kim.github.io)
2 puan yazan GN⁺ 2025-02-25 | 1 yorum | WhatsApp'ta paylaş
  • Stokastik kalkülüs, Brown hareketi gibi düzensiz gerçek dünya sistemlerini ele almak için biçimcilikten çok fiziksel sezgiye ve türetme süreçlerine öncelik veren bir yaklaşımdır
  • Ayrık binom dağılımı ve simetrik rastgele yürüyüş, deneme sayısı artırılıp ölçeklendiğinde merkezi limit teoremi aracılığıyla normal dağılıma ve sürekli stokastik süreçlere bağlanır
  • Brown hareketi (W(t)), bağımsız artışlara ve (W(t)\sim N(0,t)) özelliğine sahiptir; yolları sürekli olsa da neredeyse kesin olarak hiçbir noktada türevlenebilir değildir
  • Itô kalkülüsünde (dW=\sqrt{dt}N(0,1)), ((dW)^2\approx dt) kuralları nedeniyle olağan zincir kuralına ikinci dereceden terim eklenir
  • Stokastik diferansiyel denklemler drift ve diffusion ile trendi ve rastgeleliği birlikte modeller; Stratonovich yaklaşımı orta nokta değerlendirmesiyle olağan zincir kuralını korur ve fizik, kontrol, biyolojik difüzyon ve sayısal simülasyonda kullanılır

Stokastik kalkülüsün ele aldığı problem

  • Stokastik kalkülüs, Brown hareketi ve Itô kalkülüsüne dayanarak düzensiz gerçek dünya sistemlerini hesaplanabilir modeller olarak ele almaya yarayan bir araçtır
  • Uygulama alanları fizik, finans, biyoloji ve makine öğrenmesine kadar genişler
    • Fizik: Einstein, Brown hareketindeki dalgalanmaların molekül çarpışmalarıyla uyumlu olduğunu kullanarak atomların varlığını gösterdi
    • Finans: Black-Scholes denklemi gibi opsiyon fiyatlama modelleri (dS=\mu Sdt+\sigma SdW) biçimindeki stokastik diferansiyel denklemlere dayanır
    • Biyoloji: Rastgele yürüyüş, türlerin yayılımını veya nöron ateşlenmesini modeller
    • Makine öğrenmesi: Song et al. (2021), Itô kalkülüsüne dayalı stokastik diferansiyel denklemlerle gürültünün zaman içindeki evrimini modeller ve bunu ters yönde kullanarak yeni örnekler üretir

Binom dağılımından sürekli stokastik sürece

  • Pascal üçgeni, her adımda sola veya sağa giden yol sayısını sayar; (n). satırın (k). konumuna ulaşma yollarının sayısı (\binom{n}{k}=\frac{n!}{k!(n-k)!}) olur
  • Bağımsız denemelerde (k) kez başarı ve (n-k) kez başarısızlık olasılığı şöyledir

[ P(k \text{ wins in } n \text{ trials})=\binom{n}{k}p^kq^{n-k} ]

  • Bağımsızlık varsayımı güçlü bir koşuldur; bu nedenle spor müsabakalarındaki galibiyet serileri veya hisse fiyatları gibi psikoloji ve momentumun devreye girdiği gerçek durumlarda model hatalı olabilir
  • Düşme hareketi, gaz difüzyonu, hisse fiyatı dalgalanmaları ve sıvı içindeki molekül çarpışmaları gibi sürekli değişen olguları yalnızca noktalar ve toplamlarla ele almak zordur; aralıklara ve integrale ihtiyaç vardır

Rastgele yürüyüş ve merkezi limit teoremi

  • (p=0.5) olan simetrik rastgele yürüyüşte tek adımlık yer değiştirme şöyle tanımlanır

[ X(t)= \begin{cases} 1 & \text{with probability } \frac{1}{2}\ -1 & \text{with probability } \frac{1}{2} \end{cases} ]

  • Her (X(t)) ortalaması 0, varyansı 1 olan bir değişkendir ve farklı zamanlardaki adımların bağımsız olduğu varsayılır
  • Toplam yer değiştirme, bağımsız rastgele değişkenlerin toplamı olarak ifade edilir

[ S(n)=X(1)+X(2)+\dots+X(n)=\sum_{t=1}^{n}X(t) ]

  • Merkezi limit teoremine göre bağımsız ve aynı dağılıma sahip rastgele değişkenler (X_1,\dots,X_n)'in toplamı, (n\to\infty) iken normal dağılıma yaklaşır

[ X_1+\dots+X_n\sim N(n\mu,n\sigma^2) ]

  • Bu rastgele yürüyüşte şu ilişki geçerlidir

[ S(n)\sim N(0,n) ]

[ \lim_{n\to\infty}\frac{1}{\sqrt{n}}S(n)=N(0,1) ]

  • Dolayısıyla “sürekli binom dağılımı” normal dağılıma bağlanır

Brown hareketinin tanımı

  • Robert Brown'ın 1820'lerde gözlemlediği, su üzerindeki küçük parçacıkların veya polenin hareketi çok düzensizdi; küçük ölçeklerde dış kuvvetlerden kaynaklanan gerçek hareket, önceki hareketi bastıracak kadar hassas biçimde ortaya çıkar
  • Basitleştirilmiş matematiksel modelde, farklı zamanlardaki olaylar bağımsız kabul edilir ve konumsal simetri nedeniyle parçacığın (t) zamanındaki ortalama konumunun orijin yakınında olduğu varsayılır
  • Sürekli rastgele yürüyüşün sahip olması gereken özellikler şunlardır
    • Başlangıç noktası matematiksel kolaylık için 0 alınır
    • Yön yanlılığı yoktur; her adımın beklenen yer değiştirmesi ve toplam beklenen yer değiştirme 0'dır
    • Farklı zaman aralıklarındaki yer değiştirmeler bağımsızdır
    • Yol, sıçrama veya boşluk olmadan süreklidir
    • Belirli bir andaki konum dağılımı normal dağılım olmalıdır
  • Brown hareketi genellikle (B_t), Wiener süreci ise (W_t) ile gösterilir; burada zaman bağımlılığını vurgulamak için (W(t)) kullanılır
  • Başlıca özellikler şunlardır

[ W(0)=0 \quad \text{almost surely} ]

[ W(t)\sim N(0,t) ]

[ \Delta W(s,t)\sim N(0,t-s) ]

  • Farklı aralıklardaki artışlar (\Delta W(t_1,t_2)) ve (\Delta W(t_2,t_3)), (t_1<t_2\le t_3) için bağımsızdır
  • Buradan (E[W(t)]=0), (Var(W(t))=t) sonuçları çıkar
  • Örnek yollar (t\mapsto W(t)), neredeyse kesin olarak (\gamma<\frac12) olan tüm üsler için düzgün Hölder süreklidir; ancak (\gamma\ge\frac12) için hiçbir yerde Hölder sürekli değildir ve özellikle hiçbir noktada türevlenebilir değildir

Itô kalkülüsünün temel kuralları

  • Brown hareketi süreklidir, ancak olağan bir türeve sahip olamayacak kadar düzensizdir
  • Küçük bir (dt) aralığında şu geçerlidir

[ \Delta W(t,t+dt)\sim N(0,dt)=\sqrt{dt}N(0,1) ]

[ \frac{\Delta W(t,t+dt)}{dt}=\frac{1}{\sqrt{dt}}N(0,1) ]

  • (dt\to0) iken (\frac{1}{\sqrt{dt}}) sonsuza büyüdüğünden sonlu bir türeve yakınsamaz
  • Kiyosi Itô, 1940'larda Brown hareketinin rastgeleliğine uyarlanmış Itô kalkülüsünü geliştirdi; bu, stokastik kalkülüsün temelini oluşturdu

  • (dW) ve ((dW)^2)

    • Brown hareketinin küçük değişimi şöyle tanımlanır
    • [
    • dW:=W(t+dt)-W(t)
    • ]
    • [
    • dW=\sqrt{dt}N(0,1)
    • ]
    • (dW), olağan kalkülüsteki deterministik (dx)'ten farklı olarak rastgeledir; büyüklüğü (\sqrt{dt}) ile orantılıdır ve işareti standart normal dağılıma bağlıdır
    • Beklenen değer ve varyans şöyledir
    • [
    • E[dW]=0
    • ]
    • [
    • Var(dW)=E[(dW)^2]=dt
    • ]
    • ((dW)^2)'nin beklenen değeri (dt), varyansı (2dt^2)'dir; (dt\to0) iken oynaklık ihmal edilebilir hâle geldiğinden Itô kalkülüsünde ((dW)^2\approx dt) olarak ele alınır
    • Olağan kalkülüste ((dx)^2) çok küçük olduğu için kaybolur; ancak stokastik kalkülüste ((dW)^2), (dt) ile aynı ölçektedir, bu yüzden hesaplama kuralları farklılaşır

  • Itô integrali

    • Olağan integral (\int_a^b f(x)dx) nasıl Riemann toplamlarının limiti olarak tanımlanıyorsa, Brown hareketi için de (\int_0^t f(s)dW(s)) düşünülür
    • Bölümleme (s_0,\dots,s_n) için aşağıdaki toplamla yaklaşık hesaplanır
    • [
    • \int_0^t f(s)dW(s)\approx \sum_{i=0}^{n-1}f(s_i)\Delta W(s_i,s_{i+1})
    • ]
    • Bu integralin sonucu, (W(t))'nin rastgeleliğini yansıtan bir rastgele değişkendir
    • (f(s_i)) sol uç noktada değerlendirildiğinde yalnızca (s_i) zamanına kadarki bilgi kullanılır; bu nedenle geleceğe bakmayan non-anticipating özelliğe sahiptir

  • Itô lemması

    • Olağan kalkülüsün zincir kuralı (f(t,W(t))) için şöyledir
    • [
    • df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW
    • ]
    • Brown hareketinin kaba yapısı nedeniyle Taylor açılımında ikinci dereceden terim kaybolmaz
    • [
    • df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}(dW)^2+\text{smaller terms}
    • ]
    • (dt^2) ve (dt,dW) kaybolur, ancak ((dW)^2\approx dt) kalır
    • Bu nedenle Itô lemması şu biçimi alır
    • [
    • df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}dt
    • ]
    • Ek terim (\frac12\frac{\partial^2 f}{\partial W^2}dt), Brown hareketinin ikinci dereceden etkisi nedeniyle ortaya çıkar
    • (f(W)=W^2) olduğunda hesap şöyle yapılır
    • [
    • d(W^2)=2W,dW+dt
    • ]
    • [
    • W(t)^2=\int_0^t2W(s)dW(s)+t
    • ]
    • (t) terimi (E[W(t)^2]=t) ile uyumludur; integral terimi ise ortalaması 0 olan rastgele bileşendir

Stokastik diferansiyel denklemlerle modelleme

  • Itô kalkülüsü, Brown hareketine ilişkin integral ve zincir kuralı sağladığından, rastgelelik ile trendin birlikte bulunduğu sistemler stokastik diferansiyel denklemler (SDE) ile modellenebilir
  • Genel bir SDE şöyledir

[ dX(t)=a(t,X(t))dt+b(t,X(t))dW(t) ]

  • Her terimin anlamı şöyledir
    • (X(t)): Zamana göre değişen büyüklük
    • (a(t,X(t))dt): drift, sistematik kısım
    • (b(t,X(t))dW(t)): diffusion, Brown hareketinden gelen rastgele bozucu etki
  • SDE'nin çözümü sabit bir eğri değil, her çalıştırmada farklı olan rastgele bir yoldur; istatistiksel örüntüleri analiz edilebilir

  • Genel biçimli Itô lemması

    • (dX=b(t,X(t))dt+\sigma(t,X(t))dW) için (f(t,X(t)))'nin Itô lemması şöyledir
    • [
    • df=(f_t+bf_X+\frac{1}{2}\sigma^2f_{XX})dt+\sigma f_XdW
    • ]
    • (dX=O(dW)) ve (dX^2=O(dW^2)) düzeyine kadar hesaba katılarak türetilir

  • drift ve diffusion

    • drift (a(t,X)) ortalama yönü belirler; diffusion (b(t,X)) rastgele dalgalanmanın şiddetini belirler
    • (b=0) ise olağan diferansiyel denklem olur; (a=0) ise ölçeklenmiş Brown hareketi olur
    • Basit durumda şöyle yazılabilir
    • [
    • dX(t)=\mu dt+\sigma dW(t)
    • ]
    • (X(0)=0) ise çözüm şöyledir
    • [
    • X(t)=\mu t+\sigma W(t)
    • ]
    • (W(t)\sim N(0,t)) olduğundan şu dağılım elde edilir
    • [
    • X(t)\sim N(\mu t,\sigma^2t)
    • ]
    • Bu, zamanla doğrusal olarak drift eden ve gürültünün yayıldığı bir süreçtir; istikrarlı büyüme ve oynaklığa sahip hisse senedi gibi modellerin temel biçimidir

  • Geometrik Brown hareketi

    • Değişimin büyüklüğe orantılı olduğu sistemlerde geometrik Brown hareketi (GBM) kullanılır
    • [
    • dS(t)=\mu S(t)dt+\sigma S(t)dW(t)
    • ]
    • (\mu S(t)) orantılı drift, (\sigma S(t)) orantılı gürültüdür
    • (\frac{dS}{S}=\mu dt+\sigma dW), trend ve rastgelelik içeren oransal değişimdir
    • (f=\ln S) alınıp Itô lemması uygulandığında şu elde edilir
    • [
    • d(\ln S)=\left(\mu-\frac12\sigma^2\right)dt+\sigma dW
    • ]
    • İntegral alındığında şu çözüm elde edilir
    • [
    • S(t)=S(0)\exp\left(\left(\mu-\frac12\sigma^2\right)t+\sigma W(t)\right)
    • ]
    • Drift'in (-\frac12\sigma^2) kadar düzeltilmesinin nedeni gürültünün ikinci dereceden etkisidir; bu biçim finans alanındaki Black-Scholes modelinin temelidir
    • GBM gibi analitik çözümler istisnadır; çoğu SDE için sayısal simülasyon veya Fokker-Planck gibi denklemler üzerinden istatistiksel analiz gerekir

Stratonovich kalkülüsü

  • Itô lemması ikinci türev terimi içerdiğinden hesaplamayı zahmetli hâle getirebilir
  • Stratonovich kalkülüsü, stokastik integralin değerlendirme noktasını değiştirerek olağan kalkülüsün zincir kuralını korur
  • Itô integrali her aralığın sol uç noktasını kullanır; Stratonovich integrali ise orta nokta değerlendirme kuralını kullanır
  • Genelleştirilmiş değerlendirme noktası şöyle yazılabilir

[ \int_0^T f(X(t))\diamond dW

\lim_{n\to\infty}\sum_{i=0}^{n-1} f(X(t_i)+\lambda\Delta X(t_i,t_{i+1})) \Delta W(t_i,t_{i+1}) ]

  • Deterministik kalkülüste (O(dX^2)\to0) olduğundan değerlendirme noktası seçimi önemli değildir; ancak stokastik kalkülüste (O(dW^2)\to O(dt)) olduğundan değerlendirme noktası önemlidir
  • Zincir kuralı (df=f_X\circ dX)'i korumak için Taylor açılımı karşılaştırmasında (\lambda=\frac12) gerekir
  • Bu nedenle Stratonovich integrali şöyle tanımlanır

[ \int_0^T f(X(t))\circ dW

\lim_{n\to\infty}\sum_{i=0}^{n-1} f\left(\frac{X(t_i)+X(t_{i+1})}{2}\right) \Delta W(t_i,t_{i+1}) ]

  • Itô ve Stratonovich dönüşümü

    • Aynı stokastik sürecin aşağıdaki iki biçimde verildiğini varsayalım
    • [
    • dX=adt+bdW=\tilde a dt+b\circ dW
    • ]
    • Drift terimleri şu ilişkiye sahiptir
    • [
    • a=\tilde a+\frac12 b_Xb
    • ]
    • Difüzyon katsayısı (b) aynıdır; ancak Itô ve Stratonovich gösterimleri arasında drift fonksiyonu değişir

Stratonovich yaklaşımının kullanıldığı bağlamlar

  • Stratonovich kalkülüsü, orta nokta değerlendirme kuralıyla Itô'nun sol uç nokta yaklaşımından farklı bir stokastik integral oluşturur; belirli fiziksel sistemlere veya hesaplama kolaylığına uygundur
  • Fizikteki çarpımsal gürültüde, duruma bağlı gürültüye sahip sönümlü osilatör şöyle yazılabilir

[ dX=-kXdt+\sigma X\circ dW ]

  • (f(X)=\ln X) için Stratonovich zincir kuralı uygulanırsa şu elde edilir

[ d(\ln X)=-kdt+\sigma\circ dW ]

[ X(t)=X(0)e^{-kt+\sigma W(t)} ]

  • Wong-Zakai teoremi, biraz düzgün gerçek dünya gürültüsünü beyaz gürültü limitine götürdüğümüzde Stratonovich SDE'nin ortaya çıktığını ifade eder
  • Stokastik kontrolde (dX=(aX+u)dt+\sigma X\circ dW) gibi sistemlerde Stratonovich kuralları klasik kontrol sezgisiyle uyumlu olduğundan kontrol girdisi (u(t)) tasarımını basitleştirebilir
  • Biyolojik difüzyonda (\sigma(X)=\sqrt{2D(1+kX^2)}) gibi konuma bağlı gürültü içeren modellerde Stratonovich fiziksel korunum yasalarını yansıtır
  • Sayısal simülasyonda Stratonovich orta nokta yöntemiyle iyi uyuşur; kimyasal reaksiyon kinetiği gibi modellerde sayısal yapay etkileri azaltmak için kullanılabilir
  • Seçim ölçütü bağlama göre değişir
    • Stratonovich, gürültünün fiziksel süreklilik veya simetriyle bağlantılı olduğu sistemlere uygundur
    • Itô, gelecekteki bilgiyi kullanmayan non-anticipating özelliği nedeniyle finansta baskın olarak kullanılır
    • Dönüşüm formülü (a=\tilde a+\frac12bb_X) kullanılarak iki gösterim arasında geçiş yapılabilir

İlgili okumalar

1 yorum

 
GN⁺ 2025-02-25
Hacker News yorumları

  • İleri düzey lisans/yüksek lisans seviyesinde matematik bilgisi olan okurlar için bu stokastik kalkülüse giriş materyali faydalıydı: https://almostsuremath.com/stochastic-calculus/

  • Stokastik kalkülüsün, olası olay akışlarını çok sayıda simüle etmek için bilgisayar gerektiren bir alan mı olduğunu, yoksa dW’nin dağılımını bildiğimizde önemli nihai çıktıyı ve olasılık dağılımını daha zarif matematiksel yöntemlerle çözmenin mümkün olup olmadığını merak ediyorum
    Bu yazı harikaydı; daha önce de stokastik kalkülüs görmüştüm ama bu kez ilk defa gerçekten anlamaya başladığımı hissettim

    • Soruyu daha doğrudan yanıtlarsak, genelde yalnızca basit dağılımlar hakkında basit sorular için analitik cevaplar elde edilebilir
      Problem karmaşıksa ya da dağılım karmaşıksa, veya ikisi birden öyleyse, sayısal yöntemler gerekir. Bu mutlaka Monte Carlo gibi çok sayıda simülasyon çalıştırmanız gerektiği anlamına gelmez; o yöntem de makul olsa da maliyetlidir
      Belirli olasılıklara ilişkin daha doğrudan sorular Monte Carlo olmadan da yanıtlanabilir. Fokker-Planck denklemi, çeşitli Monte Carlo dışı yöntemlerle çözülebilen bir kısmi diferansiyel denklemdir; nadir olay simülasyonlarında ortaya çıkan yarı-potansiyeller ve komütör fonksiyonları da “doğrudan” hesaplanabilir. Temel zorluk, bu nesnelere standart sayısal yöntemler uygulandığında boyut lanetiyle karşılaşılmasıdır. Yüksek boyutta, hatta sonsuz boyutta bunları iyi hesaplama yöntemleri uygulamalı matematiğin çok sıcak bir araştırma alanıdır. Kişisel olarak, matematik gerçek fiziksel uygulamalarla temiz biçimde örtüşmediği sürece bunların çoğunu zaman kaybına yakın görüyorum
    • Ne hesaplamak istediğinize bağlı, ama genel olarak bir stokastik diferansiyel denklem (SDE) çözümünün t anındaki olasılık yoğunluk fonksiyonu, zamanda birinci dereceden, uzayda ikinci dereceden bir kısmi diferansiyel denklemi sağlar
      Fizikçiler buna Fokker-Planck denklemi, matematikçiler Kolmogorov forward equation der. Özel istisnalar dışında kesin analitik çözüm yoktur ve sayısal çözüm gerekir. Ancak yüksek boyutta kısmi diferansiyel denklemi çözmenin maliyeti çok yüksek olduğundan, SDE’yi çözüp Monte Carlo örneklemesi yapmak daha ucuzdur
      Rastgele bir olay gerçekleştiğinde çözümün ne olduğu gibi başka türden sorular da olabilir; benzer mantık geçerlidir. Ayrıca stokastik kalkülüs SDE’lerle uğraşırken çok kullanışlıdır, fakat başka tür Markov süreçleriyle veya Markov olmayan süreçlerle ilgileniyorsanız başka araçlar gerekebilir
      Diğer yorumda belirtildiği gibi özel durumlarda SDE’nin kendisinin de kesin çözümü olabilir, ancak genelde durum böyle değildir
      Bu açıklama, zorlayıcı terim olarak Gauss beyaz gürültüsünün girdiği diferansiyel denklemler olan SDE’lerle sınırlıdır. Markov sıçrama süreçleri gibi başka stokastik süreçlerde dağılımın evrim denkleminin biçimi farklıdır, ancak Chapman-Kolmogorov denklemi gibi genel ilkeler kısmen ortaktır
    • Bazı basit stokastik diferansiyel denklemler integraller ya da basit adi diferansiyel denklemler gibi analitik olarak açık çözümler verebilir. Klasik Black-Scholes denklemi buna örnektir
      Daha karmaşık denklemler genelde bu şekilde çözülemez. Çoğu zaman istenen şey, belirli bir andaki stokastik süreç fonksiyonunun beklenen değeridir; bu beklenen değerin belirli bir deterministik kısmi diferansiyel denklemi izlediği gösterilebilir. Sonrasında sorun sayısal kısmi diferansiyel denklem çözücülerle çözülür
      Boyut yüksekse veya süreç yola güçlü biçimde bağımlı olup Markovyen değilse, sonunda “olası birçok olay akışını” gerçekten simüle eden Monte Carlo simülasyonu kullanılır
    • Eskiden stokastik kimyasal reaksiyon simülasyonu tarafında çalışmıştım; yanıtın çoğu zaman “evet” ama her zaman değil olduğunu düşünüyorum
      Örneğin rastgele yürüyüşün normal dağılıma dönüştüğünü, ortalama ve varyansın sonsuza gittiğini de bilebiliriz; bu yüzden yalnızca girdiden zaman içindeki varyans fonksiyonunu belirleyebildiğimiz, zarif bir analitik çözüme götüren bir durum olarak anlıyorum
      Ancak birçok durumda analitik çözüm yoktur ve stokastik algoritma çalıştırmak gerekir. Basit stokastik kimyasal kinetikte Gillespie algoritması buna örnektir
    • Bilmek istediğiniz şeye bağlı. Birkaç yörünge elde etmek istiyorsanız stokastik diferansiyel denklem simülasyonu gerekir
      Yalnızca yolların istatistiklerini bilmek istiyorsanız, birçok durumda bir kısmi diferansiyel denklem olan Fokker-Planck denklemini kurup çözerek yol yoğunluğunu elde edebilirsiniz

  • Bir sonraki adımda, sistemin sönümlü momentuma sahip olduğu ve gürültünün momentuma girdiği Langevin Dynamics var
    Bu, moleküler dinamik simülasyonlarında da Bayesian MCMC örneklemesinde de kullanılabilir
    Tuhaf biçimde, AI bağlamında Langevin Dynamics’ten bahsedilirken momentum kullanımının çoğu kez çıkarıldığını gördüm. Oysa AI’da momentumlu gradyan inişi yaygın olarak kullanılıyor. Daha da kafa karıştırıcı olan, “stokastik” sözcüğünün her adımda verinin bir alt örneklemiyle gradyanı yaklaşık hesaplamak anlamında da kullanılması. İsterseniz iki tür rastgeleliği aynı anda da uygulayabilirsiniz

    • Langevin’in momentumlu karşılığı underdamped Langevin olarak bilinir ve ayrıklaştırma yöntemi yeterince optimize edilirse sıradan Langevin’den daha hızlı yakınsar
      AI tarafında neden daha az kullanıldığını tam bilmiyorum, ama AI uygulamalarının dışbükey olmaması sorun çıkarıyor gibi görünüyor. Log-konkav ortamda bile örnekleme zaten yeterince zor bir problemdir

  • Stokastik kalkülüs konusunda kişisel olarak sevdiğim kaynak Eugene Wong’un Stochastic Processes in Information and Dynamical Systems, McGraw-Hill, New York, 1971 kitabıdır

    • Eski bir kitap ama çok açık yazıldığını düşünüyorum; girişteki ölçü kuramı açıklaması bile tek başına yeterince değerliydi

  • Olasılık kalkülüsünü çalıştığım günler aklımda kalmış
    Genel istatistikteki standart sapma ile ikinci dereceden varyasyonun varyans hesaplama yönteminden biraz farklı olduğunu not ettiğimi de hatırlıyorum. 1 fark olması ya da karesinin farklı olması gibi bir şeydi; bir gün nedenini araştırmak için not almıştım. Belki de stokastik değişkenlik yüzündendir

    • Tüm popülasyonun varyansı şöyle tanımlanır: sum i=1..N (x_i - mu)^2 / N
      Burada ortalama mu := sum x_i / N, popülasyonun gerçek ortalamasıdır
      Buna karşılık bir dağılımdan bağımsız ve aynı dağılıma sahip n örneklem alındığında, dağılım varyansı için en iyi tahmin edici sum i=1..n (x_i - a )^2 / (n-1) olur
      Burada ortalama mu, örneklem ortalaması a := sum x_i / n ile değiştirilir ve N yerine n-1'e bölünür. “En iyi”, yansız tahmin edici anlamına gelir; ikinci ifadenin beklenen değerinin popülasyon varyansı olduğu, sıkıcı ama zor olmayan bir hesapla doğrulanabilir
    • Örneklem varyansını düşünüyorsak iki şekilde yaklaşılabilir
      Birincisi, örneklem varyansı sum(x_i) / n olan örneklem ortalamasına bağlıdır. n örnekten ilk n-1 tanesini biliyor ve örneklem ortalamasını da biliyorsanız son değer belirlenir; bu nedenle en azından n-1'i serbestlik derecesi olarak anlayabiliriz. Daha yüksek örneklem momentleri de benzer bir serbestlik derecesi mantığıyla kabaca anlaşılabilir, ama yanlış da olabilir
      İkincisi, daha matematiksel bir yaklaşımla biased_sample_variance = sum((x_i - sum(x_i) / n)^2) / n olur. Birçok örneklem kümesi üzerinde bu yanlı örneklem varyansının ortalaması popülasyon varyansı değil, (n - 1) / n * population_variance olur. Dolayısıyla n / (n - 1) ile çarpınca yansız örneklem varyansı sum((x_i - sum(x_i) / n)^2) / (n - 1) elde edilir. Akışına kapılınca bu matematik oldukça eğlenceli

  • Yakın zamanda şöyle bir örnekle karşılaştım. Bir “oyun” oynadığımızı varsayalım. 0 ile 1 arasında düzgün dağılımdan rastgele bir A sayısı çekiyoruz, ardından aynı dağılımdan ikinci bir B sayısı çekiyoruz
    A > B ise B'yi yeniden çekiyoruz, A aynı kalıyor. Gerekli ortalama çekiliş sayısı, yani A'nın ortalama “galibiyet serisi” kaçtır?
    Cevap sonsuz. Çünkü bazen A aşırı yüksek gelir ve onu geçmek için milyonlarca çekiliş gerekebilir

    • Hesap şöyle. A'dan çekilen değer p ise, B'yi bir kez çektiğimizde B > A olma olasılığı (1-p) olur
      Dolayısıyla B'nin n kez çekildikten sonra A'dan küçük ya da ona eşit gelme olasılığı p^(n-1) (1-p) olan bir geometrik dağılım olur. Beklenen çekiliş sayısı 1/p ve E[draws] = E[E[draws|A=p]] = \int_0^1 E[draws|A=p] dp = \int_0^1 (1/p) dp olduğundan, söylendiği gibi sonsuza ıraksar
      Şüphelendiğimden değil, hesabı görmek istemiştim
    • İlgilenenler için bunun https://en.wikipedia.org/wiki/St._Petersburg_paradox örneği olduğunu düşünüyorum
    • Sorunun ifade edilişinde “yeniden çekmek” yalnızca B'ye mi uygulanıyor, yoksa A da yeniden mi çekiliyor, belirsizdi. Sonsuz cevabının yalnızca ilk durum için geçerli olduğunu mu varsaymalıyız?
    • Bunu kanıtlamak için gerçekten olasılık kalkülüsü gerekir mi? Sabit bir A için gereken örnek sayısının beklenen değerinin 1/(1-A) olduğu gerçeğine dayanan standart bir integral yeterli gibi görünüyor

  • HN okurlarına bir soru. Fare genomunda ölüm oranını düzenleyen DNA farklılıklarını içeren yaklaşık 50 konum (loci) tanımladık; bunların çoğu karmaşık, yaşa bağlı aktüeryal etkilere sahip.
    Ölüm yaşını tahmin etmek istiyorum; farelerin beklenen yaşam süresine yönelik aktüeryal tahminlerde stokastik kalkülüs yararlı bir yaklaşım olur mu? Bu yüzden bu yazının HN’de üst sıralara çıkmasına sevindim.

    • Stokastik kalkülüs, tıpkı sıradan kalkülüs gibi, bir zaman noktası ile başka bir zaman noktası yalnızca birkaç durum değişkeni bakımından farklı olup birbirine benzer olduğunda en yararlıdır; zaman noktalarının niteliği büyük ölçüde değişiyorsa daha az yararlı olur.
      Soruların sayısı, yani loci sayısı, zamanı makul biçimde bölebileceğiniz aralık sayısına benziyor. Fare ömrünün 1/50’si kadar ölüm zamanını değiştiren bir etki, yanılmıyorsam, tespit edilmesi zor olurdu. Zaman aralıkları da çok değil, durum değişkenlerinin etkileşimine dair bir model de yok; bu yüzden modelsiz istatistik yöntemleri kullanacaksınız ve kesikli yöntemlerden elde edilebilecek değerin neredeyse tamamını zaten elde edebileceğinizi düşünüyorum.
    • Genlerin varlığını/yokluğunu basit bir 0-1 değişkeni olarak alıp L1 düzenlileştirmeli regresyon uygularım. L1 düzenlileştirme bu problemin yüksek boyutluluğunu ele almaya yardımcı olur: https://en.wikipedia.org/wiki/Lasso_(statistics)
      Hedef yaş olduğu için altta yatan dağılımın Gauss dağılımı olduğunu varsaymazdım. Bu değişiklik düşündüğünüz kadar zor değil: https://en.wikipedia.org/wiki/Generalized_linear_model
      Her zamanki gibi, yakınınızdaki bir istatistikçiye danışmak iyi olur.
    • “Hayır” diye kesin konuşmaya hazır değilim ve uygulamaya bağlıdır; ama açıklamaya bakınca graf tabanlı Bayesian istatistik bu işe daha uygun görünüyor.
    • Stokastik kalkülüs, çıktının düzgün bir gerçek sayı değeri olduğu sistemlerle uğraşıyormuş gibi görünüyor. Temelde her aralıkta rastgele biraz yukarı aşağı hareket eden random walk benzeri sistemleri modellemek için kullanılır.
      Ama baktığınız şey zamana karşı hayatta kalma/ölüm ise çıktı ikili bir değerdir ve gerçekte elde ettiğiniz bilgi yalnızca ölüm zamanıdır; bu yüzden bir random walk modeline gerek yok ya da böyle bir model istenmez gibi, daha genel bir istatistik modeli daha uygun görünüyor. Ölüm durumu dışında ölçtüğünüz başka değişkenler varsa olasılıksal bir model yardımcı olabilir.
      Ayrıca 50×X baytlık bilginin tamamının beklenen yaşam süresini etkilediğini kastediyorsanız bu zor bir problem; ama çok sayıda kesikli girdi ve tek bir düzgün çıktı olması bakımından sinir ağlarına oldukça uygun. Hem sinir ağını hem de doğrusal modeli deneyip sinir ağının ne kadar daha iyi olduğuna bakarsanız, doğrusal olandan daha karmaşık etkileşimlerin gerçekleşip gerçekleşmediğini değerlendirebilirsiniz.
    • Eğer gözden kaçırdıysanız, tam da bu soruya yanıt vermek için https://en.m.wikipedia.org/wiki/Survival_analysis var.
      Pratik bir yaklaşımla zamanı kesikleştirir ve “o ana kadar hayatta kalmış olma koşuluyla X’inci ayda ölme olasılığını” tahmin edecek şekilde klasik makine öğrenmesini veriye uydururdum. Böylece verideki hataları ve olası sorunları bulmak çok daha kolay olur.
      Stokastik kalkülüsü ya da kapsamlı bir sağkalım analizini ancak hafızasızlık gibi mevcut matematiksel özellikler ile belirli bir proteinin davranışı gibi fiziksel/biyolojik özellikler arasındaki bağlantıyı kanıtlamak ya da buradan sonuç çıkarmak istediğimde seçerdim. Çok havalı olurdu ama epey zor; özellikle de veri sınırlıysa daha da zor. Finans makalelerinde stokastik analizin kullanılma biçimini de kabaca böyle anlıyorum: sistemin bazı evrensel matematiksel özellikleri hakkında varsayımda bulunup bunun gerçek veriye uyduğunu kanıtlamak gibi.

  • Itô kalkülüsüne dair anlayışım şöyle: Başta anladığımız tek rastgele süreç Brownian motion ve neyse ki koordinatları değiştirebiliyoruz.

      1. maddeyi biraz daha açabilir misin?

  • Yeni başlayanlara uygun bir giriş yazısının nasıl yazılması gerektiğini gösteren gerçekten iyi bir model.
    Özellikle normal kalkülüste kaybolan dW^2 teriminin hâlâ önemli kaldığını göstererek Itô lemması için motivasyonu açıklayan kısım ve Stratonovich’e dönüştürme bölümü çok iyi.

  • Şu cümleyi nasıl okumam gerektiği konusunda yardım istiyorum: “Brownian motion and Itô calculare a notable example of fairly high-level mathematics that are applied to model the real world”
    “Itô calculare” ne olmalıydı bilmiyorum. “Its calculation” mı?