Entropi Nedir?

 (johncarlosbaez.wordpress.com)
2 puan yazan GN⁺ 2024-07-24 | 1 yorum | WhatsApp'ta paylaş

Önsöz

  • Bir zamanlar Twitter adlı bir platform vardı ve insanlar kısa mesajlar alışverişinde bulunuyordu. Bu platform üzerinden entropi hakkında kısa bir ders verdim ve bunu genişleterek küçük bir kitaba dönüştürdüm.
  • Entropi, belirli bir durum hakkında bilmediğimiz bilgi miktarını ifade eder. Bunu nicel olarak açıklamak için çeşitli konular ele alınıyor:
    • bilgi
    • Shannon entropisi ve Gibbs entropisi
    • maksimum entropi ilkesi
    • Boltzmann dağılımı
    • sıcaklık ve soğutma
    • entropi, beklenen enerji ve sıcaklık arasındaki ilişki
    • eşbölüşüm teoremi
    • bölüm fonksiyonu
    • beklenen enerji, serbest enerji ve entropi arasındaki ilişki
    • klasik harmonik osilatörün entropisi
    • kutu içindeki klasik parçacığın entropisi
    • klasik ideal gazın entropisi
  • Termodinamiğin ikinci yasası (entropi her zaman artar) ele alınmıyor. Bu, başlı başına başka bir kitap gerektirecek kadar karmaşıktır.
  • Kuantum mekaniğine mümkün olduğunca az değinmeye çalıştım, ancak Planck sabiti klasik sistemlerin entropi formülünü tanımlamak için gereklidir.
  • Matematiksel bir fizikçi olarak kavramları kesinleştirmeye ve tuhaf karşı örnekler bulmaya çok zaman harcıyorum. Önemli içerikler kutuların içinde yer alıyor.

GN⁺ Özeti

  • Bu kitap, entropiyle ilgili temel kavramları kolay anlaşılır biçimde açıklama denemesi olup bilgi teorisinden başlayarak istatistiksel mekaniğe ve termodinamiğe uzanıyor.
  • Entropi 'düzensizlik' olarak tanımlanmıyor; bunun yerine, bilmediğimiz bilgi miktarı olarak açıklanıyor.
  • Klasik sistemlerin entropisini açıklamak için kuantum mekaniğinin en temel kavramları kullanılıyor.
  • Fiziği daha derinlemesine anlamak isteyenler için yararlı; özellikle istatistiksel mekanik ile bilgi teorisi arasındaki ilişkiyi kavramaya yardımcı oluyor.
  • Benzer işleve sahip diğer projeler arasında "Theoretical Minimum" serisi bulunuyor.

İlgili okumalar

1 yorum

 
GN⁺ 2024-07-24
Hacker News görüşleri

  • Shannon'ın bilgi teorisinde 'belirsizlik'i neden 'entropi' olarak adlandırdığına dair bir anekdot var

    • John von Neumann 'entropi' terimini önermiş
    • Entropi istatistiksel mekanikte zaten kullanılıyordu ve tartışmalarda avantaj sağlıyordu

  • Shannon entropisinin gözlemciye bağlı öznel bir nicelik olduğunu anlamak önemli

    • X değişkeninin entropisi, gözlemcinin belirsizliğini 0'a indirmek için gereken bilgi miktarıdır
    • Gözlemciler farklı bilgilere sahip olabileceğinden belirsizlikleri de farklı olabilir

  • İstatistiksel mekanikte entropi, bir sistemin düzenlenebileceği yolların logaritması olarak açıklanır

    • Bunu zar atışlarının çiftleri üzerinden düşünmek daha kolaydır

  • Bilgi teorisinde entropi, bir sıkıştırma algoritmasının bir dosyayı tam olarak temsil etmek için ihtiyaç duyduğu bit sayısı olarak açıklanır

    • Tekrarlayan girdilerin entropisi düşüktür, bu yüzden iyi sıkıştırılırlar

  • PBS Spacetime'ın entropi oynatma listesi var

  • Ayrık olasılık dağılımının entropisini histogramlarla açıklayan yaklaşım tercih ediliyor

    • Çok sayıda top rastgele atıldığında, histogram gibi bir dağılım ortaya çıkma olasılığı ölçülür
    • P dağılımından N top atıldığında, histogramın P ile aynı olma olasılığı 2^(-N * [log(k) - H(P)]) şeklindedir
    • En yüksek entropi uniform dağılımda görülür

  • 'Entropy Demystified' kitabı entropinin ikinci yasasını açıklıyor

  • John Baez'in yazısı lisans eğitiminde büyük keyif vermiş

  • Entropiyi, bir sistem hakkında teorik olarak bilinebilecek bilgi miktarı olarak açıklayan yaklaşım beğeniliyor

    • Kopenhag yorumuyla etkileşimin anılmamış olmasına şaşırılmış

  • Bilgi entropisi, bilginin ne kadar verimli iletilebileceğine dair katı bir alt sınırdır

    • Entropi olasılık dağılımı kullanılarak hesaplanır