AWS, S3 sıkıştırmasını gzip'ten zstd'ye geçirerek boyutu yaklaşık %30 azalttı
(twitter.com/adrianco)- Yann Collet'in yaptığı zstd'nin ne kadar gereksiz şeyi azalttığı sorusuna Adrian Cockcroft'un verdiği yanıt
- S3'ün exabyte ölçeğinde %30, muazzam bir maliyet tasarrufu anlamına geliyor
- Twitter'ın da HDFS'de zstd'ye geçerek her yıl yüz milyonlarca won (~ mid 8 figs/yr) tasarruf ettiği belirtiliyor
4 yorum
Uber da GZIP/SNAPPY'den ZSTD'ye geçti.
https://www.uber.com/en-TW/blog/cost-efficiency-big-data/
zstd gerçekten inanılmazmış!
Bağlantıda sıkıştırma performansı karşılaştırma verileri var, paylaşayım.
https://github.com/facebook/zstd
Bugün ilk kez zstd kullandım.
Meğer macOS'ta varsayılan olarak yerleşikmiş.
Sıkıştırma:
zstd file=> file.zstAçma:
unzstd file.zst=> file