15 puan yazan GN⁺ 2024-01-16 | 11 yorum | WhatsApp'ta paylaş
  • AWS maliyetlerini azaltmak için bare metal bir Kubernetes kümesi kuruldu ve 10Gbps ağ yapılandırıldı
  • USB4 Ethernet bridge tabanlı ağ yapısıyla geleneksel Ethernet switch ve kabloların yerini alma denemesi yapıldı
  • Ağ hızı 11Gbps'ye ulaştı, ancak kurulum maliyeti yalnızca 47,98 dolardı

Standart 1U sunucuya karşı mini PC

  • Bare metal küme kurarken hangi makine türünün kullanılacağı değerlendirildi
  • İkinci el 1U sunucular ucuz olsa da işletim maliyetleri düşünüldüğünde verimsiz bulundu
  • Mini PC'ler ucuz, sessiz ve düşük güç tüketimine sahip
  • Düşük güç tüketimiyle (boşta 6W, tam yükte 80W) Venus UM790 Pro mini PC seçildi
    • AMD Ryzen 9 7940HS CPU + 64GB bellek + 1T depolama ile 779 dolar gibi uygun bir fiyata sahipti

Ağ yapısı

  • İki UM790 Pro mini PC daha eklenerek yapı 3 düğümlü kümeye genişletilmeye karar verildi
  • Ceph depolama sistemi kurulduktan sonra düğümler arasında daha iyi ağ bağlantısına ihtiyaç doğdu
    • Cihazlarda 2.5G ağ portu bulunsa da ayrıca bir Ethernet switch satın almak gerekiyordu
  • Cihazlarda ikişer adet bulunan USB4 portları kullanılarak 40Gbps hız olasılığı değerlendirildi
  • USB4 kablolarıyla tam örgü ağ kurularak 2.5G Ethernet switch satın alma maliyetinden tasarruf edildi

NixOS ve Systemd ile örgü ağ yapılandırması

  • Linux OS ortamını yeniden üretilebilir biçimde yapılandırmak için NixOS kullanıldı
  • systemd-udevd ile Thunderbolt bridge ağ aygıtları yapılandırıldı ve IP ayarları yapıldı

Benchmark sonuçları

  • iperf3 benchmark sonuçları ağ hızının 11Gbps olduğunu doğruladı

Son değerlendirme

  • Düşük maliyetle 11Gbps ağ kurabilmiş olmaktan memnuniyet duyuldu
  • USB4 tabanlı ağın hız sınırlamasının neden kaynaklandığı merak konusu oldu
  • USB/Thunderbolt tabanlı yüksek hızlı ağ kurulumlarının gelecekteki potansiyeli araştırıldı

GN⁺ görüşü:

  • Bu yazı, yazılım mühendislerinin donanım bilgisini genişletmesinin önemini vurguluyor. Özellikle düşük maliyetle yüksek hızlı ağ kurmaya yönelik yaratıcı bir yaklaşım sunarak mevcut ağ yöntemlerine yeni bir alternatif öneriyor.
  • USB4 teknolojisiyle ağ kurmanın, mevcut Ethernet tabanlı çözümlere kıyasla daha maliyet verimli olup yüksek hız sağlayabildiğini gösteriyor. Bu da gelecekte küçük ölçekli veri merkezleri veya bireysel kullanıcılar için cazip bir seçenek olabilir.
  • NixOS gibi araçlarla ağ yapılandırmasını otomatikleştirme ve yeniden üretilebilir hale getirme yöntemi, sistem yöneticileri ve geliştiriciler için faydalı bilgiler sunuyor.

11 yorum

 
aster 2024-01-19

Bunu tam anlamıyla toplu alım sanmıştım..

 
pmc7777 2024-01-18

Oldukça dolu dolu hazırlanmış... kıskandım doğrusu

 
bus710 2024-01-18

TB4/USB4 üzerinden IP ile dosya aktarımını gayet iyi kullanıyorum, gerçekten çok hızlı haha

 
bus710 2024-01-18

thinderbolt-tools, bolt paketlerini kurup sürücüler de düzgün yüklüyse, nmcli ile arayüzü yapılandırıp ssh veya scp gibi araçlarla tıpkı Ethernet bağlantısı gibi kolayca kullanılabiliyor.

Intel cihazlar ve Mac cihazlarda büyük bir sorun olmadı, ancak AMD tarafında tam çalışmayan bazı cihazlar olabilir.

 
kuroneko 2024-01-22

Bunu bilseydim Intel CPU seçerdim... :(

 
kuroneko 2024-01-17

Şey... İki PC'yi USB4/Thunderbolt ile doğrudan bağlayınca Ethernet olarak mı görülüyor?

Şu anda NAS ile PC arasında 10Gbps bağlantı kurmak için her türlü planı yapıyordum
(10G destekleyen iki ağ kartı alıp birbirine doğrudan bağlamayı düşünüyordum)

Bir anda bütün hevesim kaçtı.

Yoksa USB4/Thunderbolt destekleyen bir anakarta mı geçmem gerekiyormuş...

 
kuroneko 2024-01-17

HN'de göz ucuyla görüp geçerken pek önemsememiştim,
ama burada görünce içerik bir anda dikkatimi çekti;

Her neyse, sayenizde çözüm görünmüş oldu...

Dezavantajı varsa o da NAS ile PC'nin birbirine yakın olması gerekecek olması.
USB4 kablosu en fazla yaklaşık 3 m olduğundan... (Ethernet kablosunun en fazla 100 m olmasıyla kıyaslayınca)

 
molla 2024-01-19

Mesafe kısıtları düşündüğünüzden daha ciddi.
USB-C kablo standardı, yalnızca 1 m ve altındaysa 10 Gbps desteği sunuyor. (USB-C veri kablolarının kısa olmasının nedeni bu.)
2 m ve altındaysa 5 Gbps destekleniyor, bunun üzerindeyse USB 2 destekleniyor.
Doğrudan Thunderbolt tarafına geçerseniz aktif kablo kullanarak mesafeyi artırabilirsiniz, ancak aktif kabloların fiyatı da inanılmaz yüksek ve USB4 ile uyumlu olup olmadıklarından da pek emin değilim.

 
kuroneko 2024-01-22

Aha... Demek piyasadaki 3 m'lik USB4 kabloların düzgün hız verememe ihtimali yüksek.
Bunu tam olarak araştırıp öyle hareket etmem gerekecek. AMD CPU kullandığım için Thunderbolt kullanmak da zor 😢

 
GN⁺ 2024-01-16
Hacker News görüşleri
  • USB4/Thunderbolt protokolü hakkında tartışma:

    • USB4/Thunderbolt, adeta sihirli bir protokol olarak görülüyor; modern PC'ler arasında veri taşımanın en hızlı yolu, Thunderbolt portlarını bir USB-C kablosuyla bağlamak.
    • Bu bağlantı Windows'ta bir Ethernet portu olarak algılanıyor ve SSD'yi doyurabilecek 1GB/s üzeri aktarım hızlarına kolayca ulaşılabiliyor.
    • Intel, CES'te Thunderbolt 4/5 kullanarak cihazlar arasında dosya aktarımı özelliğini sergiledi. Teorik olarak Thunderbolt 4 ve 5 sırasıyla 20Gbps ve 40Gbps hız sunuyor.
    • Yalnızca tek bir Thunderbolt/USB4 denetleyicisi kullanıldığında, iki USB4 portu 40Gbps PCIe hattını paylaştığı için yalnızca 11Gbps elde edilebilmiş olabilir.
  • Ağ yapısına dair açıklama:

    • Yalnızca 3 düğüm varsa buna mesh ağ denmez; gerçek bir halka ağ, 3 veya daha fazla düğüm olduğunda ve bazı hedeflere birden fazla hop üzerinden ulaşılması gerektiğinde oluşur.
    • Mesh ağ, birden fazla yolun mümkün olduğu rastgele noktadan noktaya bağlantılardan oluşan ağı ifade eder.
  • Dell sunucularının güç tüketimi kıyası:

    • Dell r430 sunucusunun güç tüketimi ölçüldüğünde, açılıştan sonra yaklaşık 100 watt, yük altında ise en fazla yaklaşık 220 watt kullandığı görülüyor.
    • Bu, günde 72kWh ve aylık $11.05 maliyet anlamına geliyor; yük altında ise aylık maliyet $24.3'e çıkıyor.
    • Sunucu barındırmanın, istikrarlı internet ve gürültü sorunlarını çözmek için colocation ile yapılması daha iyi olabilir.
  • USB 4'ün hata işleme yeteneği:

    • USB üzerinden büyük miktarda veri aktarılırken nadiren ortaya çıkan veri bozulmalarına karşı USB 4'ün hata işleme yeteneği hakkında bir soru var.
  • Geçmişteki dosya aktarım yöntemleri:

    • MS-DOS bilgisayarlar arasında paralel kabloyla dosya aktarma yöntemine dair anılar paylaşılıyor.
  • Thunderbolt bağlantısının optimizasyonu:

    • Thunderbolt bağlantısında MTU'yu (maksimum aktarım birimi) 9000 olarak ayarlamanın, 1500'e göre daha iyi performans verdiği belirtiliyor.
  • Eski ağ yapılarına dair nostalji:

    • 1990'larda IP-over-SCSI kullanarak 8 PC'yi tek bir SCSI zincirine U320 hızında bağlama deneyiminden söz ediliyor.
  • Thunderbolt hızına ilişkin teknik sorunlar:

    • Thunderbolt hızını etkileyen etkenler olarak kablo, anakartın PCIe hat tahsisi ve sürücü/firmware güncellemeleri anılıyor.
  • Elektrik ücretleri üzerine tartışma:

    • Ortalama konut tipi elektrik ücretinin 15.34 sent/kWh olduğu bilgisi veriliyor, ancak San Francisco'da bunun iki katından daha pahalı bir ücret ödendiğine dair kişisel deneyim paylaşılıyor.
 
cosine20 2024-01-19

Vay be, eski bilgisayarlar paralel kabloyla birbirine bağlanınca veri alışverişi yapabiliyormuş demek???