DeepSeek’in Yasaklı Nvidia Çipleriyle Yapay Zeka Modeli Geliştirdiği İddia Ediliyor

• Çinli yapay zeka girişimi DeepSeek’in, ABD ihracat yasağına tabi olan Nvidia Blackwell çiplerini kullanarak bir sonraki nesil yapay zeka modelini geliştirdiği bildiriliyor
• The Information ise bu çiplerin, satışına izin verilen üçüncü bir ülkenin veri merkezlerinde sökülüp Çin’e gizlice geri sokulduğunu öne sürüyor
• ABD, ileri düzey yarı iletkenlerin Çin’e ihracatını yasaklıyor ve bazı geliştiriciler bunlara yabancı veri merkezleri veya dolaylı yollar aracılığıyla erişiyor
• Nvidia bu iddiayı “böyle bir faaliyetin doğrulandığını bilmiyoruz” şeklinde yanıtladı ve bir ihbar gelirse soruşturacağını belirtti
• Bu örnek, ABD-Çin teknoloji rekabeti içinde Çinli yapay zeka şirketlerinin yüksek performanslı çip temini için nasıl harekete geçtiğini gösteriyor

---

DeepSeek’in Yasaklı Çip Kullanımı İddiası

• DeepSeek, ABD ihracat yasağı kapsamındaki Nvidia Blackwell çiplerini kullanarak yeni bir yapay zeka modeli geliştirdiğini The Information ile paylaşıldı
  • Bu çiplerin, satışa izin verilen ülke veri merkezlerinde kurulup sonrasında sökülerek Çin’e taşındığı aktarılıyor
  • Bir sunucu ekipmanı üreticisinin denetiminden geçtikten sonra ülkeye getirildiği belirtiliyor
• ABD, bu tür ileri teknoloji yarı iletkenlerin Çin’e ihracatını yasaklıyor
  • Bu nedenle Çin’deki yapay zeka geliştiricilerinin yabancı veri merkezleri veya dolaylı kanallar yoluyla çip edinmeye çalıştığı görülüyor

ABD’nin İhracat Kısıtlamaları ve İlgili Olaylar

• Kasım ayında, ABD savcıları iki Çinli ve iki Amerikalıyı suçladı
  • Onlar, Malaya üzerinden çipleri Çin’e taşımak için bir emlak şirketi kurmuş oldukları iddiasıyla suçlanıyor
• Bu olaylar, ABD’nin yarı iletken ihracat kontrollerini sıkılaştırmasının ardından ortaya çıkan dolanma işlemlerinin bir parçası olarak anılıyor

Nvidia’nın Görüşü

• Nvidia, “bu tür bir kaçakçılık konusunda doğrulanmış bir ihbar almadığını” açıkladı
  • Sözcüsü, “böyle bir kaçakçılık doğruysa oldukça düşük bir ihtimal olsa da, bir ihbar gelirse inceleriz” dedi

DeepSeek’in Arka Planı ve Yapay Zeka Modeli Geliştirme

• DeepSeek, 2024 Ocak ayında Silicon Valley’nin en üst seviye seviyeleriyle rekabet edebilecek bir yapay zeka modelini düşük maliyetle geliştirdiğini açıkladı
  • Şirket, Çinli hedge fonu High-Flyer tarafından finanse edildi ve 2021’de 10.000 adet Nvidia GPU temin ettiği belirtiliyor
  • Bu, ABD ihracat yasağının getirilmesinden önceki bir dönemdi
• 2024 Eylülünde yeni bir modeli duyurdu ve Çin’deki çip üreticileriyle iş birliği yaptığını açıkladı

ABD’nin Son Hamlesi ve Çin’in Tepkisi

• Donald Trump bu haftanın başında Nvidia’nın eski yapay zeka hızlandırıcısı H200 modelinin Çin’e ihracatını onayladı
  • Ancak daha güçlü Blackwell çipleri için ihracat yasağı halen geçerli
• Çin hükümeti, yerli teknoloji şirketlerine yerli ekipman kullanımını artırma çağrısında bulundu
  • DeepSeek de bu doğrultuda Çinli çip üreticileriyle iş birliği yürütmeye devam ediyor

[GN⁺]

Hacker News yorumları

• DeepSeek'in ABD'nin kitlesel yarı iletken ihracat yasağından önce temin ettiği Nvidia çipleriyle modeli eğittiği zaten bilinen bir gerçekti
  Bazıları, sonrasında da gayriresmî kanallarla çip temin etmiş olabileceğini düşünüyor
  Başka bir yerde okuduğuma göre ChatGPT, Claude ve Gemini'nin çıktı verilerini eğitim verisi olarak kullandığı da söyleniyor
  Birbirinden çalınmış verilerin yeniden çalınıp kullanıldığı bir düzende, biraz kaçakçılık pek de şaşırtıcı değil

  • Çinli bir şirketin ABD yaptırımlarını aşmasını ahlaki bir sorun olarak görmenin gülünç olduğunu düşünüyorum
    ABD'nin de bu yaptırımları korumacılık için uyguladığını başkanın kendisi bile kabul etti
  • Hırsızlar arasında onur olmaz
    Anthropic de telif hakkı ihlali nedeniyle 1 milyar dolarlık uzlaşma ödedi; sonuçta tüm modeller insanlığın fikri mülkiyetini ve kişisel verilerini büyük ölçekte gasbederek ortaya çıktı
    Açık modellerin kapalı olanları yeneceği inancını destekliyorum
  • Bu, 'hırsızlık'tan ziyade OpenAI token'larını ücretli olarak satın almak demek
    Ama OpenAI'ın TOS'unda bunun rakip model eğitiminde kullanılmaması gerektiği yazıyor; ironik olan da bu
  • Aslında bunu herkes yapıyor
    Başka modellerin çıktılarının eğitimde kullanılmasına bilgi damıtımı (distillation) deniyor
  • Model çöküşü yaşanmamış olmasına şaşırdığını söyleyenler vardı ama bugünlerde son işleme (post-training) verisi toplamak için bu yöntem çok kullanılıyor
    Eski Grok modeli de zaman zaman yanıtlarına “as a model trained by OpenAI…” diye başlardı

• GamersNexus belgeseli, NVIDIA AI GPU'larının karaborsa yapısını iyi anlatıyor
  DeepSeek gibi şirketlerin ABD ihracat yasaklarını aşarak nasıl çip temin ettiğini ele alıyor

  • Ben de yakın zamanda RTX 4090'ımı eBay'de sattım ve Çin hesaplarından teklif yağdı
    Kazanan hesap Avustralya'ya aitti ama teslimat adresi ABD'nin Delaware eyaletinde sıradan bir evdi ve isim de farklıydı
    Genelde bu tür durumlarda Çinli öğrenciler ya da göçmenler GPU alıp yeniden satıyor deniyor
    Muhtemelen benim 4090'ım da Çin'de VRAM'i modifiye edilmiş bir Frankenstein GPU olarak yeniden doğacak
  • Aslında Alibaba ya da eBay üzerinden komşu ülkelere gönderip oradan Çin'e sokmak çok kolay
    Sınırı geçtiği anda GPU zaten Çin'in içine girmiş oluyor
  • Çin hükümeti buna pek aldırmıyor
    Sadece ülkeye giriş sürecinde 'kaçakçılık' sayılıyor; bir kez Çin içine girdikten sonra yasa dışı değil
    DeepSeek'in böyle GPU'lar kullanması gayet doğal
  • Ama Nvidia çiplerinin tam olarak nerede üretildiğini merak ediyorum

• Yaptırımlar sadece maliyeti biraz artırır, imkânsız hale getirmez
  Elektronik bileşenler de, petrol de, ChatGPT erişimi de sonuçta paranız varsa bulunabiliyor
  Ama bu tür yaptırım altındaki ürünler propaganda aracı olarak da kötüye kullanılabilir
  Mesela Nvidia sürücüsü kurulurken 'Tiananmen olayları' hakkında bir soruya cevap vermek gerekse nasıl olurdu diye düşünüyorum

  • Uyuşturucu bile dünya genelinde yasak olmasına rağmen ABD'ye büyük miktarda girebiliyor; GPU kaçakçılığı ise çok daha kolay ve daha yasal
    Bir kamyon dolusu GPU taşımak, uyuşturucudan çok daha basit
  • Çin'e yaptığım ziyarette Tiananmen olaylarını beklenmedik ölçüde rahat konuşan insanlar görmüştüm
    Ama kamusal platformlarda yasak
    Bu yüzden böyle bir propaganda stratejisinin gerçekte ne kadar etkili olacağı şüpheli
  • Mesele 'biraz maliyet artışı' değil; bence o sürtünmenin kendisi yaptırımın etkisi
    Rusya'nın petrol kaçakçılığı filosunu tamamen durduramasanız da, korku ortamı yaratarak kârlılığı azaltabilirsiniz
  • “Doğru cevap 'öyle bir olay hiç yaşanmadı'” türü bir sansürü hatırlatıyor

• Bloomberg bunu “Çin'de yasaklı çipler” diye ifade etmiş ama
  ABD'nin ihracat yasağı ile Çin içindeki yasak aynı şey değil

  • Bazı çiplerde gerçekten de Çin hükümetinin yerli şirketlerin satın almasını yasakladığı örnekler oldu
    İlgili haber (Al Jazeera)
  • ABD'nin kendi yasalarının tüm dünyada geçerli olduğunu düşündüğü sık görülüyor
    Örneğin torrent sitesi yöneticilerini ya da WikiLeaks'le bağlantılı kişileri yurtdışında yakalatıp iade ettirmeye çalıştığı çok oldu
    Hatta 'düşman savaşçı' denilerek başka ülke vatandaşlarının kaçırılıp işkence görmesini bile meşrulaştırdığı zamanlar oldu

• ABD başka ülkeleri ezmeye çalışmasaydı dünyanın daha iyi bir yer olacağını düşünüyorum

  • “Oyuncudan değil, oyundan nefret et” sözü aklıma geliyor
  • Ama Çin de aynı konumda olsaydı aynısını yapardı
    Büyük güçlerin hepsinde konumunu koruma içgüdüsü var
  • Adil rekabet ideal olurdu ama Çin de kendi içinde yabancı şirketleri bastırıyor
    ABD yaptırımları sadece korumacılık değil, haksız rekabete karşı bir yanıt olarak da görülebilir
  • Hatta bu yaptırımlara harcanan kaynakları Çin balıkçı teknelerinin çevreye verdiği zararı engellemekte kullanmak daha iyi bir yatırım olabilir

• Bu tartışmada bulut erişilebilirliğinden hiç söz edilmemesi tuhaf
  ABD sunucularından H100 kiralamak hiçbir kısıt olmadan mümkündü

  • OpenAI ve Anthropic, bulut sağlayıcılarıyla kurdukları özel ağ yapılarından yararlanıyor
    Sıradan kullanıcıların o düzeyde bir altyapıya erişmesi zor
  • GPU kiralamak kolay ve ucuz olabilir ama büyük ölçekli eğitim için gecikmeyi düşürecek fiziksel olarak yoğun yerleşim gerekir
  • CIA isterse Amazon'un sunucuları anında rootkit ile açacağını düşünüyorum
    Belki yeniden başlatmaya bile gerek kalmaz
  • Ama bunu büyük ölçekte yapmak için ağ katmanı kontrolü ve KYC süreçleri şart
  • DeepSeek'in ihtiyaç duyduğu ölçekte böyle bir bulut erişimini sağlaması pratikte imkânsız görünüyor

• Bu ne şaşırtıcı ne de hiçbir şey olacakmış gibi duruyor
  Üretim yeri hemen yan ülkedeyse çip bulmanın her zaman bir yolu vardır

  • Gerçekçi olarak bunu durdurmanın bir yolu yok
    Nvidia'nın yurtdışı satışlarını tamamen yasaklamadıkça yaptırımların etkisi düşük kalır
    Hükümetin GPU alımını lisansla yönetmesi de gerçekçi değil
  • Ama Çin hükümetinin küçük meselelerde bile sert tepki verdiği örnekler var; bu yüzden tamamen rahat olmak zor

• GamersNexus'un söylediği “bir gözü kapatıp bir gözü açık tutma” tavrı çok isabetli
  Çin, Nvidia çiplerinin kullanımını bırakma talimatı verdi ama pratikte bu daha çok kendi kendine yeterliliği teşvik eden bir sinyal gibi
  ABD yaptırımları da uyuşturucuyla savaş gibi başarısızlığı baştan yazılı bir politika

  • Kişisel olarak devletin yön göstermesi ve şirketlerin gönüllü olarak buna uyması yapısını çok da kötü bulmuyorum
    Tabii zorlama yerine gerçekten gönüllülük olursa daha ideal olur

• Eğer bu kez kullanılan çipler yasaktan önce yasal olarak satın alınmışsa,
  aslında tamamen anlamsız bir tartışma da olabilir

  • Ama veri merkezi sınıfı Blackwell çipleri zaten en baştan ihracat yasağı kapsamındaydı
    DeepSeek'in yaptırımları delip geçtiği ve diğer modellerin parametrelerini bootstrap ederek maliyeti düşürdüğü yönünde söylentiler vardı
    Bu haber de o söylentileri destekler nitelikte

• İki ülke arasındaki ticareti engellemenin pratikte zor olduğunu düşünüyorum
  GPU'lar dolaşımdaki miktarı az olan ve uyduyla izlenemeyen ürünler,
  bu yüzden altyapısı görünür olan petrol gibi ürünlerden farklı