Anthropic: “Alibaba, Claude yapay zeka modelinin yeteneklerini yasa dışı biçimde çıkardı”

 (reuters.com)
1 puan yazan GN⁺ 4 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • ABD Senatosu’ndaki yapay zeka oturumu öncesinde Anthropic, Alibaba bağlantılı faaliyetin kendisini hedef alan benzer saldırılar içinde en büyük ölçekli olduğunu öne sürdü
  • Temel yöntem, daha güçlü bir modelin çıktılarıyla daha zayıf bir modeli eğiten distillation (damıtma) idi; Anthropic, bunun Çin’in Mythos Preview düzeyindeki yeteneklere daha hızlı ulaşmasına yol açabileceğini düşünüyor
  • 22 Nisan 2026 ile 5 Haziran arasında Claude ile 28,8 milyondan fazla etkileşim gerçekleştiği ve sahte hesap sayısının yaklaşık 25 bin olduğu belirtildi
  • Anthropic, operasyonu yürüten tarafların Alibaba ve yapay zeka araştırma laboratuvarı Alibaba Qwen ile bağlantılı olduğunu iddia etti; Alibaba ise Reuters’ın yorum talebine hemen yanıt vermedi
  • Anthropic, ABD hükümeti ile özel yapay zeka şirketleri arasında tehdit istihbaratı paylaşımı ve ortak müdahaleyi destekliyor; ancak aynı dönemde kendi Mythos ve Fable modellerine de erişim kısıtlamaları getirildi

Alibaba bağlantılı yasa dışı çıkarım iddiası

  • Anthropic, Çinli teknoloji ve e-ticaret şirketi Alibaba’nın Claude yapay zeka modelinin yeteneklerini yasa dışı biçimde çıkardığını ABD Senatosu’na gönderdiği mektupta öne sürdü
  • Reuters’ın gördüğü mektuba göre Anthropic, bu faaliyeti şimdiye kadar tespit ettiği benzer saldırılar içinde en büyük ölçekli olanı olarak değerlendiriyor
  • Alibaba, Reuters’ın yorum talebine hemen yanıt vermedi

Distillation yöntemi ve saldırının ölçeği

  • Anthropic, söz konusu faaliyeti bir distillation (damıtma) girişimi olarak tanımladı
    • Distillation, daha güçlü bir modelin çıktılarıyla görece daha zayıf bir modeli eğitme yöntemidir
  • Kampanya dönemi 22 Nisan 2026 - 5 Haziran 2026 olarak verildi
  • Bu süre içinde Claude’a karşı yürütülen etkileşim sayısı 28,8 milyondan fazla olarak hesaplandı
  • Kullanılan sahte hesap sayısı yaklaşık 25 bin oldu
  • Anthropic, distillation’ın Çin’in Anthropic’in gelişmiş Mythos Preview yeteneklerine ulaşma hızını artıran bir yöntem olduğunu düşünüyor

Alibaba Qwen bağlantısı iddiası ve mektubun alıcıları

  • Anthropic, kampanyanın Alibaba ve Alibaba’nın yapay zeka araştırma laboratuvarı Alibaba Qwen ile bağlantılı operatörler tarafından yürütüldüğünü iddia etti
  • Mektubun tarihi 10 Haziran
  • Alıcılar, ABD Senatosu Bankacılık Komitesi başkanı ve kıdemli üyesi olan Tim Scott ile Elizabeth Warren
  • Mektup, planlanan yapay zeka oturumu öncesinde gönderildi

Önceki Çinli yapay zeka araştırma laboratuvarı örnekleri

  • Anthropic, 2026 yılı Şubat ayında da Çinli yapay zeka girişimi DeepSeek ile diğer iki Çinli yapay zeka araştırma laboratuvarının Claude yapay zeka platformundan yetenekleri yasa dışı biçimde çıkarmaya çalıştığı bir kampanya tespit ettiğini açıklamıştı
  • Anthropic’in o dönemde verdiği ölçek şu şekildeydi
    • DeepSeek: 150 binden fazla etkileşim
    • Moonshot AI: 3,4 milyondan fazla
    • MiniMax: 13 milyondan fazla
  • Anthropic, o dönemde bu kampanyaların yoğunluğu ve karmaşıklığının arttığını, bu nedenle sektörün, politika yapıcıların ve küresel yapay zeka topluluğunun hızlı ve koordineli bir yanıt vermesi gerektiğini belirtmişti

ABD hükümetinin adımları ve Anthropic modellerine getirilen kısıtlamalar

  • Anthropic, ABD hükümetinin yanıt çabalarını desteklediğini belirtti
    • Özel yapay zeka şirketleriyle tehdit istihbaratı paylaşımı
    • Diğer ortak müdahale faaliyetleri buna dahil
  • Nisan 2026’da Beyaz Saray, Çin’i ABD yapay zeka araştırma laboratuvarlarının fikri mülkiyetini endüstriyel ölçekte çalmakla suçladı
  • Alibaba, aynı ay ABD Savunma Bakanlığı’nın Çinli askeri şirketler listesine eklendi; Alibaba bu sınıflandırmaya itiraz ediyor
  • ABD Ticaret Bakanlığı, hükümetin ortak komitesinde ulusal güvenlik riski olarak değerlendirilmesine rağmen DeepSeek’i, Beijing ile gerilimi tırmandırmaktan kaçınma isteği nedeniyle ticaret kara listesine almayı erteledi
  • Anthropic’in mektubu göndermesinden iki gün sonra, 12 Haziran’da ABD Ticaret Bakanlığı, Anthropic’in en yeni Mythos ve Fable yapay zeka modellerine kısıtlama getirdi
    • Yetkililer, bu modellerin Çin ve diğer endişe duyulan ülkelerdeki askeri istihbarat kullanıcılarına konuşlandırılabileceğinden endişe ediyor
    • Bu kısıtlama nedeniyle Anthropic, söz konusu modellere erişimi küresel olarak devre dışı bıraktı

İlgili okumalar

1 yorum

 
GN⁺ 4 시간 전
Hacker News yorumları

  • Bunu bırakıp gidiyorum: “Anthropic’in LibGen gibi korsan sitelerden 7 milyondan fazla kitap indirmesi ihlal sayıldı ve yargıç Anthropic’in ‘araştırma amacı’ savunmasını da reddetti: ‘Kendinizi araştırma amacıyla kutsayıp istediğiniz herhangi bir ders kitabını alamazsınız.’”
    https://www.joneswalker.com/en/insights/blogs/ai-law-blog/wh...

    • Müzik akışının ilk dönemlerinde de pek çok yeni girişim hizmetlerini korsan içerikten oluşan devasa kütüphanelerle dolduruyordu. Kazananlar, telif hakkı sahipleriyle anlaşma yaptıktan sonra geri kalanının izini sürdü
    • Şarkı sözlerini sorunca bu modellerin birdenbire telifli materyali hatırlaması komik değil mi
    • Peki ama o kitaplarla eğitilmiş modelin imha edilmesi gerekmiyor muydu
    • O kitaplardan ne kadar “yetenek” “çıkarılmıştır” acaba
    • “Benim meşru şekilde çaldığım şeyi sen kaçırmaya çalışıyorsun!”

  • Distilasyonun temelde iki türü var. 1) Soru sorup yanıtları pekiştirme sinyali olarak kullanan büyük ölçekli ve aptal yöntem (kara kutu), 2) bir modelin diğerini doğrudan öğretip eğittiği ve yönlendirdiği daha hedefli distilasyon (RLAIF)
    İkincisi esasen başka bir modelin yönlendirmesiyle modeli ince ayar yapmaktır. Sayısız şirket her gün bu şekilde ince ayar yapıyor. Çinli araştırma laboratuvarları da neredeyse kesin olarak bu yöntemi kullanıyordur; çünkü basit sorulara basit yanıtlar kazımaktan çok nihai sonuç üzerinde daha etkilidir
    Distilasyon şikayetleri, meseleyi olduğundan daha büyük göstermek için yapılıyor gibi duruyor ve amaç da korumacı biçimde ABD hükümetini Çinli model sağlayıcılarını engellemeye ya da yasaklamaya itmek gibi görünüyor. Zaten çip ihracat kontrollerinin sıkılaştırılmasını istediler; bu da DeepSeek v4’ün Huawei çiplerinde çalışacak şekilde tasarlanmış olması ve diğer Çinli şirketlerin de bunu takip etmesi düşünüldüğünde komik. Ama bunu açıkça söyleyemedikleri için, distile edilmiş modellerin kendi modelleri kadar güvenli olmayabileceğini öne sürerek daha fazla ihracat kontrolü talep ediyorlar. İş kendi modellerinin güvenlik önlemlerini atlatan jailbreak’ler göstermeye gelince ise, hangi model olursa olsun sonunda jailbreak edilebilir diyecekler ve güvenlik konusunda endişelenmememizi isteyecekler

    • “Distilasyon şikayetleri meseleyi olduğundan büyük gösteriyor” kısmı doğru, ama ne yazık ki Reuters haberi de bu dramatizasyona katılıyor. İlk paragrafta distilasyonu “saldırı” olarak niteleyen Anthropic ifadesi tırnak işareti olmadan tekrar ediliyor; bu da okurun bu çerçevenin şirketin iddiası olduğunu fark etmesini zorlaştırıyor. Distilasyon bir saldırı değildir
    • Aptalca bir soru olabilir ama bu modellerin petabayt ölçeğinde veriyle eğitildiğini sanıyordum. Daha büyük bir modele (Claude) sorular sorarak çıkarılabilecek soru/yanıt miktarı oldukça sınırlı olur; eğitim veri kümesiyle kıyaslandığında okyanusta bir damla değil mi
    • https://research.nvidia.com/labs/lpr/slm-agents/ — distilasyon verisi, böyle modeller kullanıldığında doğal olarak ortaya çıkan bir yan üründür. Etkili bir savunma yok. Anthropic, hızı düşürerek ve modelin iç yapısını gizlemeye çalışarak düşünce bloklarını özete indirgediği daha düşük kaliteli bir hale getiriyor; ama sonuçta matematiksel olarak bunun bir çözümü yok ve çok uluslu şirket/büyük işletme ölçeğinde yeterince iyi çalışıyor. Maliyet öncelik haline geldiği anda müşterileri içeride tutacak kilit etkisi ortadan kalkıyor
    • İki şey iddia ediyorlar. 1) Fable 5’te bulunan belirli bir kamuya açık jailbreak tehlikeli değildir ve birçok uzman bunu doğrulamıştır; aksini gösteren güvenilir bir kanıt yoktur. Yani Anthropic muhtemelen haklı
      2) Hiçbir jailbreak’e karşı bağışık bir büyük dil modeli yapmak imkansızdır. Buna karşı da güvenilir bir kanıt olmadığından Anthropic bu konuda da tamamen haklıdır
      1 yanlışsa jailbreak’in ayrıntılarını yayımlayabilirler. Sözde yalnızca Fable 5’te çalıştığı için olası bir risk de yok
      2 yanlışsa başka bir büyük dil modeli laboratuvarı bunu zaten başarmış olmalıydı. Birçok hükümet böyle projeler için bir pazar olduğunu açıkça gösterdiğine göre daha da öyle
    • Değerlendirme yapıyorsanız modeli eğitmiyor olabilirsiniz ama pratikte yine de RLAIF yapmış oluyorsunuz. Sadece sonuçlara bakıyorsunuz
      Temelde, yapay zeka modellerini kullanışlı tutarken bunu engellemek çok zor

  • 1980’lerin ortalarıyla sonlarında Steve Jobs’un Mac GUI’nin kopyalandığından şikayet ettiği anekdot aklıma geliyor. Oysa kendisi Xerox Alto ve Star işletim sistemi üzerinde yapılan çalışmaları kamuoyu önünde kabul etmedi
    “Benim zaten kopyaladığım şeyi sen kopyalamaya çalışıyorsun!”
    Tüm interneti tarayıp dev bir büyük dil modeli oluşturduktan sonra kopyalanmaktan şikayet etmek gibi

    • Sanırım Bill Gates’e atfedilen şu alıntıyı kast ediyordun: “Bak Steve, bunun tek yönlü olduğunu sanmıyorum. İkimizin de Xerox adında zengin bir komşusu vardı; ben televizyonu çalmak için evine girdiğimde senin onu benden önce çalmış olduğunu fark etmem gibi bir durum bu.”
    • Apple, o toplantı yapılmadan önce Xerox’a halka arz öncesi 1 milyon dolarlık hisse satın alma hakkı vermişti
    • Evet, yapay zeka sektörünün tamamı birbirinden kopya çeken insanlardan oluşuyor. Son 40 yılda teknik ya da özgeci insanlar başka insanlara yardım etmek için internette bilgi paylaştı; yapay zeka şirketleri ise önce bunları topluca yuttu, ardından korsan ve telifli materyali yedi, şimdi de yapay zeka şirketleri birbirini kopyalıyor
      Bilgi gerçekten özgür olmak istiyor ama yapay zeka şirketleri kapı bekçisi olmak istiyor. Uzun vadede daha sürdürülebilir yaklaşım olan açık ağırlıkların kazanacağını düşünüyorum
    • Tüm büyük dil modelleri Jon Skeet’i tanrı sanıyor
    • “Benim meşru şekilde çaldığım şeyi sen kaçırmaya çalışıyorsun!”

  • Anthropic’in “Claude yapay zeka modelinin yeteneklerini yasa dışı şekilde çıkardılar” diye şikâyet etmesi ve Çin’in “ABD’li yapay zeka laboratuvarlarının fikri mülkiyetini endüstriyel ölçekte çaldığı” yönündeki Beyaz Saray suçlamasını destekleyen ikiyüzlülüğü gerçekten komik
    Anthropic, OpenAI, Google, Microsoft ve diğerleri, telif hakkı sahiplerinin haklarını hiçe sayarak önlerine gelen her içeriği toplayıp modellerini eğitti. Şimdi onlardan biri, başkasının kendilerinin yaptığı şeyin aynısını yapmasını haksızlık diye mi haykırıyor

    • Yapay zeka şirketleri internetteki her şeyin bedava olduğunu ama sadece kendilerininkinin istisna olduğunu düşünüyor gibi. Yapay zeka tarayıcılarıyla rastgele web sitelerine yüklenmek, robots.txt dosyasını görmezden gelmek ve bant genişliği maliyetlerini patlatmak sorun değil. Ama veri toplama uygulamaları yüzünden yapay zeka sağlayıcılarına maliyet çıkarılırsa bu apaçık kabul edilemezmiş gibi davranıyorlar
    • Yürürlükteki yasaya göre Claude çıktıları kamu malı sayılır, yani bu tam olarak aynı durum değil. Dolayısıyla Çin tarafı burada hiçbir şey çalmış değil
    • Seninki benim, benimki ise hâlâ benim
    • Hırsızlar arasında onur olmaz

  • Şu anda olan şu: Çinli yeniden satıcılar, resmî Anthropic API fiyatlarının %70 ila %90 altında Claude token sunuyor. Bunu, Claude Max hesaplarını havuzlayıp kapasiteyi yeniden satarak, ödeme dolandırıcılığı kullanarak ve model çıktıları ile muhakeme zincirini çeşitli Çin araştırma kurumlarına tekrar satarak başarıyorlar. Kullanıcı logları ve akıl yürütme izleri karşılığında model erişimini aracılık ederek sağlıyor, sonra da bunları eğitim verisi olarak satarak maliyetin altında çalışabiliyorlar
    Claude ve ChatGPT’nin ikisi de Çin’de engelli. Erişim için VPN gerekiyor ve Çin banka kartlarıyla ödeme yapılamıyor. Bu yüzden Claude’a erişmek isteyenlerin çoğu, erişim hakkını yeniden satıcılar üzerinden satın alıyor. Çin’de Anthropic modellerine ulaşmanın en kolay ve en ucuz yolu bu
    Bu yeniden satıcılar on binlerce bot hesap işletiyor ve Anthropic’in bot akınını yavaşlatmak için kimlik doğrulamayı devreye almasının nedeni de bu
    Bir token yeniden satıcısı, Opus 4.8’i resmî API ücretine göre %93 indirimli sunuyor: https://yunwu.ai/pricing?provider=Anthropic
    DeepSeek ve GLM fiyatlarının bu kadar ucuz olmasının nedenlerinden biri de bu. Çin’de absürt derecede düşük token fiyatlarıyla rekabet etmek zorunda oldukları için, insanların kullanmasını sağlamak adına fiyatları düşük tutmak zorundalar
    Bunu birkaç ay önce paylaşmıştım ama pek ilgi görmemişti. Çin’in token yeniden satış ekonomisini anlatan harika bir yazı: https://www.chinatalk.media/p/how-to-buy-cheap-claude-tokens...

    • Rekabet için iyi bir şey. Çinli satıcının daha ucuz bir çözüm sunması, ekonomi dersinde bana öğretilen serbest piyasa tam da buydu
      Anthropic rekabet etmek istiyorsa işini daha iyi yapması gerektiğini de öğrenmiştim. Yoksa biri kazanır
      Artık bu ilke büyük Amerikan şirketleri için geçerli değil mi
    • DeepSeek ve GLM’in Çin’de absürt derecede düşük token fiyatlarıyla rekabet etmek zorunda olduğu için ucuz olduğu açıklaması bana hiç mantıklı gelmiyor
      DeepSeek ve GLM açık ağırlıklı ve ABD’li çıkarım sağlayıcıları da bunları çok daha ucuza satıyor. Ucuz olmalarının nedeni modellerin daha verimli olması
    • Eğer anlattıkları şey Claude Max 5x hesaplarını havuzlayıp kapasiteyi yeniden satmaları, ödeme dolandırıcılığı yapmaları ve model çıktısını çeşitli Çin araştırma kurumlarına satmalarıysa, bu kendi hesabını doğrudan almaktan daha mı ucuz
      Değilse bu, yapay zeka ayıları arasında sık görülen “Anthropic/OpenAI 1.000 dolarlık token’ı 100 dolara satıyor ve korkunç para kaybediyor” söylemine benziyor
    • Anthropic, Mythos’u buraya yönlendirip yeniden satıcı sorununu doğrudan çözebilir gibi görünüyor. Yeniden satıcılar üzerinden birden fazla hesap satın alır, UID içeren mesajlar yollar, sonra Anthropic loglarında bunları yakalayıp hesapları kapatır ve metadata ile bağlantılı hesapları belirleyen bir döngü işletir
    • O yeniden satıcılar aslında sadece Kimi K2.5 veya GLM5.1’i Opus diye yutturup satıyor. Çinliler uzun zamandır birçok sektörde sahtecilik oyununu iyi biliyor

  • Alibaba’nın yaptığı şey “damıtma” çabası olarak açıklanıyor; Anthropic de bunu daha güçlü bir modelin çıktılarıyla daha zayıf bir modeli eğitmek olarak tanımladı
    Claude, izinsiz şekilde terabaytlarca içeriği kullanıp kendi modelini eğitti ve bunun sorun olmadığını söyledi. Şimdi biri Claude modelinin çıktılarıyla model eğitince bunun haksız olduğunu haykırıyor

    • Sorun olmadı değil. 1 milyar dolar ödemek zorunda kaldı

  • Anthropic’in eğitim verilerinin kaynağını açıklamak ve neden müşterilerine ezberlenmiş eğitim verisini ücret karşılığı sunma hakkına sahip olduğunu ama kendi modelini Anthropic modeliyle eğiten Alibaba’nın buna sahip olmadığını açıklamak zorunda kalacağı bir davayı görmek ilginç olurdu
    Eğlenceli olurdu

    • Zaten açıkladı ve 1,5 milyar dolar ödedi: https://authorsguild.org/advocacy/artificial-intelligence/wh...
    • Eğer içinde tek bir GPL kaynak kodu bile varsa, ağırlıkları GPL lisansı ile yayımlamak zorunda
    • Mantıksal olarak tutarlı olmaktansa saldırgan ve gürültücü olmak daha kârlı
    • Bu hissiyata katılıyorum ama tarafların uluslararası konumu ve karmaşık ilişkileri düşünüldüğünde işin gerçekten mahkemeye gitme ihtimali düşük görünüyor
      Anthropic’in davranışı daha çok gösteri amaçlı bir jest gibi görünüyor. Başkaları da hedef kitlenin kim olabileceğini zaten tahmin etmişti

  • Tam olarak yasa dışı olan ne
    Hukuken model çıktıları, ister ulusal hukuk ister uluslararası hukuk kapsamında olsun, fikri mülkiyet olarak korunamaz. Beklenebilecek en fazla şey özel hukuk yoluyla bir telafi ama modellerini eğitmek için kullandıkları yöntemin kelimenin tam anlamıyla yasa dışı olduğu düşünülürse bu da pek olası değil
    Anthropic, herkese nasıl davranıyorsa aynı şekilde muamele gördü. Kendi yaptığı yatağı şimdi kendisi de kullanmalı

    • Anthropic Newspeak konusunda usta. Daha önce de Mythos konusunda bug’ı “güvenlik açığı” diye yeniden adlandırmıştı. Damıtma sadece hizmet şartlarının ihlali; bu da ceza hukuku değil, medeni hukuk meselesi. Yasa dışı değil ve kanun ihlali de değil

  • Alibaba'nın yaptığının, daha güçlü bir modelin çıktılarıyla daha zayıf bir modeli eğitmek anlamına gelen “distilasyon” olduğu söyleniyor; bunda neyin yanlış olduğunu anlamıyorum
    Anthropic, bu kampanyanın 22 Nisan 2026 ile 5 Haziran arasında sürdüğünü ve yaklaşık 25.000 sahte hesap üzerinden Claude ile 28,8 milyondan fazla etkileşim üretildiğini söyledi
    O hesapları sahte yapan şey nedir? Anlaşılan ücreti ödedilerse sorun olmaması gerekmez mi? Para ödemedilerse Anthropic neden hizmet verdi

    • Onları sahte hesap yapan ne mi? Sahte kimlikler kullanmaları olabilir ve kullanım amacı konusunda genel bir aldatma söz konusu olabilir
    • Çünkü Anthropic'in hizmet şartlarında “parayı ödeyen herkes hizmeti herhangi bir amaçla kullanabilir”den çok daha fazla koşul var
    • Muhakeme izlerini okuyup kendi kendine de öğrenebilir herhalde? /s

  • Distilasyonu temelden engellemek mümkün değil. Yapılabilecek tek şey onu yavaşlatmak. Aksini iddia edin
    Sonunda Çinli şirketler Honey benzeri eklentiler çıkaracak ve gerçek Çin dışı müşterilerin üzerinden geçerek her şeyi zaten Çin'e gönderecek
    Oyun bitti

    • Kod yazma ya da açık bulma gibi bazı yeteneklerin distilasyonunu engellemek için artık çok geç [1]
      Ama yapay zeka laboratuvarları, modelleri potansiyel distilasyona açık hale getirmeden de devasa ekonomik değer üretmeye devam edebilir. Örneğin modeli yalnızca şirket içinde kullanıp ilaç geliştirebilirler
      Bir gün başkalarının da en ileri seviye modellere erişebildiği bir gelecek olmasını umuyorum, ama eğer distilasyon yoluyla yayılmayı engellemenin daha önemli olduğuna karar verilirse bu mutlaka gerekli değil
      [1]: https://dualuse.dev/posts/export-controls-on-fable içindeki distilasyonla ilgili referans
    • Anlamadığım şu: Gördüğümüz distilasyon sanki sadece Çin'de oluyormuş gibi görünüyor. Birleşik Krallık veya Almanya gibi yerlerdeki teknoloji şirketlerinin Claude, GPT vb. üzerinde distilasyon yapmasını engelleyen şey ne? Sadece yeterli yetkinliğe sahip olmamaları mı?
      Buradaki esas nokta, teknik bir çözüm olmayabilir ama teorik olarak bir siyasi çözüm olabilir
    • Modeller gelişmeye devam ettikçe distile edilmiş modeller kaçınılmaz olarak geride kalır. Modeller gelişmeyi sürdürüyor. Gelecekte bir noktada bu durum sona erebilir
      Berkeley'in “False Promise of Imitating Proprietary LLMs” çalışması da taklidin üslup farkını hızla kapattığını ama yetenek farkının büyük ölçüde kaldığını söylüyor
      https://arxiv.org/abs/2305.15717
    • Bunun neden yanlış sayılması gerektiğine dair aklıma gelen tek bir gerekçe bile yok
    • Bu, web scraping'in engellenememesiyle tamamen aynı şey. Aksini iddia edin