Anthropic'in raporu güven vermeyecek kadar özensiz içerik taşıyor

 (djnn.sh)
1 puan yazan GN⁺ 2025-11-17 | 2 yorum | WhatsApp'ta paylaş
  • Anthropic'in yayımladığı yapay zeka tabanlı siber casusluk faaliyetleri raporu, Çin devlet destekli bir hacker grubunun saldırılarını tespit ettiğini öne sürse de, teknik dayanak ve doğrulanabilir bilgi eksikliği nedeniyle eleştiriliyor
  • Raporda IoC (uzlaşma göstergeleri), TTP (taktikler, teknikler ve prosedürler), alan adı, hash değeri ve saldırı aracı bilgileri gibi tipik bir tehdit istihbaratı raporunun temel unsurlarına hiç yer verilmiyor
  • Saldırının ayrıntılı yöntemi, kullanılan araç veya sistem türleri, etki kapsamı gibi konularda somut veri ya da kanıt sunulmadığı için, bunlar doğrulanamayan iddialar olarak kalıyor
  • Özellikle saldırının Çin hükümeti bağlantılı bir gruba atıfı (attribution) konusunda da dayanak olmadığı için, diplomatik yankı olasılığını gözetmeyen sorumsuz bir açıklama olarak görülüyor
  • Genel olarak bunun olgusal kanıt olmadan şirketin kendi yapay zeka ürünlerini tanıtmak için kullanılmış bir rapor olduğu değerlendirilirken, sektörde şeffaflık ve doğrulama standartlarının güçlendirilmesi gerektiği vurgulanıyor

Anthropic raporuna genel bakış

  • Anthropic, yapay zeka asistanı Claude'u geliştiren şirket olarak, yakın zamanda “yapay zekanın yönlendirdiği siber casusluk operasyonu” tespit ettiğini söyleyen bir rapor yayımladı
  • Rapora göre 2025'in Eylül ayı civarında Çin devlet destekli hacker grubu GTG-1002, yaklaşık 30 kurumu hedef alan saldırılar gerçekleştirdi ve bazı ihlallerin başarılı olduğu öne sürüldü
  • Saldırının, Claude Code instance'ı kullanılarak otonom biçimde sızma testleri yürüttüğü ve taktiksel işlerin %80-90'ını otomatikleştirdiği anlatılıyor

Teknik dayanak eksikliği

  • Raporda, normalde yayımlanması beklenen uzlaşma göstergeleri (IoC) olan alan adları, hash'ler, IP'ler, phishing e-postaları ve kullanılan araçlar hiç yer almıyor
  • MITRE ATT&CK çerçevesine dayalı analiz, saldırı zamanlaması, tooling bilgileri ve müdahale önerileri de eksik
  • Fransa CERT'in APT28 raporu gibi örneklerle karşılaştırıldığında, sektör standardının altında bir format olarak değerlendiriliyor

Doğrulanamayan iddialar

  • Rapordaki “yapay zeka taktiksel işlerin %80-90'ını yaptı” ifadesi doğrulanamıyor
  • Claude'un sertifika çıkarma, kimlik bilgisi toplama ve iç servis sorgulama gibi işlemler yaptığı söyleniyor; ancak somut çalışma yöntemi ya da araçlar (Mimikatz vb.) hakkında hiçbir bilgi verilmiyor
  • Hangi sistem veya ortamların ihlal edildiği ve verilerin nasıl işlendiği konusunda da açıklama bulunmuyor

Atıf (attribution) sorunu

  • Rapor, saldırıyı Çin hükümeti bağlantılı bir grup olarak kesin biçimde sunuyor; ancak buna dair hiçbir dayanak göstermiyor
  • Bunun hangi APT grubuna karşılık geldiği ve hangi analizle bu atfın yapıldığı belirsiz
  • Yazar, bu tür temelsiz devlet atıflarının diplomatik açıdan riskli olduğunu ve sorumluluk taşımayan bir açıklama niteliği taşıdığını eleştiriyor

Sonuç ve eleştiriler

  • Raporun, olgusal doğrulama olmadan şirketin kendi yapay zeka savunma çözümlerini tanıtmaya odaklandığı görülüyor
  • Son paragrafta “güvenlik ekipleri savunmada yapay zekayı kullanmalı” denmesi, yapay zeka güvenlik ürünleri satışını teşvik etme niyetini açık ediyor
  • Yazar bunu “utanç verici ve profesyonellikten uzak bir davranış” olarak tanımlıyor ve sektör genelinde doğrulama standartlarının güçlendirilmesi ile etik sorumluluk çağrısı yapıyor
  • Dayanaksız iddiaların güvenlik araştırmalarının güvenilirliğine zarar verebileceği, bu nedenle olgulara dayalı kanıtların paylaşılması gerektiği belirtiliyor

İlgili okumalar

2 yorum

 
GN⁺ 2025-11-17
Hacker News görüşleri

  • Geçmişte bir FAANG şirketinin yapay zeka araştırma laboratuvarında SRE/sistem yöneticisi olarak çalışırken, bilgi güvenliği için ayarlanmış bir temel modeli test etmem istenmişti
    Sahte yazıcıları ya da Linux kutularını hacklemeye yönlendirdim ama pratikte çok faydası olmadı
    Bu tür modellerin saldırı orkestrasyonu için özellikle yararlı olacağını sanmıyorum. Hele API bir banka hesabına bağlıyken, herkese açık bir sistemin üstüne komuta-kontrol yapısı kurmak riskli bir tercih

    • Siber suçlular için bu tür kısıtların çok da anlamlı olmadığını düşünüyorum. Çoğu zaman çalıntı API anahtarlarıyla ya da çalınmış hesaplarla ödeme yapıyorlar
      Güncel yapay zekalar eskisine göre çok daha iyi; güvenlik filtreleri aşıldığında güvenlik işleri de kolayca yapılabiliyor
    • “Genç veri etiketleyicileri tarafından işletiliyor” ifadesiyle acaba Alexandr Wang mı kastediliyor diye merak ettim. Wikipedia'da 28 yaşında görünüyor
    • Kötü niyetli aktörlerin Claude'u seçmesinin nedeni saldırı kodu yazma yeteneği değil, Batı'daki kurumların Claude'u yaygın kullanması olabilir
      Sonnet modeli Batılı kod kalıplarına göre eğitildiği için, aynı dağılımdaki verilerle çalışan sistemlerde açık bulmak açısından avantajlıdır
      Kimlik avı saldırılarında da doğal bir dil tonunu yeniden üretmek daha kolaydır
    • “Meta ve onun genç veri etiketleyicileri” sözü eski günleri hatırlattı
    • API bir banka hesabına bağlı olsa bile OpenRouter gibi aracılar kripto parayla ödeme kabul ediyor

  • Anthropic blogunun düzeltme geçmişi ilginç
    14 Kasım 2025'te “saniyede binlerce istek” ifadesi, “binlerce istek, saniyede birkaç kez gerçekleşen” şeklinde düzeltilmiş

    • “Saniyede birkaç istek” ifadesine dayanarak saldırının insan değil otonom bir model tarafından yapıldığını kesin söylemek tuhaf
      İnsanlar da kod aracılığıyla saniyede birden fazla işlem yapabilir
    • Teknik birinin bu tür birimlerini karıştıracağını sanmıyorum

  • İnsanlar APT (kalıcı gelişmiş tehdit) kavramını küçümsüyor
    Çalıştığım yerde de bir Gmail ihlali olmuştu; bu, birden çok zero-day ile sosyal mühendislik kampanyasının birleştiği karma bir saldırıydı
    Sonunda belirli bir devlet aktörüne işaret eden izler ortaya çıktı ve yapay zeka bu tür saldırıların verimliliğini hızlandıran bir rol oynuyor

    • Aslında bazı APT'lerde düşük becerili saldırganlar da var. Parolasız bir HTTP sunucusunu açık bırakıp tüm kök klasörü ifşa edenlerini bile gördüm
      Sayıyla yükleniyorlar ama kalite düşük. Bu yüzden Anthropic'in raporuna tamamen güvenmiyorum
    • “En yeni donanım ve yazılım haberleri”ni dinlerken fark etmeden bir başka teknoloji podcastine daha abone oluyormuşsun gibi bir his
    • Tek bir saldırıda birden fazla zero-day kullanılmış olması gerçekten şaşırtıcı
    • APT'nin Advanced Persistent Threat anlamına gelip gelmediğini doğrulamak istiyorum

  • Infosec araştırmacıları ile ML güvenlik araştırmacıları arasında büyük bir bilgi uçurumu var
    Anthropic'te ikincisinden çok, birincisinden az kişi var
    Attacker Moves Second makalesi da bu farkı ele alıyor
    ML tarafı metrik olarak ASR (Attack Success Rate) kullanırken, güvenlik tarafı tek bir başarılı denemeyi bile ciddi kabul eder
    ML statik testleri varsayar, güvenlik ise uyarlanabilir saldırganları

    • ML araştırmacısı güvenlik uzmanı değildir. Tam resmi görmek için iki alanı birlikte kullanmak gerekir
      ML tarafı blue team, güvenlik araştırmacıları ise red team rolündedir

  • Yazının tamamı, “Claude o kadar güçlü ki Çinli hackerlar kullanıyor” türünde pazarlama kokan bir metin gibi geldi

    • Bir zamanlar PlayStation 2'nin o kadar güçlü olduğu ve Irak'ın onu süper bilgisayar olarak kullandığına dair dolaşan söylentiye benziyor
      İlgili bağlantı
    • Anthropic, Claude'u iyi yaptığı için kendini güvenlik uzmanı sanmaya başlamış gibi
      Bu yüzden rapor sektör standartlarını ihlal edecek şekilde yazılmış olabilir
    • “Çin tehdidi”ni öne çıkarmak ABD hükümetinin hoşuna gidebilir
      Gerçekten bir saldırı tespit etmiş olabilirler ama bunu doğrudan Çin devleti destekli bir örgüt diye sunmak abartılı bir pazarlama gibi duruyor
    • “Ürünümüz tehlikelidir” tarzı tanıtım, savunma sanayii dışında pek görülen bir strateji değil
      Yine de açıklamazlarsa gizlemekle suçlanabilirler; yani bu bir uyarı amaçlı yayın da olabilir

  • Saldırıyı Çin destekli bir gruba bağlayan kanıt eksikliği asıl sorun
    Bu tür raporlar, ABD hükümetinden yatırım çekmeye dönük politik mesajlar gibi görünüyor

    • Kamuya açık raporların araçlar ya da URL'ler gibi ayrıntıları vermesi nadirdir
      Devlet kurumlarına sunulan raporlarda olabilir ama blog düzeyindeki bir metinde atlanmış olabilir
      Yine de “kanıt yokluğu”nun doğrudan “politik manipülasyon” sonucuna götürdüğünü düşünmüyorum
      Yapay zekanın bu tür saldırılarda kullanılabilme ihtimali başlı başına yeterli bir uyarı işareti
    • Anthropic uzun süredir Çin karşıtı bir çizgi izliyor
      Gerçekten bazı Çin IP'leri içeren bir olayı kasten öne çıkarmış olmaları da mümkün
    • Yapay zeka balonu yakında sönecek ve şirketler ulusal güvenlik altyapısı kılıfıyla devlet desteği almaya çalışıyor gibi
    • “Çin teknoloji çalıyor” diye bağırırken kendilerinin telifli içerikleri izinsiz eğitmesi ironik

  • Anthropic'te gerçekten güvenlik uzmanları olup olmadığını merak ediyorum
    Bu yalnızca şirket stratejisi olabilir ama kurumsal yapı gereği güvenlik yetkinlikleri eksik de olabilir

    • Mühendislik kapasitesinin zayıf olduğu eleştirisini sık duyuyorum. Böyle bir şirketin sağlam bir güvenlik yapısı kurmuş olması pek olası değil
    • Güvenlik personeli yetersizken “Çin devleti destekli istihbarat operasyonu” gibi iddiaları kanıtsız biçimde ortaya atmak sorumsuzluk
    • Nasıl olsa bu raporlarla eğitilmiş modelin kendisine sahipler; neden doğrudan analiz yapamadıkları da soru işareti
    • Güvenlik sorunlarını çözmek için yapay zekanın kullanıldığı bir sunum videosu da var
      YouTube bağlantısı

  • Claude gibi bir kodlama yardımcı yapay zekası kullanmış olanlar onun yeteneklerini küçümsemez
    Bu yüzden rapordaki iddialar bana da oldukça makul geliyor

    • Ben Claude'a SSH erişimi verip sunucu içindeki ağ sorunlarını doğrudan incelettim
      tcpdump ve yönlendirme tablolarını analiz etmesi oldukça işe yaradı
      Yine de sınırlarını ve ne zaman sapıttığını anlayıp elle müdahale edebilmek gerekiyor
    • “Ben kullanmadım ama” tarzı yorumlar HN'de sık görülüyor
      Gerçekte denememiş birinin uzman gibi konuşması güven vermiyor
    • Rapordaki sorun aracın potansiyeli değil, kanıt yokluğu
      Yalnızca olasılık, güvenilir bir rapor için yeterli değil
    • Anthropic yalnızca makul bir olasılık ortaya koydu; ampirik kanıt sunmadığı için kalite düşük ve motivasyonu şüpheli

  • Anthropic'in raporu, “teknolojimiz o kadar güçlü ki kötüye kullanılabilir” diyen bir reklam gibi hissettirdi
    Sanki bir silah reklamında “bu silahın ne kadar tehlikeli olduğuna bakın” denmesi gibi

  • Başlığı ilk gördüğümde, kağıt şirketi Anthropic'in kötü kokan garip bir kağıt ürettiğiyle ilgili bir şey sandım
    Sonuna kadar okuyunca da hâlâ saçmalık gibi geliyor