Anthropic Mythos tartışmasının merkezindeki Koreli telekom devi SK Telecom

 (wired.com)
2 puan yazan GN⁺ 4 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Beyaz Saray, Anthropic’in AI modelini engelleme emrinden birkaç gün önce SK Telecom’un Claude Mythos erişiminin geri alınmasını talep etti; bunun arka planında ise SK Telecom’un Çin bağlantılarına dair şüpheler yer alıyordu
  • ABD yetkilileri, SK Telecom’un Çin ile bağlantılarını sorun etti; Amazon’un Fable 5’teki açıkları Beyaz Saray’a bildirmesiyle endişeler daha da arttı
  • Beyaz Saray, Anthropic’in en ileri yapay zeka teknolojisini güvenli biçimde yöneteceğine güvenilemeyeceğine karar vererek, tüm yabancı uyrukluların Mythos ve Fable 5 erişimlerinin geri alınmasını emretti
  • Anthropic, vatandaşlığa dayalı erişim engelinin zor olduğunu değerlendirip modelin tamamını devre dışı bırakma yolunu seçti; Beyaz Saray ile hâlâ görüş ayrılığı yaşıyor
  • SK Telecom iddiaları reddetti; ayrıca ABD hükümetinin kısıtlama talep mektubunda Koreli şirketlere ya da Çin’e doğrudan bir atıf da bulunmuyor

İhracat kontrolleri ve SK Telecom erişim tartışması

  • Trump yönetiminin Anthropic’in en güçlü yapay zeka teknolojisine yönelik ihracat kontrolü önlemleri, Anthropic’in Koreli telekom devi SK Telecom’a Claude Mythos erişimi vermesi etrafında çıkan anlaşmazlıktan kaynaklandı
    • ABD yetkilileri, SK Telecom’un Çin ile bağlantılı olduğunu öne sürerek endişelerini dile getirdi
  • Amazon’un Fable 5’te tespit ettiği açığı Beyaz Saray’a bildirmesiyle kaygılar daha da büyüdü
    • Fable 5, Mythos’un gelişmiş güvenlik önlemlerine sahip bir sürümü ve 9 Haziran’da kamuya açıldı
    • Amazon araştırmacıları, Fable 5’in bazı koruma katmanlarını aşarak Mythos’un güçlü siber yeteneklerine erişilebildiğini iddia etti
    • Anthropic ve dış siber güvenlik uzmanları ise bu risklerin yalnızca Claude’a özgü olmadığını savundu

Beyaz Saray’ın erişim geri çekme emri ve Anthropic’in yanıtı

  • Olayların üst üste gelmesiyle Beyaz Saray, Anthropic’e güvenilemeyeceği sonucuna vardı ve cuma günü ABD’deki göçmenler dahil tüm yabancı uyrukluların Mythos ve Fable 5 erişimlerinin geri alınmasını emretti
  • Anthropic, vatandaşlık temelli erişim engelinin mahremiyet korumasıyla birlikte yürütülmesinin zor olduğuna karar vererek modeli tamamen devre dışı bırakmanın daha doğru olacağını değerlendirdi
    • Beyaz Saray ile Anthropic, Mythos ve Fable 5’in yeniden açılması konusunda günler süren müzakerelere rağmen hâlâ aynı fikirde değil

Project Glasswing ve SK Telecom’un katılımı

  • Claude Mythos, yazılım açıklarını tespit etme konusunda olağanüstü becerilere sahip olduğu için Anthropic, Project Glasswing adlı program aracılığıyla ilk erişimi yalnızca güvenilir az sayıdaki kuruluşa sınırladı
  • Bu ayın başında Kore’nin en büyük mobil operatörü SK Telecom, dış uzmanlar ve ABD hükümetiyle haftalar süren yakın iş birliğinin ardından program genişletilince yaklaşık 150 şirketten biri olarak Mythos erişimi aldı
  • Anthropic yorum yapmayı reddetti; Beyaz Saray ve SK Telecom ise hemen yanıt vermedi

Çin bağlantısı şüpheleri ve SK Telecom’un yalanlaması

Daha önceki geri çekme talebi ve SK Telecom’un Anthropic yatırımı

  • Bu ayın başında Project Glasswing genişlemesinin duyurulmasının hemen ardından Beyaz Saray, Anthropic’ten SK Telecom’un Mythos erişiminin geri alınmasını istedi
    • Anthropic buna hemen uydu ve o sırada ABD hükümeti model üzerinde ihracat kontrolü tehdidinde bulunmadı
  • SK Telecom, Anthropic’e birden fazla kez sermaye yatırımı yaptı; 2023’teki 100 milyon dolarlık yatırım, telekom sektörüne özel yapay zeka modeli geliştirmeye yönelik ticari ortaklığın kurulmasıyla birlikte geldi
  • SK Telecom, Samsung Electronics ve Korea Internet and Security Agency ile birlikte Project Glasswing’e katılan birçok Koreli kuruluştan biri

SK Group ve Çin’deki iş ilişkileri

  • SK Telecom’un kendisinin Çin’de büyük ölçekli bir faaliyeti görünmese de, yarı iletken ve enerji dahil Çin’de geniş işleri bulunan holding grubu SK Group’un bir parçası
  • 2024’te SK Telecom, Çin’de ağırlıklı olarak yatırım faaliyetlerinden yaklaşık 1,9 milyon dolar gelir elde etti ve yerelde sadece 7 çalışanı vardı

20 yılı aşan Çin telekom geçmişi

  • Çin telekom sektöründeki faaliyetlerinin geçmişi 20 yıldan daha eskiye gidiyor
  • 2004’te SK Telecom ile devlet destekli telekom şirketi China Unicom, Çin’de kablosuz internet ve mobil içerik hizmetleri sunmak için UNISK adlı ortak girişimi kurdu
    • Bu, yabancı şirketlerle Çinli telekom operatörleri arasındaki ilk ortak girişimlerden biriydi
  • 2006’da SK Telecom, China Unicom’un Hong Kong’da kote iştirakinin dönüştürülebilir tahvillerine 1 milyar dolar yatırım yaptı; bu daha sonra yaklaşık %6,6 hisseye dönüştü
  • Sonrasında ortaklık çözülmeye başladı; 2009’da SK Telecom, China Unicom’daki hissesini yaklaşık 1,3 milyar dolara geri sattı, ancak buna bağlı küçük çaplı finansal çıkarlarını korudu

China Unicom’a yönelik ABD yaptırım çizgisi

  • 2021’de ilk Trump yönetimi, ordu ve istihbarat alanlarıyla bağlantılı olduğunu düşündüğü Çinli şirketleri hedef alan önlemlerin parçası olarak China Unicom’a yönelik ABD yatırımını sınırladı
  • Bu yıl nisan ayında ABD Federal İletişim Komisyonu (FCC), ulusal güvenlik endişelerini gerekçe göstererek ABD’li telekom şirketlerinin China Unicom gibi Çinli operatörlerle ara bağlantı kurmasını yasaklayacak bir öneri sundu

İlgili okumalar

1 yorum

 
GN⁺ 4 시간 전
Hacker News görüşleri

  • Bu konu ve Amazon’la ilgili haberler/tartışmalar, ciddi teknoloji medyası ve toplulukların hükümetin Anthropic modellerini engellemesinin gerçek nedenini bulmaya çalıştığını gösteriyor gibi görünüyor
    Ancak DoD ile yaşanan çatışmayı ve mevcut yönetimin OpenAI ile XAI’ı çok daha fazla desteklediğini, ayrıca onlardan destek gördüğünü düşününce, bu da “ilerici eğilimli” bir şirketle rakipler/hükümet arasındaki kavganın bir kademe daha büyümesi olabilir
    Amazon tarafında birileri bir şey söylemiş olabilir ama Occam’ın usturasına göre, tedarikçi yaptırımları pek işe yaramayınca hükümet fırsatı değerlendirmiş gibi görünüyor

    • Anthropic, büyük teknoloji şirketlerinin bir kez yaşadığı ideolojik direnç döneminden geçiyor. Google, Facebook, Apple, Reddit, Microsoft, özellikle de Microsoft böyle dönemlerden geçti
      Sonunda ABD hükümetiyle kavga etmenin zor, pahalı ve sadece gürültü çıkaran bir iş olduğunu; onun yerine karşılıklı çıkarların makul bir dengesine varmanın daha kolay olduğuna karar veriliyor
    • Sadece tıklama getirecek bir başlık arıyorlar. Bu yönetimin yaptıklarında samimiyet olmadığını herkes biliyor ama “acaba gerçekten öyle olabilir mi” diye bir tartışma varmış gibi yapmak son 10 yıldır para kazandıran bir iş oldu
    • Hükümetin kazanan seçmeye çalıştığı hissi çok güçlü. En azından kaybeden seçmeye çalışıyor gibi

  • “SK Telecom, Anthropic’e birkaç kez sermaye yatırdı ve 2023’te telekomünikasyon sektörüne uygun AI modelleri geliştirmeye yönelik ticari ortaklıkla birlikte 100 milyon dolar yatırım yaptı”
    “White House, Anthropic’ten SK Telecom’un Mythos erişimini iptal etmesini istedi ve Anthropic de derhal buna uydu”
    Buradan çıkarılacak ders, ABD şirketlerine yatırım yapmamak olmalı

    • Bir şirkete yatırım yapmakla o şirketin hizmetlerini kullanabilmek ayrı meseleler
      Model erişimini kaybetmek hoş değil ama yatırımdan kazanılacak para muhtemelen bu kaybın çok üstünde olur
    • Çıkarılacak ders bu değil. ABD yatırımlarından kazanılacak para muazzam olabilir
      Asıl ders, ABD yapay zeka modellerine bağımlı olmamak. Rekabet edebilecek temel modellere yatırım yapmalı ve bunları inşa etmeli, mümkünse açık ağırlıklar ve açık ağırlık altyapısı da olmalı

  • Kore siyaset haberlerinin yorumlarına bakınca mesele, SKT’nin gerçekten Çin’le bağlantılı olup olmaması değil; AI tedarikçisi kapatma düğmesinin artık model performans spesifikasyonlarının dışına taşınmış olması
    Yabancı şirketler AI’ı iş akışlarına entegre ederken değerlendirme kriterlerine tedarikçinin sürdürülebilirliğini de eklemeli gibi görünüyor
    Şirketler için kesintisiz devamlılık önemli ve bu olay nedeniyle Anthropic’in, kendi ilan ettiği politikaların aksine, ciddi biçimde güven kaybetmesi mümkün

  • Wired’ın başlığı meseleyi yanlış anlamaya yol açacak şekilde yeniden kurgulamış. SK Telecom olayı, Fable’ın çıkışından önce zaten kapanmış bir konuydu
    Etki eden faktörlerden biri olabilir ama sonlandırmanın asıl nedeni, Fable jailbreak’i hakkındaki sektör haberleriydi ve bunun Amazon CEO’su Andy Jassy tarafından yönlendirildiğine dair haberler var
    Daha ilginç ve dürüst bakış açısı şu olurdu: Glasswing’in ciddiyetini olduğu gibi kabul eden sektör, Fable’ın çıkışıyla hazırlıksız yakalandı ve Glasswing nedeniyle ortaya çıkan aylara yayılmış hata düzeltme kuyruğu hâlâ dururken kalan risklere tamamen açıkta kaldığını hissedip daha fazla zaman kazanmak istedi
    Wired sanki özel haber yakalamış gibi görünmek için bilerek yanıltmış gibi ve bu da aslında dürüst olmayan bir habercilik olduğu için utanç verici

    • Bu teoride iki sorun var
      Birincisi, Amazon’un White House’a şikâyet etmesi ilk hamle olmazdı. Amazon ve Anthropic’in, White House’u araya sokmaktansa doğrudan birbiriyle konuşması çok daha kolay. Amazon’un, muhtemelen başka şirketlerle birlikte, Anthropic’ten Mythos seviyesinde model yayımlamamasını zaten istediğini ve Anthropic’in bunu görmezden gelip yayımladığını gösteren kanıt gerekir. Buna dair kamuya açık bir kayıt var mı?
      İkincisi, Amazon’un bulduğu jailbreak’in gerçekten var olması gerekir. White House danışmanları AI uzmanı olmadığından jailbreak’in ne olduğunu tam bilmiyor olabilir ama Andy Jassy için bu iddiayı öne sürmek çok daha zordur. İhracat kontrol emrinin gerçek nedeni jailbreak idiyse, bu jailbreak önemli olmalı ve Amazon’a somut zarar verecek düzeyde olmalı. Ayrıca Jassy’nin bunu White House’a taşıma ihtimalinin doğması için Dario tarafından daha önce reddedilmiş olması gerekir
      Ama o jailbreak’in gerçekten var olduğuna dair kanıt yok. Sadece “bu kodu düzelt” düzeyinde bir istem olduğu söyleniyor. Her hâlükârda Anthropic, sözde jailbreak’in başka modellerle zaten yapılamayan türde bir exploit çalışmasını mümkün kılmadığını kamuoyuna açıkladı
    • Wired birkaç yıldır karşı cephedeki NY Post seviyesine indi
    • Amazon işin içindeyse ve amaç Anthropic’e çelme takmak değilse, başka nasıl yorumlanabilir? Amazon’un AWS üzerinde Anthropic modellerini sunma anlaşması var; neden Anthropic’in aleyhine hareket etmek istesin ki, anlamıyorum
    • Bugünlerde çoğu başlık yanıltıcı gibi geliyor. Sosyal medya gazeteciliği mahvetti
    • Evet. Bu olayın merkezindeki şirket Amazon. Ama sadece Amazon değil; geçen hafta ben de tesadüfen Fable’ı jailbreak edebildim: https://news.ycombinator.com/item?id=48576628

  • Öyleyse neden bunu ABD içinde de kullanamıyorlar?

  • Çin 6 ay içinde benzer bir model çıkarırsa bu Fable 5 tartışmasının tamamı epey gülünç görünecek

    • Fable/Mythos, Anthropic’in çıkarım token’larını %100 gizlediği ilk model. Artık Çin modellerindeki ilerlemenin ne kadarının distillation tekniklerinden geldiğine dair çok daha fazla veri çıkacak gibi görünüyor
    • Google yapamadı, OpenAI yapmadı, Meta da yapmadı
      Çin’in neden yapabileceğini düşündüğünü anlamıyorum
      Aradaki farkın daha da açılacağından oldukça eminim
    • Kısıtlamalar olmasaydı bir aydan kısa sürerdi. Bunun nedenlerinden biri, Çin’in distillation kullanarak aynı seviyede performansa ulaşabilmesi olabilir

  • Çin sermayesinin, Kore’deki yerli şirketler ve siyasetçiler üzerinden Kore toplumunun geneline nüfuz etmesi oldukça gerçek bir durum

  • 10 yıldan uzun süre önce, birkaç yıl sonra Cisco tarafından büyük bir satın almayla alınan bir girişimde güvenlik lideri olan birinin katıldığı teknik buluşmalara gidiyordum
    Bir öğrenci Çin’in Büyük Güvenlik Duvarı’nı aşacak bir proje yapmak istiyordu ama bu güvenlik lideri, bunun aptalca ve imkânsız olduğunu söyleyip öğrencinin denememesini istedi. Bir zamanlar hacker olduğunu ve ifade özgürlüğünü desteklediğini iddia eden biriydi
    Bana göre öğrenciye bunu söylemesinin gerçek nedeni, Çin hükümetini destekliyor olmasıydı. Sonradan duyduğum çeşitli sözler beni bunun doğru olduğuna ikna etti; hatta bu girişimin Çin hükümetinden fon almış olabileceğini tahmin ediyorum
    Teknoloji liderlerinin onlarca yıl boyunca Çin hükümeti gibi katil rejimleri açıkça destekleyip hiçbir tepki görmemesi gerçekten hayal kırıklığı yaratıyor. Çin hükümeti Putin ve Rus hükümetinden çok daha kötü, ayrıca parası ve teknolojisi yaklaşık 100 kat daha fazla
    Rusya’yı destekleseydi muhtemelen aforoz edilir ve teknoloji sektöründe bir daha yer bulamazdı

  • Birçoğumuz Claude Fable ya da Mythos’tan daha iyi programcılar ve siber güvenlik uzmanları tanıyoruz
    Bu tür modellerin muazzam övgü ve temkinli muamele görmesi şaşırtıcı, ama aynı anda çok daha fazla uzmanlığa sahip insanlar gözden çıkarılıyor ve işten atılıyor

    • Böyle insanlar kesinlikle var ama nadirler, tespit edilmeleri ve işe alınmaları zor, yetişmeleri de yıllar alıyor. Mythos/Fable ise musluğu açar gibi anında kullanılabiliyor
    • Bu övgü ve ilginin tesadüf olmadığını görmezden geliyor gibisin. Bu, Anthropic’in büyük çaplı PR çalışmasının doğrudan sonucu
      AGI ve Skynet onların pazarlaması ve Dario da bu abartılı tanıtımın en ön safında
      Yanılmayın. Bu sıradan bir girişim değil; 1 trilyon dolarlık bir şirket ve rakipleri yasaklatacak şekilde politikayı etkileyecek para ile potansiyel güce sahip