Frontier'ın Sonu

• Anthropic'in Mythos duyurusu, internetin artık herkesin özgürce keşfedip yaratabildiği izinsiz bir yaratım alanı olmadığını gösteren bir dönüm noktası oldu
• Emek ve zekanın sermayeyle ikame edilmesi, az sayıdaki şirketin yapay zeka çağında kalıcı üstünlük elde ettiği bir yapıyı kalıcı hale getiriyor
• Kapalı model politikaları ve API erişim kısıtları, güvenlik gerekçesiyle savunulsa da hem yeniliği hem de güvenlik araştırmalarını aynı anda zayıflatıyor
• Zekaya erişimde temel ilke erişim önce olmalı; şirketler şeffaf süreçler ve denetlenebilirlik sağlamalı
• Tüm insanlığın verileriyle eğitilen modellerin az sayıda aktör tarafından tekelleştirilmesini sağlayan sömürgeci değer çıkarımı yapısına karşı uyarırken, internetin açıklığını ve yaratıcılığını korumak gerektiğini savunuyor

---

Frontier'ın Sonu

• Anthropic'in Mythos duyurusu, internetin artık herkesin özgürce keşfedip yaratabildiği izinsiz bir alan olmaktan çıktığını gösteriyor
  • Geçmişte sermaye ya da bağlantıları olmadan herkes internetle aynı teknik altyapıya erişebiliyordu; bugün ise açık modellerle kapalı modeller arasındaki uçurum büyüyor
  • Bu durum, ABD'nin batıya açılma dönemindeki "frontier'ın kapanışı"na benzetilen bir fırsatların sonu olarak tarif ediliyor
• Emek ve zekanın sermayeyle ikame edildiği yapı derinleşirken, sermayeyi elinde tutan gruplar yapay zeka çağında kalıcı üstünlük kazanıyor
  • Rudolf Laine bunu "sermayenin insanüstü emeğe dönüştüğü çağ" diye tanımlarken, George Hotz buna 'neofeudalism' adını veriyor
  • Son derece az sayıda şirketin zekanın kendisini tekelleştirmesi halinde geri kalanların kalıcı bir alt sınıfa dönüşebileceği uyarısı yapılıyor
• Anthropic'in Mythos'u kapalı tutma politikası, yalnızca bir güvenlik önlemi değil; özel şirketlerin devlet düzeyindeki yetenekleri tekelleştirdiği bir yapı olarak eleştiriliyor
  • Anthropic, AWS, Apple ve Google ile birlikte Project Glasswing'i duyurdu ancak genel kullanıma açmadan yalnızca kurumsal ortaklara erişim verdi
  • Bu da güvenlik olayları veya bilgi sızıntıları yaşandığında riski artırıyor ve devlet düzeyindeki yeteneklerin özel şirketlerde yoğunlaştığı demokratik olmayan bir durum yaratıyor
• API erişim kısıtları, kötüye kullanımı önlemeye yardımcı olsa da aynı zamanda yeniliği ve güvenlik araştırmalarını bastırıyor
  • Açık erişim, modelin potansiyel yeteneklerini görünür kılar ve gerçek ortamda hızlı başarısız ol ve düzelt yaklaşımını mümkün kılar
  • Geçmişte fuzzer aracı (American Fuzzy Lop) kullanımının güvenliği güçlendirmesi gibi, frontier modellere erişimin genişletilmesi de güvenlik kapasitesini artırabilir
  • Ancak bugün yapay zeka güvenliği araştırmacıları büyük modellere erişemedikleri için çoğunlukla Çin açık kaynak modellerini kullanıyor
• Zekaya erişimde temel ilke erişim önce olmalı ve güvenlik katmanları bunun üstüne inşa edilmeli
  • Devlet düzeyinde kabiliyetlere sahip şirketlerin adil süreçler ve şeffaf ölçütler oluşturması, erişim kısıtlandığında da gerekçeleri açıkça paylaşması gerekiyor
  • Frontier modellere erişimin kesilmesi, toplumsal dışlanma açısından 'unbanked' duruma benzer bir etki yaratıyor
  • FOIA (Bilgi Edinme Özgürlüğü Yasası) düzeyinde denetim yükümlülüğü isteniyor
• Tüm insanlığın verileriyle eğitilmiş modellerin az sayıda şirket tarafından tekelleştirilmesi, sömürgeci değer çıkarımı yapısına benziyor
  • Veriyi sağlayan çoğunluğun onayı olmadan değer çekilip alınıyor ve kazançlar iç ağlarda yoğunlaşıyor
  • Sonrasında UBI veya hayırsever bağışlar üzerinden ahlaki meşruiyet üretme kalıbı tekrarlanıyor
  • Niyet kötü olmasa bile gücün yoğunlaşmasıyla ilgili yapısal sorun değişmiyor
• Yapay zekanın kişiselleştirilebilirliği konusunda da umutlu bir çerçeve sunuluyor
  • Bugünün kapalı yapay zeka dönemi belki de yalnızca mainframe çağı ve önümüzde kişisel bilişime (Apple II) geçiş olasılığı var
  • Açık kaynak modeller şimdiden 3 ila 12 aylık farkla frontier'ı yakalıyor; çip ve enerji arzı genişlerse "ölçülemeyecek kadar ucuz zeka" çağı gelebilir

• 'Wired'ın özgürlüğünü kaybetmemeliyiz

  • Şehirlerin güvenlik gerekçesiyle yaşlı ağaçları kesmesi gibi, aşırı güvenlik mantığı yüzünden internetin açıklığını ve yaratıcılığını kaybetme riski var
  • İnternet hâlâ birey odaklı yaratım ve keşfin son alanı ve bunu korumak büyük önem taşıyor

[tkddls8848]

Pazarlama abartısı gibi geliyor. Her yeni model çıktığında her seferinde tarihin en iyisi deniyor. İnsan çağının sonu geldi. Kodlama bitti, artık tesisatçı olmak lazım gibi yaratıcı abartı ifadeleri ortalığı doldurdu ama iş gerçek kullanıma gelince sorunlar vardı ve en önemlisi, insanların büyük çoğunluğu hâlâ en fazla gelişmiş bir arama motoru kullanır düzeyde kaldığı için güçlü modellerden %100 verim alamıyor. LLM çağındaki darboğaz ne kod ne de altyapı; paradoksal biçimde, prompt gönderen genel kitlenin bilgi sistemlerine dair düşük anlayış seviyesi.

[hmmhmmhm]

Bu aralar 31B modellerin ortaya çıkışına bakınca gerçekten inanılmaz... en azından şimdilik biraz umut var gibi görünüyor

[GN⁺]

Hacker News görüşleri

• Duyurulalı daha bir hafta olmuşken şimdiden böyle tartışmaların çıkması bana çok erken geliyor
  “Bu model halk için fazla güçlü” sözü bir pazarlama mesajı gibi duruyor
  Birkaç ay sonra yine başka bir model satacaklar, ardından da “yeni model o kadar güçlü ki yayımlayamayız” diyecekler gibi geliyor

  • Bence ille de öyle değil. “Fazla güçlü” demek basitçe maliyet/fayda oranının düşük olduğu anlamına da gelebilir
    Mythos çok yavaş olduğu için interaktif kodlama için uygun değil deniyor. Sonuç almak için geceyi aşmak gerekiyorsa çoğu kullanıcının bunu tercih etmesi için bir neden kalmıyor
    AI laboratuvarları hâlâ zarar ediyor ve Mythos’u sunmak için çok daha yüksek fiyat biçmeleri gerekir. Müşterilerin çoğu bu farkı hissedemeyecekse bunun ekonomik bir anlamı yok
    Muhtemelen Anthropic, OpenAI’ye kıyasla daha büyük eğitim veri merkezi erişimini kullanmak istemiş olabilir. Ama şu anda gereken şey daha akıllı modeller değil, küçük, ucuz ama yeterince iyi modeller
  • Eskiden OpenAI’nin GPT-2’yi “fazla tehlikeli olduğu için yayımlayamayız” dediği olayı hatırlatıyor
    Mythos da o zamankinden farklı görünmüyor
  • Bu tür “fazla tehlikeli” söylemi fiilen aktivistlerin pazarlama aracına dönüşmüş durumda
    AI geliştirmeyi yavaşlatmak isteyenler bu söylemi yayarak ilgi çekti ve sonuçta AI’nin yayılmasına katkı sağladı
    2011 civarında bu olguyu ele alan ilginç bir çalışma da vardı; İsveç markası Cheap Monday örneğini hatırlıyorum
  • Anthropic’in insanlık için bir tür vesayet bilinci taşıdığını düşünüyorum
    Erişimi sınırlamanın güvenliğin özü olduğuna inanıyor gibiler
    Ama bu tavır sadece azınlığa fayda sağlayıp çoğunluğu dışarıda bırakıyorsa, bunun meşruiyetine halk karar vermeli
  • Mythos’un tehlikeli olduğu iddiası, bu modelin yazılım açıklarını otomatik bulma yeteneğinden kaynaklanıyor
    Böyle bir özellik herkese açık bir API üzerinden verilirse kötüye kullanılma ihtimali yüksek
    Zaten AI kullanılarak yapılan büyük ölçekli dolandırıcılık ve deepfake örnekleri çoktan var
    Açık kaynak koda “mümkün olan tüm açıkları bul” komutu verildiğinde mevcut modellerden çok daha fazla sonuç üretiyorsa, sınırlı erişim mantıklı bir tercih olur

• Anthropic’in erişimi yalnızca Crowdstrike, Cisco, Microsoft gibi güvenlik şirketlerine vermesi anlaşılır
  Glasswing’in amacı altyapı güvenliğini güçlendirmekse, güvenlik olayı yaşadılar diye onların erişimini engellemek tuhaf olurdu
  Mythos bir gün yayımlanabilir ama bu sınırlı erişim, güvenli bir yayıma hazırlanma süreci gibi görünüyor

• NVIDIA bu kaygıları gidermek için Nemotron geliştiriyor
  Nemotron, yalnızca açık ağırlıkları değil, açık veri ve açık reçeteyi de paylaşan bir model
  Hedef, birçok kurumun iş birliğiyle açık AI üretmek
  Nemotron 3 Super şu anda en başarılısı ve yakında Ultra ile Nemotron 4 de gelecek
  AI büyüdükçe NVIDIA’nın fırsatları da arttığı için mümkün olan bir strateji
  İlgili bağlantı

• “16 yaşındaki birinin sermaye olmadan bir şey inşa edebildiği dönem” sözü bugün gerçeğe daha yakın

  • Ama bu modeller yayımlanmazsa o özgürlük ortadan kalkacak
  • Şu anda herkes bir şey yapabiliyor ama çok fazla kişi yaptığı için artık dağıtım gücü ve bilinirlik yeni sermaye haline geliyor
  • Yaratıcılık ve yapılan iş kendi kendine konuşabilir ama sonuçta gelir elde etmek için dağıtım şart
  • Sonuçta bu vaat her yeni teknolojide tekrar ediliyor ve çoğu zaman daha kötü bir çalışma ortamıyla bitiyor

• Anthropic’in Mythos’u yayımlayamamasının nedeni hesaplama kaynağı yetersizliği
  OpenAI bu yıl ve gelecek yıl çok daha fazla hesaplama gücü elde edecek

  • Bence de asıl sebep bu. Kaynak eksikliğinin iyi niyet ambalajına sarılmış bir pazarlama olduğu izlenimini veriyor
  • Eğer Mythos gerçekten çığır açıcıysa, Anthropic ile OpenAI arasında bir birleşme ihtimali de ilginç olurdu
  • Kaynak yetersizse bir hesaplama müzayedesi de açılabilirdi. Büyük şirketler yüksek bedel ödemeye istekli olurdu; o fırsattan neden vazgeçildiği soru işareti

• Mythos’un diğer modellerden çok farklı olmaması açısından, “henüz çok erken” görüşüne katılıyorum
  Yine de AI eleştirmenlerinin öne sürdüğü “büyük şirketler toplumu yağmaladı” çerçevesi, bana göre fikri mülkiyet kavramının yanlış anlaşılmasından kaynaklanıyor

  • Sonuca katılmıyorum ama “toplum yağmalandı” ifadesinin birçok insanın hissettiği mağduriyet duygusunu iyi anlattığını düşünüyorum

• Anthropic, Mythos’u saklamak yerine bunu kurumsal güvenlik denetim hizmeti olarak kullansa iyi olurdu
  Modelin altyapıya saldırıp açıkları bulduğu bir hizmetin kârlılığı da yüksek olurdu

  • Ama pratikte PR riski büyük
    Örneğin popüler bir npm paket yöneticisi paraya sıkışıp Mythos’la kendi kütüphanesini denetletirse ve bir ay sonra hacklenirse, bu büyük sorun olur

• “Elektrik şebekesi” benzetmesi etkileyiciydi
  Güneş enerjisinde olduğu gibi bireyler elektrik üretebilir ama çoğu insan fatura ödeyip elektriği kullanır
  Aynı şekilde zekâya erişim hakkı da temelde herkese açık olmalı
  Tehlikeli kullanım güvenlik önlemleriyle sınırlandırılabilir ama varsayılan durum erişime izin vermek olmalı

• İnsanlık her zaman ‘canavar gibi teknolojileri’ vazgeçilmez hale getirme ayartısına kapılıyor
  Ama böyle canavarlar uzun süre kafeste tutulamaz. Sonunda kontrolden çıkarlar

• ABD’nin frontier dönemi fırsatları istisnai bir olguydu
  Hızlı genişleme dönemlerinde bireyler yükselebiliyordu ama durgunluk gelince şirketler bireyleri eziyor
  Teknolojik ilerleme hızlandıkça bireylerin dünyayı yok edebilecek seviyeye ulaştığı bir döneme giriyoruz
  Nükleer silahlarda olduğu gibi, AI için de artık bireysel erişimin sınırlandırılması gereken bir noktadayız

  • Bugün 16 yaşındaki birinin unicorn kurması piyangoyu kazanmak kadar düşük bir ihtimal
    Başarılı olmak için ünlülerle bağlantılı bir hizmet olmak gerekiyor
  • Frontier mitinin arkasında trajedi ve fedakârlık vardı. Bunun yerli halkların ölümü üzerine kurulmuş bir mit olduğunu unutmamak gerekir

[cnaa97]

Nasıl olsa rakiplerin hepsi peşinden gelir zaten haha "Hadi bakalım, şimdi dövüşün."

[happing94]

Ama bu yeni bir kavram değildir herhalde?
Finans sektöründe de tüm ülkelerin yasalarının ötesine geçen tek bir finans merkezi var ve tüm finans sistemi oradan kontrol ediliyor.
IT de artık öyle; bir IT merkezi kurulup IT şirketleri kendi aralarında kontrolü sağlayarak tüm ülkelere karşı duruyor diye düşünülebilir.
Bir de Claude'un performansına bakınca bu anlaşılabiliyor

[vwjdalsgkv]

Finans merkezi derken Yahudi ağı gibi belirli bir grubu mu, yoksa Hong Kong, Singapur gibi basit aracılık merkezlerini mi kastediyorsunuz?
SWIFT ya da ödeme takası gibi yapılar fiilen büyük güçlerin elinde diye görmek gerekir.
Karşı koymaktan ziyade, daha çok güçlü tarafın aracı olarak kullanılıyorlar.
Ben bu açıdan bakınca, bu yazının da asıl niyetine uygun biçimde güçlü olanın aracı haline gelmesi daha doğal görünüyor.

[tsboard]

Bence pazarlama tarafı hâlâ biraz fazla güçlü görünüyor.

[botplaysdice]

Doğrusu, aşırı uçta sonsuz yeteneklere sahip bir model yaratılırsa, o modeli kamuya açmak için bir neden olmayabilir gibi görünüyor. Sonuçta kullanım ücretinden daha yüksek katma değeri kendi başına üretebilir...

[ndrgrd]

Eğer doğru şekilde kamuya açılmaya zorlanırsa, emek ve zekanın yer değiştirmesiyle tarihte tek bir kez bile var olamamış komünizm tersine gerçeğe dönüşebilir.

[sunghyunzz]

Düşünmediğim bir noktaya işaret eden güzel bir yazı olmuş. Teşekkürler!

[kaboom45]

GLM5.1 gibi şeylere bakınca, açık modellerin az da olsa bir fark kalsa bile ücretli kapalı modelleri istikrarlı biçimde takip edebileceğini düşündüm.

[jjw9512151]

Sanırım beklenen bir şeydi.. Teknolojinin büyüye dönüştüğü ve az sayıdaki büyücünün her şeyi tekelinde topladığı bir çağ..

[kimjoin2]

B2B'yi icat eden Anthropic mi?