Hugging Face CEO: “Açık kaynak yapay zeka ABD’nin çıkarlarıyla uyumlu”

• ABD Temsilciler Meclisi Bilim Komitesi duruşmasında Hugging Face CEO’su Clement Delangue, açık bilim ve açık kaynak yapay zekanın ABD’nin değerleri ve çıkarlarıyla güçlü biçimde örtüştüğünü vurguladı
• Delangue, PyTorch, Tensorflow, Keras, transformers ve diffusers gibi ABD çıkışlı açık kaynak araçların yapay zeka gelişimini ve ABD’nin lider konumunu desteklediğini düşünüyor
• Bu ifade, Meta LLaMA sızıntısı sonrasında senatörlerin spam, dolandırıcılık, kötü amaçlı yazılım, kişisel verilerin ihlali ve taciz gibi kötüye kullanım ihtimalleri hakkında soru sormasından 2 hafta sonra geldi
• Etik açıklığın sivil toplum, kâr amacı gütmeyen kuruluşlar, akademi ve politika yapıcılara büyük özel şirketleri dengeleyecek kapasite verdiğini ve kara kutu sistemleri azalttığını anlattı
• Hugging Face, model kartları, erişim kısıtları, kademeli yayımlar, topluluk moderasyonu ve opt-in/opt-out veri kümelerini birleştirerek açıklık ile güvenlik önlemlerini birlikte ilerletmeye çalışıyor

---

ABD Temsilciler Meclisi duruşmasında açık kaynak yapay zeka savunusu

• Hugging Face CEO’su Clement Delangue, ABD Temsilciler Meclisi Bilim Komitesi’nin Artificial Intelligence: Advancing Innovation Towards the National Interest başlıklı tam komite duruşmasında ifade verdi
• Aynı duruşmaya RAND Corporation CEO’su Jason Matheny, Lux Capital genel ortağı Shahin Farshchi, Harvard University sorumlu yapay zeka araştırmacısı Rumman Chowdhury ve Georgetown University Center for Security and Emerging Technology genel müdürü Dewey Murdick de katıldı
• Delangue, son dönemdeki yapay zeka ilerlemelerinin açık bilim ve açık kaynak temeli üzerinde mümkün hale geldiğini düşünüyor
  • PyTorch, Tensorflow, Keras, transformers ve diffusers ABD’de geliştirilmiş açık kaynak teknolojiler olarak anıldı
  • Bu teknolojiler olmasaydı ABD’nin yapay zekada lider ülke olmayabileceğini söyledi

LLaMA tartışması içinde öne çıkan etik açıklık

• Delangue’un ifadesi, senatörlerin Mark Zuckerberg’e Meta’nın açık kaynak LLM’i LLaMA sızıntısı hakkında soru yöneltmesinden 2 hafta sonra geldi
  • Söz konusu mektup, LLaMA’nın spam, dolandırıcılık, kötü amaçlı yazılım, kişisel verilerin ihlali, taciz ve diğer yanlış eylem ve zararlarda kullanılma ihtimaline dikkat çekiyordu
  • LLaMA’nın yayılmasıyla, genel kamuoyunun erişebildiği yapay zeka modellerinin gelişmişliği ciddi biçimde arttı ve kötüye kullanım ya da suistimal ihtimaline ilişkin kaygılar da büyüdü
• New York merkezli bir girişim olan Hugging Face, geçen yıl 2 milyar dolar değerleme aldı ve açık kaynak kod ile modeller için bir merkez haline geldi
  • Nisan ayında Delangue, San Francisco Exploratorium’da düzenlenen açık kaynak teknoloji buluşmasına 5.000’den fazla kişiyi topladı
• Delangue, açık bilim ve açık kaynağın yapay zekadan yararlanan on binlerce girişimi teşvik ettiğini söyledi
• Etik açıklık; sivil toplum, kâr amacı gütmeyen kuruluşlar, akademi ve politika yapıcılara büyük özel şirketlerin gücünü dengelemek için gerekli kapasiteyi sağlıyor
  • Kara kutu sistemleri engelliyor ve şirket hesap verebilirliğini artırıyor
  • Önyargının azaltılması, yanlış bilginin düşürülmesi, telif haklarının güçlendirilmesi ve sanatçılar ile içerik üreticileri dahil paydaşların tazmin edilmesine yardımcı olabilir
• Hugging Face’in yaklaşımı, kurumsal politikaları, teknik güvenlik önlemlerini ve topluluk teşviklerini birlikte ele alıyor
  • Belgeler ve Dr. Margaret Mitchell’ın öncülük ettiği model cards dahil model kartlarını içeriyor
  • Artefakt erişim kısıtları ve kademeli yayımları teknik güvenlik önlemleri olarak kullanıyor
  • Topluluk moderasyonu ile opt-in/opt-out veri kümeleri de teşvik yapısına dahil
• Son aylarda büyük dil modeli yayımlarının artması ve girişimler, topluluklar ile akademinin kapalı ve tekelci LLM’lere yönelime tepki göstermesiyle açık kaynak yapay zeka tartışması daha da hararetlendi

[GN⁺]

Hacker News görüşleri

• Bu, sistemin nasıl işlediğini gösteren kusursuz bir küçük ölçekli örnek. Bu kişi haklı ama çok geç kaldı, parası yetersizdi ve yeterince ilgi de görmedi
  Öte yandan Sam Altman, güçlü bir pazarlama ekibi ve hatta lobicileri olan, tüketiciye dönük bir ürünün vitrindeki yüzü; Microsoft’tan milyarlarca dolar aldı ve herkesin ücretsiz deneyebileceği bir ürünü de var
  Yapılması gereken önce ortaya çıkıp yapay zeka riskleri söylemini yaymak, sonra da en ileri teknolojinin tehlikeli olduğuna milletvekillerini ikna etmek. OpenAI kısa sürede en ileri teknolojiyle eşanlamlı gibi algılanınca insanlar sektör liderini takip ediyor ama onların nereye gittiğine gerçekten bakmıyor ve sonuçta buraya geliyoruz
  Keşke açık kaynak yazılım mahkemede adil biçimde temsil edilseydi ama fikirler kendi masrafını karşılayamıyor ve paranın sesi fazla gür çıkıyor

  • Altman Kongre’yi “en ileri yapay zeka tehlikelidir” diye ikna etmeye gitmedi; Blumenthal onu medyaya gösterilecek bir gerekçe oluşturmak için davet etti
    Kongre, sosyal medyayı başıboş bıraktığı için baskı hissediyor ve yapay zekayı düzenlemek için can atıyor. Duruşmada anlamlı bir görüş ayrılığı yoktu; hükümetle sektörün niyetleri tamamen örtüşüyordu. Merkezileştirilmiş kontrol için kırmızı halı seriliyor ve düzenlemelerle rekabet ortadan kaldırılıyor
  • Hükümetin çıkarları OpenAI tarafıyla daha uyumlu olacaktır ve açık kaynak/yerel modelleri ortadan kaldırmamak hatta aptalca bile sayılabilir
    Yerelde çalışan şeyler, dinleme ve gözetim yapılabilen ağ sınırlarını aşıyor. Google’a sormak kayıt altına alınır ve arama geçmişi mahkeme celbiyle elde edilebilir; halk kütüphanesi ödünç kayıtları da öyle. OpenAI gibi geçit bekçisi şirketler bu rolü üstlenip geçiş ücreti alabilir
    Aynı araştırmayı Vicuna-13B-ggml gibi bir şeyle yaparsanız kimse ne yaptığınızı sniff edemez. Yalnız kalmak isteyen biri için iyi görünebilir ama daha kötü niyetli kullanıcıları durdurmak zorunda olanlar açısından bunun ürkütücü sonuçları var
    Ne yazık ki bu tür konularda uzlaşma neredeyse imkansız. En iyi seçenek, Hollanda’daki son yasada olduğu gibi yeterince güçlü gerekçe varsa devletin kişisel cihazlara sızabilmesi olurdu ama öyle olmayacak. Hükümet açısından işe yarayan tek alternatif, yerel modelleri ve bunların açık kaynak geliştirilmesini doğrudan yasaklamak
  • Kamuoyunda OpenAI’nin adından dolayı açık kaynak ile yanlış ilişkilendirilmesi de korkunç. Bu yüzden taban tabana zıt iki yaklaşım kamuoyu gözünde birbirine karışmış görünüyor
  • Gerçekten çok geç kaldığını mı düşünüyorsun? Daha yolun başında değil miyiz?
  • İyimser olmak için bir neden şu: yapay zekayı kapatmak isteyen lobicilerin karşısında Kongre’nin bugünlerde iş çıkaramama gibi bir zayıflığı var ve bu konuda statüko “hiçbir şey yapmamak” demek
    Statükonun direncini aşmak için büyük halk desteği gerekir ama böyle bir destek yok ve parayla satın alması da çok pahalı

• Açık kaynak, savunduğumuz değerlere daha yakın sağlıklı bir dijital toplum kurmanın vazgeçilmez bir parçası
  Yapay zeka önemli ama bu daha geniş dönüşümün sonunda küçük bir bölümü. Ekonomik yaşamın temellerini sarsmayı hedefleyen Bitcoin’in de açık kaynak olduğunu hatırlamak gerekir
  Toplum ölçeğinde açık kaynak kapasitesi yerleştirmeye yönelik evrim süreci ne otomatik ne de açıkça iyi. Yukarıdaki kripto para örneği bunu gösteriyor
  Hâlâ hayal edilmesi, geliştirilmesi, sınanması ve yayılması gereken çok sayıda teknoloji, kurum ve davranış biçimi var. Bu, bugünün ve geleceğin dijital “toplum” mühendislerinin sıvayıp çözmesi gereken iyi bir görev
  Distopya dışında başka bir evren düşünmekte zorlanıyorum. Bireysel özne olma, özgürlük, demokratik denetimle ahlaken uyumlu ve aynı zamanda kendi teşvikleri konusunda entelektüel olarak dürüst bir tekelci vizyon sunulduysa gerçekten merak ederim

• Hugging Face CEO’su iyi iş çıkardı. Arkadaşlarımla ve ailemle 5 dakikalık bir YouTube bağlantısı paylaştım; açık modellerin ve açık kaynağın avantajlarını çok iyi açıklıyordu

  • Video bağlantısını verebilir misin?

• Bu örnek, bu durumda açık kaynak ile özgür yazılım arasındaki farkın epey önemli hale geldiği bir vaka gibi geliyor

  • LLM alanında, kaynak kodu ya da ağırlıkları sızdırılmış modellere “açık kaynak” denmesine gerçekten son verilmesini isterdim
    Kasıtlı olarak yayımlanmış olsalar bile, lisansı “ticari olmayan kullanım” ile sınırlayan ya da yalnızca yayımlayan şirketle “rekabet etmeme” durumunda ticari kullanıma izin veren modeller için de aynı şey geçerli
  • Anlambilime fazla takılmasak bile burada önemli olan, fikirlerin, algoritmaların ve bazı kodların serbest dolaşımı
    Son 20 yılda bu alandaki ilerleme bu dolaşım sayesinde inanılmaz hızlandı. Şirketler sonuçları kendilerine saklayıp gizli soslarını korumak yerine pek çok ayrıntıyı paylaşıyor; birbirlerinin sonuçlarını yeniden üretip geliştirerek doğruluyorlar
    OpenAI ChatGPT’yi yaptı, Meta Llama’yı yaptı, Google da Bard üzerinde çalışıyor. Llama bir ölçüde açık kaynak topluluğuna açıldı ve insanlar artık onu kullanıyor, geliştiriyor, kendi modelleriyle ve benchmark’larıyla karşılaştırıyor
  • Açık kaynak her zaman önemli. Açık kaynak olmadan iyi bir geliştirici yetiştirme hattı oluşturmak zor. Diğer mühendislik alanları da benzer bir şeyi hedeflemeli. Tabii bu, kapalı kaynak yazılım var olamaz demek değil
    En azından görüntü üretiminde, eğitim crowdsourcing ile yürüdükçe açık modeller artık çok daha iyi sonuç veriyor gibi görünüyor
  • Dürüst olmak gerekirse bana tam tersi gibi geliyor. Ne kadar çok açık kaynak yazılım olursa o kadar iyi ama LLM’lerin açık kaynak olması, benim gördüğüm LLM’lerin en büyük riskini çok da azaltmayacak gibi

• Hugging Face’in bu şekilde haberlere çıktığını görmek tuhaf. 2019 yazı civarında yıldızı 4 bin kadarken bir düzeltme yaması katkısında bulunduğumu hatırlıyorum; o zaman da oldukça popüler bir proje olduğunu düşünmüştüm

  • 5 yıl sonrasını hayal et ;)

• Hugging Face’in nihai amacı ne? Yapay zeka için GitHub olmak mı?

  • Hugging Face CEO’su olarak konuşuyorum. Açık bilim ve açık kaynak sayesinde iyi türden bir yapay zeka demokratikleşmesini destekleyebiliyorsak, umarım öyle olur. Sence bu faydalı mı?
  • Arayüzü GitHub’a yaklaşık %90 benziyor, o yüzden bu oldukça açık görünüyor
    Yapay zeka modeli eğitimi ve inference çalıştırma tarafına da genişlemeye çalışıyorlar. Ama inference maliyetleri CoreWeave gibi GPU sağlayıcılarıyla karşılaştırıldığında pek rekabetçi görünmüyor
  • Her ne olursa olsun, Microsoft ya da Google gibilerinin eline geçmemesini gerçekten, gerçekten, gerçekten, gerçekten umuyorum. Tabii sonunda öyle olur ve ardından enshittification gelir
  • Zaten öyle değil mi?
  • AWS tarafından satın alınması mı?

• Sosyal medyada hâlâ oldukça erişilebilir biri olması güzel

• Kongre neden yazılım, açık kaynak, yapay zeka gibi alanlara kadar karışıyor ki?

  • https://www.archives.gov/founding-docs/constitution-transcri...
    Kongre, yabancı ülkelerle, eyaletler arasında ve Kızılderili kabileleriyle ticareti düzenleme yetkisine sahiptir

• Bittensor projesine baktı mı, bu konuda ne düşünüyor merak ediyorum. Entegrasyon düşünmeye değer mi?
  Bunun gibi projelerin açık kaynak yapay zeka hareketine yardımcı olabileceğini düşünüyorum

• Hugging Face’teki modellerin çoğu zaten açık kaynak değil, tuhaf RAIL lisansları altında değil mi?

  • En azından GitHub’da projelerinin çoğu MIT ya da Apache 2.0 lisanslı. Benim kaçırdığım bir şey mi var?