Birçok AI güvenliği kuruluşu, şu anda mevcut olan açık kaynak AI’ı suç saydırmaya çalışıyor

• LLM kullanıcıları arasında, AI güvenliği kuruluşlarının kullandıkları açık kaynak LLM’leri yasaklamaya çalıştığı yönünde şikâyetler dile getirilmişti; ancak bunun yanlış yayılmış bir söylenti olduğu iddia edildi
• Ancak bu iddia doğru değil. Gerçekte birçok AI güvenliği kuruluşu, "halihazırda mevcut modellerin açık kaynak olarak yayımlanmasını suç sayacak yasa tasarılarını" desteklemişti
• Bu kuruluşlardan bazıları iyi finanse ediliyor ve politika yapıcılarla giderek daha güçlü bağlar kuruyor

AI güvenliği kuruluşlarının yasa önerileri

• Center for AI Safety: AI güvenliği araştırması ve savunuculuğuna odaklanan, iyi finanse edilen bir kuruluş. NTIA’ya sunduğu düzenleme önerisinde "güçlü AI sistemleri"ni tanımlıyor ve bu sistemlerin açık kaynak olarak yayımlanmasını fiilen yasaklayan gereklilikler öne sürüyor.
• Center for AI Policy: Washington D.C. merkezli bir lobi kuruluşu. İlk önerdiği kurallara göre, daha önce yayımlanmış olan Llama-2 bile yeni bir kurumun düzenlemesine tabi olacaktı.
• Palisade Research: Politika yapıcılara ve kamuoyuna AI riskleri konusunda danışmanlık vermek için tehlikeli yetenekleri somut biçimde göstermeyi amaçlayan bir kâr amacı gütmeyen kuruluş. Hükümete Llama 2’nin yayımlanmasını durdurma çağrısı yaptı.
• The Future Society: AI’ı daha iyi yönetişimle uyumlu hale getirmeyi hedefleyen bir düşünce kuruluşu. "Type 2" GPAI için katı gereklilikler öneriyor ve açık kaynak modellerin bunları karşılayamayacağını açıkça belirtiyor.

AI güvenliği kuruluşlarının etkisi

• Bu kuruluşlar, politika ve hedeflerini oldukça açık ifade edenlerin yalnızca bir kısmını oluşturuyor.
• Politikaları daha belirsiz olan başka kuruluşlar da var ve bunlar da sonuçta açık kaynak yayıma karşı bir tutum benimsiyor.
• AI güvenliği kuruluşları geçmişte istedikleri doğrultuda yasa çıkarmış olsaydı, bugün yaygın biçimde kullanılan modeller yasaklanmış olacaktı.
• Bu kuruluşlar hâlâ benzer adımları geçirmeyi umuyor ve açık kaynak AI hareketi, yasama düzeyinde bu kuruluşların gerisinde kalıyor.

GN⁺ görüşü

• AI güvenliği kuruluşlarının önerileri, açık kaynak AI’ın gelişimini sınırlama ve şirket tekellerini güçlendirme riski taşıyor.
• Açık kaynak AI, araştırma ve inovasyon için kritik önemde; bunu sınırlamak teknolojik ilerleme üzerinde olumsuz etki yaratabilir.
• Bu yazı, açık kaynak AI’a yönelik hukuki kısıtlamaların şu anda da gündemde olduğunu gösteriyor; bu da AI teknolojisinin demokratikleşmesi ve erişilebilirliği açısından önemli sonuçlar doğurabilecek bir konu.

[kuroneko]

Sanki her yeni teknoloji çıktığında bunu yaşıyoruz.

[GN⁺]

Hacker News görüşü

• Yapay zeka güvenliği uzmanlarının ikiyüzlü olduğu yönünde eleştiriler var. Söylediklerini gerçekten uygulayacak olsalar, tüm yapay zekanın yasaklanmasını savunmaları gerekirdi. Yapay zekanın zararlı etkileri, ağırlıkların açık olup olmamasından bağımsız olarak zaten ortaya çıkıyor; özellikle de intihali gizleyip internete teknik olarak farklı kelimelerle yeniden kurulmuş aynı metni spam olarak göndermek, yapay zekanın en kârlı kullanım biçimi olarak gösteriliyor.
• Açık kaynak yapay zekanın sonunun yaklaşıyor olmasının bir başka nedeni de, eğitim verileri lisanslanmaya başladığında işin bitecek olması. Birçok kişi, OpenAI ve Midjourney'nin açık kaynak yapay zekanın hayatta kalması için gerekli olan şeyler — yani ince ayar yapmak ya da sıfırdan eğitmek — konusunda yarattığı duruma öfkeli. Politikacılar bunu bir platform meselesi haline getirdiği anda, şirketlerin eğitim verilerini istedikleri gibi kullanmasını engelleyecek şekilde yasaların yeniden yazılması muhtemel görünüyor.
• Güvenliğin birden çok türü var. Örneğin çıkarların korunması da bir güvenlik türü. Yapay zeka alanındaki yerleşik şirketler için lobi faaliyeti yürütüyor gibi görünen çok sayıda kuruluş var. Microsoft'un lisans uygulama çabalarının da bu stratejiyi kullandığı hatırlatılıyor.
• "Yapay zeka güvenliği" terimi altında birbirinden farklı birçok fikir toplanması pek yardımcı olmuyor. Örneğin "güvenli", politik olarak doğru çıktılar, pornografi olmaması, büyük ölçekli toplumsal/seçim manipülasyonu ve güçlü yapay zeka nedeniyle insanlığın yok olması gibi başlıklar var; bunların ortak noktası neredeyse hiç yok ve bu da tüm tartışmayı verimsiz hale getiriyor.
• Hükümet, halkın "AI"yi kendi kontrolü ve denetimi olmadan kullanabilmesinin kendi iktidarını genişletme kapasitesini azalttığını biliyor. Makalenin de gösterdiği gibi, bu "think tank"ler Llama 2'nin tekrarını önlemek için şimdiden zemin hazırlıyor. Bize gereken şey bir yapay zeka Stallman'ı; FOSS yapay zeka modelleri de 80'ler ve 90'larda FOSS UNIX için yürütülen hareket gibi bir harekete dönüşmeli. Ancak bu konuda Stallman'a yazıldığında, ilgisiz ya da yenilgici bir tavır sergilediği ve model ağırlıkları için GPL fikrini büyük ölçüde görmezden geldiği söyleniyor.
• Yapay zeka güvenliği uzmanlarının çoğu, vaaz ettikleri şeye gerçekten güçlü biçimde inanıyor gibi görünüyor. Haklı olup olmadıkları ise bambaşka bir tartışma. Ancak yapay zeka güvenliği finansmanının, düzenleyici ele geçirme ya da bir tür korumacılık tarafından en azından kısmen motive edildiği açık.
• Mevcut kontrol ya da güç sistemlerinin kendilerini yeniden üretme arzusunu hafife almayın.
• İyi niyetli birçok yapay zeka güvenliği araştırmacısı var, ancak aynı zamanda "yapay zeka bana var, sana yok" türünden çifte standardı açığa vuran bir güvenlik ikiyüzlülüğü de görülüyor.
• Veri lisanslama büyük bir darboğaz olacak.
• Sansürsüz çıktılar, açık kaynak modeller aleyhine karanlık ya da gri alanlarda kullanılabilecek bir koz haline gelecek.
• Açık kaynak ile kapalı kaynak modeller arasında hesaplama gücü ve model boyutu açısından büyük bir fark var. 7B açık kaynağa karşılık gelirken, kapalı kaynak tarafı bundan çok daha büyük olacak.
• Bu kuruluşların FLOP eşiklerini adlandırıp MMLU'yu ilgili değerlendirme metriği olarak benimsemesi biraz gülünç görünüyor. Sanki çeşitli kuruluşlar benzer eşikleri birbirinden kopyalayıp yapıştırmış gibi. Hesaplama maliyeti ucuzladıkça bu eşikler de giderek ucuzlayacak. Dönüp baktığımızda bunu dar görüşlü ve kısa vadeli bir yaklaşım olarak görebiliriz.