Hükümetlerin, şirketlerin ve kâr amacı gütmeyen kuruluşların özgür ve açık kaynaklı yapay zekaya yatırım yapması neden gerekli
(siegelendowment.org)- Yazılım hem ticari bir varlık hem de paylaşıldıkça gelişen bir bilgi sistemidir; GCC ve GNU/Linux'un gösterdiği gibi açık kaynak, modern internetin ve teknoloji endüstrisinin dayandığı temel altyapıdır
- Kod kamuya açıldığında dünyanın dört bir yanındaki geliştiriciler hataları bulup düzeltebilir ve yeni nesil mühendisler en ileri sistemlerin nasıl kurulduğunu öğrenebilir; bu nedenle şeffaflık hem güvenliğe hem de yetenek yetiştirmeye katkı sağlar
- En ileri yapay zeka birkaç şirketin kapalı modellerinde yoğunlaştığında, araştırmacıların inşa sürecini ve eğitim verilerini doğrulaması zorlaşır; yapay zekaya dayanan bilimsel, tıbbi, mühendislik ve yargısal kararlar da tam olarak denetlenemez hale gelir
- Yapay zeka yazılımının kendisi doğrudan yetenek anlamına geldiği için kamuyla paylaşılmasına bağlı riskler vardır; ancak kapalı modeller de sızıntılara ve jailbreak girişimlerine açıktır ve birkaç şirketin hangi teknolojilere izin verileceğini belirlediği bir güç yoğunlaşması da yaratır
- Her açık kaynaklı yapay zekanın en ileri modellerin ölçeğini yakalaması gerekmez; hükümetler, şirketler ve kâr amacı gütmeyen kuruluşlar kamusal bilgi işlem desteğine, üniversite ve kâr amacı gütmeyen araştırmaların finansmanına ve kamu fonuyla geliştirilen yapay zekanın varsayılan olarak açık olması ilkesine yatırım yapmalıdır
Özgür yazılım etrafındaki tartışma
- 1980'lerde MIT AI Lab'de Richard Stallman ile yaklaşık iki yıl tartışırken, yazılımın gelişmesi için şirketlerin kod üzerinde tekelci denetim kurmasının gerekli olduğu yönündeki yaygın görüşü benimsiyordum
- Stallman, yazılımın bilgiyi taşıyan bir ortam olduğunu, bu yüzden herkesin onu kullanabilmesi, inceleyebilmesi ve geliştirebilmesi gerektiğini; şirket içinde kodu saklamanın aslında bilginin kendisini gizlemek anlamına geldiğini savunuyordu
- Her iki taraf da bilgisayarların insanlığın ilerlemesini hızlandıran temel araçlardan biri olduğu konusunda hemfikirdi, ancak bu hedefe nasıl ulaşılacağı konusunda ayrışıyordu
- Tartışmalar ilerledikçe, yazılımın yalnızca ticari bir varlık değil, paylaşıldığında güçlenen bir bilgi sistemi olduğu fikri daha ikna edici hale geldi
- Kullanıcılara yazılımı inceleme, değiştirme, geliştirme ve paylaşma özgürlüğü tanınması gerektiğine dair Stallman'ın ilkeleri, özgür yazılım hareketinin ve sonrasında açık kaynağın temelini oluşturdu
GCC ve GNU/Linux'un kanıtladığı açık geliştirme
- Stallman'ın oluşturduğu GCC, dünyadaki kodu bilgisayarların çalıştırdığı makine diline dönüştürür ve bugün hâlâ kullanılan temel programlardan biri olmayı sürdürür
- Bu başarı yalnızca bireysel bir çalışmanın değil, binlerce kişinin katkısının ürünüdür
- Aynı açık geliştirme ruhundan doğan GNU/Linux, bugün internetin büyük bölümünü çalıştırmaktadır
- Modern teknoloji ortamı, açık geliştirme ilkelerine ve açık kaynağa büyük ölçüde bağımlıdır
Açıklığın güvenlik ve öğrenme üzerindeki etkisi
- Başlangıçta bilgisayarları güvenli tutmak için yazılımı gizlemek gerektiğini savunan gizleme yoluyla güvenlik anlayışı başlıca karşı argümandı
- Şeffaf yazılımda dünya çapındaki geliştirici topluluğu sorunları tespit edip düzeltebilir; kapalı yazılımda ise kimsenin iç yapıya yeterince derin bakmamasını ummak gerekir
- Açık kaynak topluluğu, sistemlerin nasıl kurulduğuna dair bilgiyi geniş ölçekte yayar ve bir nesil mühendisin öğrendiği fiili ders kitabı işlevi de görür
- En ileri sistemlerin tümü gizlenirse, kilitli sistemlerden öğrenilebilecek çok az şey kalır ve yeni nesil yenilikçileri yetiştirmek zorlaşır
Teknoloji endüstrisini ayakta tutan açık kaynak ekosistemi
- On yıllar boyunca süren teknolojik ilerleme; özel şirketlerin, üniversitelerin ve on binlerce gönüllünün paylaşılan bir yazılım temeline katkı sunduğu hassas bir ekosistemden doğdu
- Küresel ölçekte başarılı birçok şirket, açık temel teknolojilerin üzerine hizmet kurarak gelir elde etti
- Tescilli yazılımın da bir rolü vardır; ancak açık kaynak, modern teknoloji endüstrisinin yükünü taşıyan temel olduğundan zayıflamasına izin verilmemelidir
En baştan kapatılan yapay zeka
- Yapay zeka da bir yazılımdır, ancak en gelişmiş en ileri modeller tamamen kapalıdır ve bu kapalılık giderek hızlanmaktadır
- Fiilen kullanılabilir açık alternatifler azdır; mevcut modeller etkileyici olsa da henüz tamamlanmış değildir ve bunların nasıl inşa edileceğine dair yöntemler de tam olarak yerleşmemiştir
- En derin atılımların hâlâ önümüzde olduğu erken bir bilim alanını şimdi kapatırsak, ilerleme için gerekli paylaşılan bilgi kaybolabilir
- Üniversite bilimi, araştırma sonuçlarının yayımlanması ve dünyanın geri kalanının bunların üzerine inşa etmesi yoluyla gelişmiştir
- Geleceğin biliminin büyük bölümü yapay zekaya dayanacaksa, yapay zekayı birkaç şirketin içine hapsetmek bilimsel ilerlemeyi de sınırlama riski taşır
Geleceğin kütüphanelerini kim kontrol edecek?
- Kütüphaneler, insanlığın biriktirdiği bilgiye herkesin ücretsiz erişebildiği ortak bir kaynaktır
- Birkaç şirketin tüm kütüphaneleri satın alıp hangi kitapların okunabileceğine karar vermesi ve içerikleri sessizce değiştirmesi kabul edilemez olurdu
- Kapalı yapay zeka da benzer şekilde, yalnızca sahibinin belirlediği koşullarla erişilebilen geleceğin kütüphanelerine benzer
- Birkaç şirket modelin izin verdiği sınırları belirlediğinde ya da yanıtların nasıl üretileceğini ayarladığında, bu modellere bağımlı olan insanlar sonuçları tam olarak anlayamaz hale gelir
- Tanı için modele başvuran doktorlar
- Tasarım işini modele veren mühendisler
- Karar verirken modele danışan yargıçlar
- Neye inanması gerektiğini soran sıradan kullanıcılar aynı sorunla karşı karşıya kalır
Modelin açıklaması denetim kaydı değildir
- Model bir gerekçe sunabiliyor olsa bile, açıklama ile denetim (audit) aynı şey değildir
- Modelin sunduğu gerekçeler, yanıtı üreten gerçek hesaplamaların sadık bir kaydı değil; sonuç ortaya çıktıktan sonra kurulmuş, kulağa makul gelen bir anlatıdır
- Aynı soru gelecek yıl sorulduğunda yanıt değişirse, bunun gerçekliğin değişmesinden mi yoksa sağlayıcının modeli değiştirmesinden mi kaynaklandığını doğrulamanın bir yolu olmayabilir
- Bu tür sistemlere bağımlı kullanıcılar, anlayabilecekleri araçları kullanmak yerine, iç işleyişi incelenemeyen bir tür kehanet sistemine güvenmek zorunda kalır
Açık yapay zeka ile kapalı yapay zekanın yarattığı riskler
- Yapay zekanın kamuya açılmak için fazla tehlikeli olduğu itirazı ciddiyetle değerlendirilmelidir
- Araştırma makaleleri yetenekleri tarif eder, ancak temel yapay zeka yazılımı bizzat yeteneğin kendisidir; bu nedenle genel araştırma yayını ile yapay zeka yayını arasında gerçek bir asimetri vardır
- Yine de kapalılık kaçınılmaz tek çözüm değildir
- Bilimsel keşifler de kötüye kullanılabilir; ancak tüm fiziği gizli hale getirmek yerine gözetim ve kurallar uygulanırken temel bilgi açık tutulur
- Kapalı modeller de sızdırılabilir veya jailbreak edilebilir; dolayısıyla yalnızca kapalı oldukları için güvenli sayılmazlar
- Birkaç şirketin toplumun geri kalanının ne inşa edebileceğine karar verdiği güç yoğunlaşması da ayrı bir risk yaratır
- Asıl ölçüt, açık modellerin hiçbir risk taşımaması değil; zaten erişilebilir olan yeteneklere kıyasla anlamlı ölçüde ek risk üretip üretmedikleridir
Çalıştırma kodu ile inşa kodu arasındaki fark
- Bir modelin arkasında, modeli çalıştıran kod ile modeli oluşturan kod olmak üzere iki tür kod vardır
- Modeli doğrudan çalıştırabilmek yararlıdır, ancak şeffaflık açısından daha önemli olan şey modelin nasıl yapıldığını gösteren inşa kodu ve eğitim verileridir
- Bugün açık model olarak anılan, Çin'deki başlıca araştırma laboratuvarlarıyla bazı ABD şirketlerinin modelleri çalıştırma kodunu verir; ancak inşa kodunu ve eğitim verilerini paylaşmaz
- Kullanıcının eline geçen şey, zekâ üreten ama nasıl oluştuğu bilinmeyen devasa bir sayı kümesidir; çalıştırılabilir olsa da açıklanamaz sihirli sayılara daha yakındır
- Çalıştırma kodunun açıklığı bile kalıcı bir taahhüt değil, şirketlerin takdirine bağlı bir lütuftur; gelecekte en güçlü modelleri de açık tutacaklarının garantisi yoktur
- Her an sona erebilecek bir açıklık temel oluşturamaz; bu yüzden iki unsura da ihtiyaç vardır
- Herkesin kullanıp genişletebileceği açık modeller
- Herkesin üretim sürecini inceleyebileceği açık kaynak ve eğitim verileri
Kamusal bir değer olarak açık kaynaklı yapay zekaya yatırım
- Burada karşı çıkılan şey yapay zeka şirketlerinin varlığı ya da özel yapay zekanın kendisi değildir; sorun, kapalı özel yapay zekanın tek seçenek haline gelmesidir
- ABD'deki özel yapay zeka yeterince destek alırken, açık kaynaklı yapay zekanın savunucu tabanı zayıftır; bu nedenle politika ve yatırım süreçlerinde kolayca dışarıda kalabilir
- En ileri modeller büyümeye ve maliyetleri artırmaya devam edebilir; bu ölçekte rekabet etmek dev şirketlerin alanı olarak kalabilir
- Açık kaynaklı yapay zekanın yararlı olabilmesi için mutlaka en ileri modellerle aynı ölçekte olması gerekmez; dünyanın ihtiyaç duyduğu birçok görev için mutlak en üst düzey performans şart olmayabilir
- Güvenilir açık alternatifleri korumak büyük ölçekli bilgi işlem kaynakları gerektiriyorsa, bu bedeli ödenmeye değer bir kamusal değerdir
- Hükümetler, özel sektör ve kâr amacı gütmeyen kuruluşlar özgür ve açık kaynaklı yapay zekaya aktif biçimde yatırım yapmalıdır
- Açık araştırmalar için kamusal bilgi işlem hibeleri sağlanmalı
- Bu alanda çalışan üniversitelere ve kâr amacı gütmeyen kuruluşlara şirket ve hayırseverlik fonları verilmeli
- Kamu fonuyla geliştirilen yapay zekanın varsayılan olarak açık olması ilkesi benimsenmeli
- Teknolojik ilerlemeyi desteklemek için açık kaynaklı yazılıma yatırım yapma yaklaşımı, yapay zeka alanında da sürdürülmelidir
1 yorum
Hacker News yorumları
Özel yapay zeka şirketleri, fiilen herkesten alınmış verilerle model eğitip büyük riskler de doğurduğu için, modellerini ticari olmayan lisanslı açık ağırlıklarla dağıtmaya zorlanmalı
Güvenlik politikasının özü, Dario’nun zorladığı düzenleyici ele geçirme değil, bu yön olmalı
Mevcut tüm verilerle karşılıksız eğitim yapılmasına gerçekten kızıyorlarsa buna ancak kendi düşen ağlamaz denir
Açık modeller için hedefli teşvik ödüllerinin, Nobel ödüllü Michael Kremer’in yaklaşımına benzer biçimde ortaklaşa desteklenmesi gerekiyor
Her 6–12 ayda bir; 16 GB, 32 GB, 64 GB, 128 GB VRAM ve en az 200K bağlam uzunluğuyla 5–10 zorlu benchmark ve bir kapalı benchmark’ta eşiği ilk aşan modele 200 bin dolar ödenir, sonraki turda da eşik yükseltilir. Kuantizasyon yöntemi serbest olur, ancak referans donanımda tam olarak ilgili VRAM’i kullanmalı; RAM’e ya da diske taşmamalı
Fonlar kitlesel fonlamayla toplanabilir ve PDF işleme gibi kurumsal talebe özel ödüller eklenerek çapraz sübvansiyon yapılabilir. Örneğin kurumsal ödüllerin %25’i genel ödül havuzuna aktarılır. Açık model şirketleri için para da faydalıdır ama modeli öne çıkaran ve kullanımını artıran net bir resmî onay daha değerli olabilir
Net donanım sınıfları iyi bir ayrıştırıcı olur, ancak benchmark’lar mutlaka kapalı olmalı. Her aşama için iyi değerlendirme setleri oluşturup yönetmek, dürüst laboratuvar içi değerlendirmelerde bile zordur; güven için her turun sonunda bunları açıklayıp bir sonraki değerlendirmeyi yeniden yapmak gerekir. Mümkün, ama değerlendirme yönetimi maliyeti toplam ödül tutarından daha yüksek olabilir ve bunun sürekli tekrarlanması gerekir
FOSS yanlış bir benzetme. En ileri büyük dil modellerini inşa etmek, esasen mühendislikten çok bilimsel araştırma programına yakın
Üniversiteler ve CERN gibi büyük projeler dâhil, fiilen açık kaynak tarzında yürüyen araştırma programları da var. Yapay zeka da üniversitelerde büyüdü, ancak gereken sermayenin yalnızca özel sektörden sağlanabildiği ortaya çıktı
Düzgün bir kamusal yapay zeka araştırma programı da mümkün, ama bu üniversite araştırma bütçesini biraz artırmak değil; en ileri laboratuvarların zaten örnek aldığı Manhattan Projesi ya da Apollo Programı ölçeğine daha yakın olur
Soğuk Savaş’ın zirvesindeki Apollo Programı’nın toplam maliyeti bugünkü değerle yaklaşık 300 milyar dolardı; bu da OpenAI ile Anthropic’in bugüne kadar birlikte topladığı tutara benzer. Mevcut siyasi ve ekonomik ortamda hükümetin yapay zekaya bu kadar fon sağlayıp sağlayamayacağı şüpheli. Karşılaştırma olarak LHC, çok daha uzun bir döneme yayılmış şekilde 10 milyar dolardan bile az tuttu
Aynı anlama geliyor gibi gelebilir ama bakış açısı farklı. Akademik bir araştırma programı olsaydı, halka yapay zekayı ücretsiz sunmak için veri merkezlerine milyarlarca dolar harcamazdı
Zaten açık kaynak yapay zekaya yatırım yapılıyor, ama gerçekten bedava olan hiçbir şey yok. Geliştiricilerin asıl işleri olarak çalışıp ücret aldığı ticari yapay zeka çoğunlukla üstün gelmek zorunda; iyi niyet ve yarı zamanlı katkılarla geçim ve kâr motivasyonunu istikrarlı biçimde yenmek zor
Kapalı en ileri modelleri neredeyse tekel gibi kontrol eden Altman, Amodei, Zuckerberg ve Musk’tan oluşan dört kişi yatırımcıları kandırmıyor da gerçekten AGI yapıyorsa, kapalı modellerin bıraktığı seçenek ya güçlü bir hükümet ya da güçlü bir oligopol/monarşidir
Musk ve Zuckerberg yapısal olarak komuta yetkisini ellerinde tutuyor. Altman, rakiplerin tasfiyesi ve özelleştirmeden sonra fiilen komutayı ve örgütün sadakatini güvenceye aldı; Amodei ise etkisi büyük olduğu için mevcut yönetişim yapısını tersine çevirme ihtimali taşıyor
Yazılımın kapalı kaynak olması, bilginin de paylaşılamayacağı anlamına gelmez. Temel kodu görmeden de mimari kalıpları veya en iyi uygulamaları açıklayabilirsiniz
Kütüphane benzetmesinin doğru olması için büyük dil modeli sağlayıcılarının pekiştirmeli öğrenme ya da Transformer hakkındaki soruları yanıtlamayı reddetmesi gerekir
Açık kaynak/açık ağırlıklı modelleri güçlü biçimde destekliyorum, ama ana nedenim bunun daha iyi bir ürün olduğunu düşünmem. Eğitim ve işletme maliyetleri çok daha düşük; çoğu iş için en ileri düzey zekâ gerekmeyebilir. Piyasaya bırakılırsa büyük dil modelleri programlama dillerine benzer hâle gelir ve büyük laboratuvarlar belirli kullanımlar için ince ayar ya da müşteriye özel dağıtımlardan para kazanabilir
Yapay zekayı zorlamanın mantığına göre, dikkatle seçilmiş birkaç büyük dil modeli prompt’u ile açık kaynak geliştiricilerinin yaptığı iş yeniden üretilebilir; o hâlde neden onları finanse edelim? Daha fazla çözümü ezberleyebilmeleri için yapay zeka şirketlerinin FOSS’u finanse etmesi gerekmiyor mu?
Başlıktan sadece “AI”ı çıkarmak yeterli. Hükümetler, şirketler ve kâr amacı gütmeyen kuruluşlar özgür ve açık kaynağa yatırım yapmalı
Kütüphane benzetmesi aslında tutuyor, ama rahatsız edici taraf şu: çoğu açık model, kütüphaneyi teslim almaktan çok derlenmiş bir ikili dosya almaya benziyor
Halkın az da olsa kontrolü elinde tutması için üyelerin sahip olduğu kooperatifler ileriye dönük yol olabilir
David Siegel yaklaşık 2 yıl önce https://youtu.be/0z60xUDo-NI?si=PTDe11-sn2P53qo5&t=420 konuşmasında yapay zeka veri merkezi genişlemesinin zamansız olduğunu söylemişti
Mevcut yaklaşım ölçeklenmeye devam etse bile, bu, bilişimin ilk dönemlerinde birinin sayıları sıralamak için bubble sort denen O(n²) algoritmasını icat etmesi üzerine teknoloji şirketlerinin O(n log n) bir yöntem aramak yerine sayı sıralamak için dev veri merkezleri kurmaya kalkmasına benziyor diye örnek vermişti. Tamamen doğru; açık kaynak yapay zeka için de geçerli