Açık kaynak geliştirmeye dair endişeler
- Aşırı derecede geniş tanım: Tasarıdaki "kapsam dahilindeki model" tanımı son derece geniş; bu da yalnızca asgari düzeyde risk barındıran çeşitli açık kaynak modelleri bile kapsayabilir. Bu durum, yararlı yapay zeka projelerinde çalışan iyi niyetli geliştiricilerin faaliyetlerini istemeden suç haline getirebilir.
- Çift kullanımlılık: Yapay zeka modelleri, kelime işlemci, hesap makinesi ve web tarayıcısı gibi bilgisayarda çalışan genel amaçlı yazılımlardır. Modelin geliştiricisi, modelin zararlı amaçlarla kullanılmayacağını garanti edemez. Aynı durum web tarayıcısı, hesap makinesi ve kelime işlemci geliştiricileri için de geçerlidir. Bu tür genel amaçlı araçların üreticilerini sorumlu tutmak, fiilen yalnızca büyük şirketlerin hukuk ekipleri dışında kimsenin bu araçları geliştiremeyeceği anlamına gelir.
- Kısıtlayıcı gereksinimler: Bu tasarı, zorunlu kapatma, kapsamlı raporlama ve potansiyel olarak muğlak "kapsam dahilindeki talimatlara" uyum gibi geliştiricilere önemli yükler getiriyor. Bu gereksinimler, karmaşık düzenleyici süreçlerde yol alacak kaynakları sınırlı olan açık kaynak geliştiricileri üzerinde orantısız etki yaratabilir.
- Açıklığı zayıflatma: Hukuki yaptırımlar ve bürokratik engeller konusundaki kaygılar nedeniyle açık kaynak geliştirme soğuyabilir ve yapay zeka ilerlemesinin itici gücü olan işbirliği ruhu zarar görebilir. Bu şeffaflık kaybı, olası güvenlik sorunlarını tespit etmeyi ve çözmeyi daha da zorlaştırabilir.
KOBİ’ler ve inovasyon üzerindeki etkisi
- Giriş engeli: Uyumlulukla ilişkili yüksek maliyetler (ücretler, denetimler, hukuki danışmanlık vb.) KOBİ’ler ve girişimler için ciddi bir giriş engeli yaratabilir. Bu, rekabeti sınırlar, gücü mevcut büyük şirketlerde yoğunlaştırır ve sonuçta inovasyonu engeller.
- Araştırma üzerinde caydırıcı etki: Tasarı hükümlerini istemeden ihlal etme korkusu, araştırmacı ve geliştiricileri otosansüre ya da umut vadeden yapay zeka araştırma alanlarını keşfetmekten kaçınmaya itebilir. Bu, bilimsel ilerlemeyi yavaşlatır ve yapay zekanın toplumsal sorunları çözme potansiyelini sınırlar.
- Yetenek göçü: Bu tasarının yarattığı kısıtlayıcı ortam, yetenekli yapay zeka araştırmacıları ve geliştiricilerini Kaliforniya’dan uzaklaştırabilir; bu da eyalet ekonomisine zarar verebilir ve onun yapay zeka inovasyonuna liderlik eden konumunu zayıflatabilir.
Alternatif yaklaşım
- Açık kaynak geliştirmeyi desteklemek: İşbirliğini, şeffaflığı ve daha çeşitli ve dayanıklı bir yapay zeka ekosisteminin oluşumunu sağlamak için yapay zeka modellerinin açık kaynak geliştirilmesini teşvik etmek ve kolaylaştırmak.
- Geliştirmeye değil kullanıma odaklanmak: Yapay zeka model geliştirmesini düzenlemek yerine, özellikle kamu güvenliği ve emniyet açısından yüksek risk doğuran uygulamalara odaklanmak. Sağlık, ceza adaleti ve kritik altyapı gibi zarar olasılığının en yüksek olduğu yüksek riskli alanlarda yapay zeka kullanımını düzenleyerek zararlı kullanımlar için hesap sorulmalı; buna karşılık yapay zeka teknolojisinin sürekli gelişimine izin verilmelidir.
- Şeffaflık ve işbirliğini teşvik etmek: Sorumlu yapay zeka geliştirme için en iyi uygulamaların geliştirilmesini ve benimsenmesini, sanayi, akademi ve kamu arasında işbirliği yoluyla teşvik etmek. Buna sektör standartlarının oluşturulması, açık kaynak geliştirmenin desteklenmesi ve yapay zeka güvenliği araştırmalarına yatırım yapılması dahil olabilir.
- Yapay zeka uzmanlığına yatırım yapmak: Kamu kurumlarının yapay zeka konusunda uzmanlık geliştirebilmesi ve potansiyel riskleri etkili biçimde izleyip ele alabilecek kapasite kurabilmesi için kaynak sağlamak. Bu, güvenlik ve inovasyon arasında denge kuran, daha bilgili ve daha incelikli bir yapay zeka düzenleme yaklaşımını mümkün kılar.
GN⁺ görüşü
- Açık kaynak modellerin geliştirilmesini düzenlemek yerine, düzenleyici kurumlar açık kaynak geliştirmeyi teşvik eden ve denetleyen bir rol üstlenmelidir. Açık kaynak yalnızca şeffaflığı ve işbirliğini artırmakla kalmaz, aynı zamanda farklı bakış açıları sunduğu için güvenliği artırmaya da yardımcı olabilir.
- Yapay zeka modellerinin kendisini düzenlemektense, yüksek riskli alanlarda yapay zeka kullanımını denetlemek ve düzenlemek daha etkili olacaktır. Sağlık, adalet ve kamu güvenliği gibi risk düzeyi yüksek alanlarda yapay zeka kullanımına yönelik sıkı kılavuzlar ve düzenlemeler gerekir; ancak düşük riskli alanlarda, yapay zeka teknolojisinin gelişimini engellemeyecek ölçüde düzenleme yapılmalıdır.
- Bu tasarı, yapay zeka geliştirme üzerinde aşırı yük oluşturarak Kaliforniya’nın yapay zeka alanındaki lider konumunu kaybetme riskini doğuruyor. İnovasyonu engellemeden zararlı kullanımlar için hesap sorabilecek alternatif yaklaşımlar aranmalıdır.
- Hükümetin yapay zeka konusundaki uzmanlığını artırması ve yapay zeka ekosistemine dair anlayışını derinleştirerek daha akıllı düzenleme politikaları uygulaması gerekir. Yalnızca düzenlemeleri sıkılaştırmak yerine, sanayi-akademi-kamu işbirliğiyle istenen yönde yönlendirme çabalarına ihtiyaç olduğu görülüyor.
1 yorum
Hacker News görüşleri
Model geliştiricileri, tıpkı web tarayıcısı, hesap makinesi ve kelime işlemci geliştiricileri gibi, modellerin zararlı amaçlarla kullanılmayacağını kusursuz biçimde garanti edemez. Bu tür genel amaçlı araçların üreticilerine sorumluluk yüklemek, fiilen bunu yalnızca büyük şirketlerin hukuk ekiplerinin yapabilmesini sağlar.
Politikacılar açık kaynak yapay zekaya karşı sert bir tutum alıyor. Soros, şirketler ile hükümetlerin yapay zeka projeleri arasındaki sinerjinin Soğuk Savaş dönemi diktatörlerinden bile daha büyük bir tehdit olabileceğini söylüyor. “Diktatörlük rejimleri ile BT tekel şirketlerinin birleşimi, açık topluma karşı yapısal bir üstünlük sağlar ve ölümcül bir tehdittir” diyor.
Blog yazısında değinilmemiş ama 7 Şubat 2024’te Kaliforniya Eyalet Meclisi’nde SB-1047 yasa tasarısı sunuldu. Tasarı, gelişmiş yapay zeka modellerinin geliştirilmesini ve kullanımını düzenlemeyi amaçlıyor; geliştiricilere güvenlik değerlendirmeleri, güvenlik gerekliliklerine uyum, olay bildirimi gibi yükümlülükler getiriyor ve teknoloji dairesi altında bir denetim kurumu oluşturuyor.
Bu tür düzenlemelerin mevcut önde gelen yapay zeka şirketlerinin işine yarayıp yeni girişleri imkansız hale getireceğinden endişe ediliyor. Scott Wiener’ın konut politikaları iyiydi ama bu yasa tasarısı devletin aşırı müdahalesi.
Hükümetin izin verdiği şeylerle eğitim yapılabilecek, yeni birimlerle ücret alma yetkileri ortaya çıkacak ve tabii ki danışman tutmak da fiilen zorunlu hale gelecek.
Uzun vadede yapay zeka girişimleri için hangi eyalet avantajlı olur? Muhtemelen Kaliforniya değil. Washington ya da Teksas’ta henüz benzer bir düzenleme hareketi yok ve başka avantajları da var gibi görünüyor.
“Kapsam dahilindeki model” tanımı muğlak. Int ve float işlemleri arasında hesaplama maliyeti açısından büyük fark var ama mahkemede metnin nasıl yorumlanacağı belirsiz. Mevcut benchmark ölçütleri üzerinden geleceği sabitleyip algoritmik ilerlemelerden bağımsız biçimde sınır koymaya çalışıyor.
Bu yazı, sanki bir LLM tarafından üretilmiş gibi düşük kaliteli görünüyor. Tasarıyı gerçekten anlamak için Zvi’nin analizini okumak daha iyi olur.
Bu makalenin tamamı sanki ChatGPT tarafından yazılmış gibi hissettiriyor. Açık kaynağın değerinden muğlak biçimde söz ediyor ama asıl yasa tasarısından tek bir alıntı bile yapmıyor.
“Yapay zeka modeli geliştirmeyi değil, kullanımını; özellikle de kamu güvenliği açısından riskli alanlardaki kullanımını düzenleyelim” diyen bir görüş var. Sağlık, ceza adaleti, kritik altyapı gibi yüksek riskli alanlarda yapay zeka kullanımını düzenleyip zararlı kullanımdan sorumluluk doğmasını sağlarken yapay zeka teknolojisinin ilerlemesine izin verilmesi öneriliyor; buna karşı ne tür itirazlar olabilir?