SB-1047'nin açık kaynaklı yapay zekayı zayıflatıp güvenliği düşürebileceği endişesi

 (answer.ai)
1 puan yazan GN⁺ 2024-04-30 | 1 yorum | WhatsApp'ta paylaş
  • SB-1047 güvenli yapay zeka geliştirmeyi hedefliyor, ancak mevcut hükümler açık kaynak geliştiriciler ve küçük şirketler üzerinde aşırı yük oluşturabilir
  • Geliştirme üzerindeki kısıtlar güçlenirse şeffaflık ve işbirliği azalabilir; bu da daha geniş uzman topluluğunun güvenlik sorunlarını bulup düzeltme kapasitesini zayıflatabilir
  • “covered model” tanımı geniş ve zorunlu durdurma, raporlama ve yönergelere uyum talepleri yüksek olduğundan, iyi niyetli açık kaynak model geliştirme bile caydırılabilir
  • Denetim, hukuki danışmanlık, ücretler ve olası medeni para cezaları girişimler ve araştırmacılar için giriş engeli ve oto-sansür baskısı yaratabilir
  • Daha iyi yaklaşım, model geliştirmenin kendisinden ziyade yüksek riskli kullanım alanlarını düzenlemek ve buna açık kaynak desteği, sanayi-akademi-kamu işbirliği ile devletin yapay zeka uzmanlığına yatırımını eşlik ettirmektir

SB-1047 hakkındaki temel tutum

  • Bu yazı, Jeremy'nin SB-1047 yasa tasarısının yazarlarına sunduğu kişisel metindir; Answer.AI'nin resmî görüşü değildir
  • SB-1047'nin hedeflediği güvenli ve emniyetli yapay zeka geliştirme amacı kendi başına olumlu görülebilir
  • Sorun, mevcut tasarının bazı hükümlerinin açık kaynak geliştiricileri, küçük şirketler ve genel olarak yapay zeka ekosistemindeki yenilik üzerinde olumsuz etki yaratabilmesidir
  • Açık kaynak geliştirme kısıtlanırsa yapay zeka güvenliği de birlikte zayıflayabilir
    • Şeffaflık ve işbirliği azalırsa daha fazla uzmanın potansiyel güvenlik sorunlarını tespit edip çözmesi zorlaşır
    • Kontrolün az sayıdaki büyük aktörde yoğunlaşması çeşitlilik ve dayanıklılığı azaltır, tek hata noktaları ile sistemik risk olasılığını artırır

Açık kaynak geliştirmenin zayıflaması endişesi

  • Açık kaynak, ABD yazılım endüstrisinin başarısını mümkün kılan temel unsurlardan biridir ve birçok kişinin önemli yazılım araçlarına erişmesini sağlamıştır
  • Modern yapay zekanın temel bileşenlerinin önemli bir kısmı da açık kaynaktan gelir; akademik araştırmalar ve güvenlik ile emniyet araştırmaları da neredeyse tamamen açık kaynak temelli yürütülür
  • Açık kaynak zayıflarsa geliştiriciler, tüketiciler, akademi ve yeni girişimlerin tümü etkilenir

  • Aşırı geniş “covered model” tanımı

    • Tasarıdaki “covered model” tanımı çok geniştir; düşük riskli çeşitli açık kaynak modelleri bile kapsayabilir
    • Sonuç olarak faydalı yapay zeka projeleri yürüten iyi niyetli geliştiricilerin faaliyetleri de istemeden suç kapsamına girebilir

  • Genel amaçlı araçlarda sorumluluk sorunu

    • Yapay zeka modelleri, kelime işlemciler, hesap makineleri ve web tarayıcıları gibi bilgisayarda çalışan genel amaçlı yazılımlara daha yakındır
    • Nasıl ki bir web tarayıcısı ya da hesap makinesi geliştiricisi tüm kötüye kullanımları engelleyemezse, model üreticileri de modellerinin asla zararlı işlerde kullanılmayacağını garanti etmekte zorlanır
    • Bu tür bir sorumluluğun genel amaçlı araç üreticilerine yüklenmesi, yeterli hukuk ekiplerine sahip büyük şirketler dışında fiilen kimsenin araç geliştirememesine yol açabilir

  • Geliştirici gerekliliklerinin yükü

    • Tasarı, geliştiricilere zorunlu durdurma, kapsamlı raporlama ve muğlak olabilen “covered guidance” kurallarına uyum gibi yükümlülükler getiriyor
    • Karmaşık düzenleyici süreçleri karşılayacak kaynağı olmayan açık kaynak geliştiricileri için bu gereklilikler daha da ağırdır
    • Hukuki sonuçlar ve bürokratik süreçlere dair korku, açık kaynak geliştirmeye katılımı azaltabilir ve yapay zeka ilerlemesini besleyen işbirliği kültürünü zayıflatabilir
    • Şeffaflık azaldığında potansiyel güvenlik sorunlarını bulmak ve çözmek de daha zor hale gelir

Küçük şirketler ve araştırma ekosistemi üzerindeki etkisi

  • Önerilen düzenleme, yapay zeka alanında yenilik yapmak isteyen küçük şirketler ve girişimler için büyük giriş engelleri oluşturabilir
  • Uyumluluk maliyetleri ve hukuki riskler kurucuları caydırabilir ve rekabeti sınırlayabilir
  • Bunun sonucunda yenilik hızı yavaşlayabilir ve güç mevcut büyük şirketlerde daha da yoğunlaşabilir

  • Maliyetler ve hukuki risk

    • Ücretler, denetimler ve hukuki danışmanlık gibi uyumluluk maliyetleri küçük şirketler ve girişimler için büyük yük oluşturur
    • Bu maliyet yapısı rekabeti sınırlayıp gücü mevcut büyük şirketlerde toplayarak yeniliği engelleyebilir

  • Araştırmanın zayıflaması ve yetenek göçü

    • Tasarı hükümlerini istemeden tetikleyebileceği korkusu, araştırmacı ve geliştiricilerde oto-sansüre yol açabilir
    • Umut vadeden yapay zeka araştırma yönlerinden kaçınılması, bilimsel ilerlemeyi ve yapay zekanın toplumsal sorunları çözme potansiyelini sınırlar
    • Kısıtlayıcı ortam, yetenekli yapay zeka araştırmacıları ile geliştiricileri Kaliforniya dışına taşınmaya itebilir
    • Bu da Kaliforniya ekonomisine zarar verip yapay zeka yenilik liderliğini zayıflatabilir

Kaliforniya ve ABD yapay zeka yeniliğine etkileri

  • Kaliforniya, özellikle teknoloji alanında ABD yeniliğini yönlendiren kritik bir rol oynar
  • SB-1047 yapay zeka geliştirme üzerine aşırı yük bindirirse, Kaliforniya'nın bu kilit alandaki liderliği zayıflayabilir
  • Etkisi ABD geneline yayılıp yapay zeka Ar-Ge'sindeki genel ilerlemeyi yavaşlatabilir

Önerilen alternatifler

  • Yapay zeka model geliştirmenin kendisini düzenlemektense, yapay zeka uygulamaları ve gerçek risklere odaklanan bir yaklaşım gereklidir

  • Açık kaynak geliştirmenin desteklenmesi

    • Yapay zeka modellerinin açık kaynak geliştirilmesini teşvik etmek, işbirliği ve şeffaflığı artırarak daha çeşitli ve dayanıklı bir yapay zeka ekosistemi oluşturabilir

  • Geliştirmeden çok kullanımı düzenlemeye odaklanmak

    • Düzenlemenin odağı yapay zeka model geliştirme değil, yapay zekanın nasıl kullanıldığı olmalıdır
    • Özellikle kamu güvenliği ve emniyeti açısından yüksek risk oluşturan uygulamalara odaklanmak gerekir
    • Sağlık, ceza adaleti ve kritik altyapı gibi zarar olasılığının yüksek olduğu alanlarda yapay zeka kullanımını düzenlemek, zararlı kullanıma karşı hesap verebilirlik sağlarken yapay zeka teknolojisinin ilerlemesini de sürdürebilir

  • Şeffaflık, işbirliği ve uzmanlığa yatırım

    • Sanayi, akademi ve kamu arasındaki işbirliği yoluyla sorumlu yapay zeka geliştirme için en iyi uygulamaların geliştirilmesi ve benimsenmesi teşvik edilebilir
    • Sektör standartlarının oluşturulması, açık kaynak geliştirmenin teşvik edilmesi ve yapay zeka güvenlik araştırmalarına yatırım birlikte gereklidir
    • Kamu kurumlarının yapay zeka uzmanlığı kazanması için kaynak sağlanması, potansiyel risklerin daha etkili izlenmesini ve bunlara yanıt verilmesini mümkün kılabilir
    • Bu yaklaşım, güvenlik ile yenilik arasında denge kuran daha incelikli bir yapay zeka düzenlemesini mümkün kılar

Endişe yaratan somut hükümler

  • Section 22602 (f): “covered model” tanımı aşırı geniş olduğu için çeşitli açık kaynak modelleri kapsayabilir
  • Section 22603 (b): geliştirici gereklilikleri aşırı olduğu için açık kaynak geliştirmeyi caydırabilir
  • Section 22606 (a): olası medeni para cezaları araştırma ve yenilik üzerinde caydırıcı etki yaratabilir
  • Section 11547.6 (c)(11): ücret koyma yetkisi küçük şirketler için giriş engeli oluşturabilir

İlgili okumalar

1 yorum

 
GN⁺ 2024-04-30
Hacker News görüşleri

  • Bir model üreticisinin, modelin asla zararlı işlerde kullanılmayacağını garanti etmesi mümkün değil; bu, web tarayıcısı, hesap makinesi veya kelime işlemci geliştiricileri için de geçerli.
    Bu tür genel amaçlı araçların üreticilerine sorumluluk yüklerseniz, pratikte güçlü hukuk ekipleri olan büyük şirketler dışında kimse bu araçları geliştiremez hale gelir. Bir teknolojinin “zararlı amaçlar” için kullanılmayacağını garanti etmek neredeyse imkânsızdır; bu tür hükümler de LLM geliştirmede büyük şirketler dışındaki katılımcıların önüne konan bir başka engel gibi görünüyor.

    • Bu yasa, bir şeyi garanti etmeyi zorunlu kılmıyor; daha çok, henüz belirlenecek iyi uygulamalara uyulmasını ve güvenlik olaylarının raporlanmasını istemek şeklinde anlaşılıyor.
      Güvenlik olayının kendisinden sorumlu tutulmak da söz konusu değil; yalnızca raporlama gerekiyor. Biraz zahmetli olabilir ama genel olarak oldukça makul görünüyor.
    • Yeni Frontier Model Division yalnızca bilgi alan ve yönergeler yayımlayan bir kurum; bir izin sistemi değil, geliştiricileri soruşturan bir organ da değil.
      Yüksek kapasiteli bir modelin kötü işlerde, hatta felaket düzeyinde zararda kullanılmış olması otomatik olarak sorumluluk doğurmuyor; esas mesele makul önleyici tedbirlerin alınıp alınmadığı. Geliştiricinin kusuru olup olmadığına bakmadan felaket düzeyindeki zarardan sorumlu tutan katı sorumluluk yaklaşımı da mümkün olabilirdi, ancak bu tasarı bunu yapmıyor.
      Genel olarak amaç şu: Bir model felaket düzeyinde zarara yol açabiliyorsa, bu mevcut modeller için geçerli olmasa bile gelecekteki modeller için mümkün olabilir; bu yüzden öngörülebilir biçimde böyle zararlara yol açabilecek şekilde dağıtılmamalı. Bu bakımdan oldukça makul.
      Tasarının ayrıntılarını öğrenmek istiyorsanız Zvi’nin kapsamlı yazısını öneririm. Kişisel olarak bunun en ciddi risklere odaklanan oldukça dar bir öneri olduğunu, örneğin EU AI Act’ten çok daha dar olduğunu düşünüyorum: https://thezvi.substack.com/p/on-the-proposed-california-sb-...
    • Zararın eşik değerini belirlemezseniz bu argüman anlamını yitirir.
      Aksi halde açık kaynak biyolojik ajan araştırmalarını, açık kaynak nükleer savaş başlıklarını ve açık kaynak insan klonlama protokollerini engellemeyi de eleştirmeniz gerekir. Bunların hepsi çift kullanımlı teknolojilerdir ve nesnel olarak ahlaken tarafsızdır.
    • Çok tehlikeli şeyler üreten kişiler bunun sorumluluğunu üstlenmeli ya da üretimin kendisi sıkı biçimde düzenlenmeli.
      Bu, sokak köşesinde el bombası satılmasına izin vermemekle aynı şey. Sorumluluktan kaçma tavrı, büyük teknoloji şirketlerinde en sevmediğim yönlerden biri.
    • Tasarının alt kısımlarında gizlenmiş zarar tanımı, kitlesel can kaybına yol açan kimyasal, biyolojik, radyolojik veya nükleer silahların oluşturulması ya da kullanılması; kritik altyapıya yönelik siber saldırılarla 500 milyon doların üzerinde zarar verilmesi; bir insan yapsaydı ceza hukuku ihlali sayılacak eylemleri bir yapay zeka modelinin otonom olarak gerçekleştirip 500 milyon doların üzerinde zarara yol açması; ve bunlara benzer düzeyde kamu güvenliği ve güvenlik tehditleri olarak geçiyor.
      Bu, ilaç geliştirme ve malzeme bilimi için yapay zekayı, elektrik şebekesi ve geniş bant trafik yönetimi için yapay zekayı, finans ve sağlık hizmetleri yapay zekasını kapsayabilir. Askerî-sanayi kompleksi tarafında ise yalnızca federal sözleşmeler söz konusuysa bu yasa onları hiç etkileyemeyebilir. Gizli askerî yapay zeka geliştirmek pervasızca görünüyor; War Games’i izlemediler mi diye düşündürüyor.
      https://technologymagazine.com/top10/top-10-military-technol...
      En azından açık kaynak olursa yetenekleri daha doğrudan görünür hale gelir.

  • Siyaset dünyası açık kaynak yapay zekayı çok güçlü biçimde hedef alıyor; durum çılgınca görünüyor.
    Soros, şirketlerin yapay zeka projeleri ile devlet yapay zeka projelerinin birleşiminin, kurumsal inovasyondan uzak durmuş Soğuk Savaş dönemi diktatörlerinden daha güçlü bir tehdit yarattığını söylemişti. Söylediği şey şuydu: “Baskıcı rejimlerle BT tekellerinin birleşimi, bu rejimlere açık toplumlara kıyasla yerleşik bir üstünlük sağlar. Açık toplumlar için ölümcül bir tehdit oluştururlar.”
    https://www.wired.com/story/mortal-danger-chinas-push-into-a...
    Küresel nüfuz peşinde olan hemen herkes yapay zekaya kelimenin tam anlamıyla göz dikmiş durumda. Yakında yasaklanabilecek büyük llama3 modelini çalıştırmak için 512 GB Mac Studio çıkarsa almalı mıyım diye ciddi ciddi düşünür oldum.

    • Birilerinin siyaset dünyası ile ticari/kapalı kaynak yapay zeka arasındaki ilişkiyi araştırmacı gazetecilikle ortaya çıkarmasını isterdim.
      OpenAI gibi şirketlerin yatırımcıları veya bundan yarar sağlayanları siyasetçilerle yakın ilişkilere sahip olabilir. Doğrudan bağlantılar büyük olasılıkla yoktur; zaten bu tür bağlantıları gizleme ve makul inkâr imkânı yaratma konusunda çok ustalaşmış olmalılar.
    • Uzun vadeli planı pek bilmiyorum; belki de yasa koyucular bu alanın uzun vadede nereye gittiğini anlamıyor.
      Hâlâ gerçekten çok erken bir aşamadayız. Akademi büyük bir başarısızlığa uğramazsa, yaklaşık 5 yıl sonra profesör araştırma kümelerinde bugünün en ileri seviye modelleri eğitilebilecek; muhtemelen bu yalnızca R1 üniversiteleriyle de sınırlı kalmayacak.
      Uzun vadede, bir kütüphane dolusu metne erişimi olan herkesin işe yarar bir model geliştirebileceğini düşünüyorum. Beynimizde sihirli bir şey yok; bir gün bilgisayarlara okuma yazmayı öğretmek için, insanları eğitmekte gereken kitap sayısı kadar kitap yeterli olacak. Bizden 10 kat daha aptal olsalar bile, ortalama bir Amerikalı hayatı boyunca yüzlerce kitap okurken, birkaç bin e-kitaptan fazlasına sahip olmak için izin mi isteyeceğiz?
    • Yapay zeka destekçileri haklıysa, yapay zeka elbette devasa bir istikrarsızlaştırıcı tehdit.
      Hiç otonomisi olmayan ve her şeyi yalnızca prompt sonuçlarından ibaret olan daha zayıf bir sürüm bile, vaat edilen performansı gerçekten sunarsa ciddi biçimde istikrarsızlaştırıcı olur. Neredeyse sıfır maliyetle sahte olan her şeyin mümkün olduğu bir dünyaya hiç hazır değiliz.
      Öte yandan bunun, mevcut ITAR gibi gerçek güvenlikle neredeyse hiç ilgisi olmayan çok tuhaf kurallar biçiminde ortaya çıkma olasılığı da yüksek.
    • Yalnızca çalıştırılabilmesi yeterliyse ve hız önemli değilse Dell R720’de bile çalıştırabilirsiniz. Yüzlerce GB RAM destekliyor ve https://ollama.com/ ile indirmek de kolay.
      Mac Studio’dan çok daha ucuz. Birkaç yüz dolara R820 aldım; içinde 256 GB RAM var ve daha fazla genişletme imkânı da bulunuyor.

  • Blogda yer almadığı için ekleyeyim: 7 Şubat 2024’te Senatör Scott Wiener, Kaliforniya Eyalet Meclisi’ne SB-1047’yi sundu.
    Resmî adı Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act; ileri düzey yapay zeka modellerinin geliştirilmesini ve kullanımını düzenlemeyi amaçlayan bir yasa tasarısı. Geliştiricilerin yapay zeka modeli eğitiminden önce belirli güvenlik değerlendirmeleri yapmasını, çeşitli güvenlik şartlarına uymasını ve yapay zeka güvenlik olaylarını bildirmesini zorunlu kılıyor. Ayrıca Department of Technology bünyesinde Frontier Model Division kurarak denetim yapıyor ve ihlaller için idari para cezaları getiriyor.
    https://www.dlapiper.com/en/insights/publications/2024/02/ca...

  • Bu tür düzenlemelerin mevcut lider yapay zeka şirketlerinin lehine kilitleyici bir etki yaratıp yeni girişleri imkânsız hale getirmesinden endişe ediyorum.

    • Buna düzenleyici ele geçirme denir ve burada gayet yaşanıyor olabilir.
    • Frontier model maliyetleri zaten 100 milyon doların üzerinde olduğundan, o gemi çoktan kalkmış gibi görünüyor.
      En baştan yaklaşık 1 milyar dolar toplayabilecek tamamen çılgın bir ekip değilseniz rekabet etme şansınız yok.
    • Bazıları bunun zaten amaçlanan hedef olduğunu söyleyebilir.

  • İnanması güç. Scott Wiener’in konut politikalarını seviyorum ama bu yasa tasarısı hükümetin aşırı müdahalesiyle dolu.
    İronik biçimde, onun uzun süredir mücadele ettiği NIMBY sistemiyle aynı etkiyi yaratacak.
    Türev olmayan bir uygulama modelini eğitmeye başlamadan önce, sınırlı yükümlülük muafiyetine tabi olana kadar ilgili modeli hızla tamamen durdurabilecek bir işlev uygulamanız gerekiyor gibi. Sonuçta yalnızca izin verilen şeyleri eğitebilirsiniz anlamına geliyor gibi görünüyor.
    Elbette bununla birlikte ücret alma yetkisine sahip yeni bir birim de geliyor. Frontier Model Division kurulacak; geliştiricilerin yıllık sertifikasyon raporlarını inceleyecek, özet sonuçları yayımlayacak ve ilgili ücretleri tahsil edip ayrı bir fona aktarabilecek.
    Ve tabii ki danışmanlara da para ödenecek. Department of Technology, danışmanlara CalCompute adlı kamusal bir bulut bilişim kümesi kurduracak; temel hedeflerin büyük ölçekli yapay zeka modellerinin güvenli ve emniyetli dağıtımını araştırmak ve adil inovasyonu teşvik etmek olduğu söyleniyor.

    • Anında tamamen durdurma işlevi uygulamak, kapatılabilir olması gerektiği anlamına geliyor.
      Bunun kolay olması gerekmez mi diye düşünüyorum; yine de kapatılabileceğini garanti etmek iyi bir şey gibi görünüyor.

  • Uzun vadede yapay zeka startup’ları için en iyi eyaletin neresi olacağını merak ediyorum.
    Eskiden Kaliforniya derdim ama artık düzenleme konusunda gaza basma olasılığı düşük bir eyalet seçmek daha önemli görünüyor. Washington’da henüz böyle bir hareket yok, eyalet gelir vergisi yok ve Seattle/Redmond’da çok sayıda yapay zeka mühendisi ve araştırmacısı olduğu için burada bulunuyor. Texas’ın da ek düzenleme getirmeme olasılığı yüksek; Austin’de olmanın benzer avantajları var. Kaliforniya düzenlemelerle sektörü dışarı iterse başka neresi öne çıkar?

    • Yıl boyunca havanın iyi olduğu, hâlihazırda büyük bir metropol alanı bulunan ve yasaları ile vergileri Kaliforniya’dan daha iyi olan eyaletler kilit nokta.
      Bu yüzden Texas ve Florida şehirleri büyüyor. Seattle’ın havası kötü, Washington soğuk ve büyük şehirler iyi yönetilmediği için varlıklı aileler için yaşaması cazip değil.
    • Eyalet siyaseti de önemli ama elektrik fiyatları ve yeni veri merkezleri için gayrimenkul bulabilme imkânı da önemli.
      Kaliforniya’da elektrik fiyatları özellikle yüksek ve yeni sanayi tesisleri inşa etmeyi de zorlaştırıyor. Soğutma ihtiyacına yardımcı olabilecek su kütlelerinin yakınındaysa bu daha da geçerli. Şirketler bazı çalışanlarını Kaliforniya’da tutabilir ama donanımın başka yerlerde çalışması daha olası.
    • Miami nüfusu bu tür yasalara ideolojik olarak çok karşı olma eğiliminde.
    • Tennessee mümkün. Elektrik talebini karşılayacak barajları var.

  • Bu yazı çok kötü ve LLM ürünü kokuyor.
    Bu yasa tasarısını gerçekten anlamak istiyorsanız Zvi’nin analizini okumanız daha iyi olur: https://thezvi.substack.com/p/on-the-proposed-california-sb-...

    • Zvi bu yasa tasarısının bazı önemli kısımlarını kaçırmış gibi.
      Örneğin uygulama modelinin ticari, kamusal ya da geniş çaplı kullanımına başlamadan önce; olumlu bir güvenlik değerlendirmesi veya sınırlı yükümlülük muafiyeti yoksa geliştiricinin, “bir kişinin bu modeli kullanarak ciddi zarara yol açan türev modeller oluşturmasını önleyecek” makul korumaları ve şartları uygulaması gerektiği belirtiliyor.
      Bu basitçe imkânsız. Model ağırlıklarını verirseniz onu kesinlikle ince ayar yaparak uygulamalı zarar verecek hale getirebilirim. Örneğin kimyasal/biyolojik silah yapım talimatları vermesini sağlayabilirim. Bu şart karşılanamaz; karşılanmazsa uygulama modelini dağıtamazsınız.
    • “LLM ürünü kokuyor” sözüyle ilgili olarak Answer.AI, kendisini temel araştırma atılımlarına dayanarak pratik son kullanıcı ürünleri geliştiren yeni türde bir yapay zeka Ar-Ge laboratuvarı olarak tanıtıyor.
      Şirketin ya da yazarın kendi iç ürününü doğrudan denemiş olma ihtimali çok yüksek.
    • Yazının kaynağı etrafındaki tartışmaya saplanmak yerine metnin özüne odaklanılsa iyi olur.

  • “Uygulanan model”, iki ölçütten birini karşılayan bir yapay zeka modelidir
    Birincisi, 10^26’yı aşan tamsayı veya kayan nokta işlem miktarıyla eğitilmiş model. İkincisi, 2024 itibarıyla 10^26’yı aşan işlem miktarıyla eğitilmiş bir yapay zeka modeliyle benzer ya da daha yüksek performans göstereceği makul biçimde beklenebilecek kadar büyük bir işlem miktarıyla eğitilmiş modeldir; bu da en ileri temel modellerin genel performansını nicelleştirmede yaygın olarak kullanılan benchmark’larla değerlendirilir
    Temel CPU mimarisi dersi almış olan herkes tamsayı işlemleri ile kayan nokta işlemlerinin hesaplama yükünün çok farklı olduğunu bilir. Bir taraf bu ifadeyi mahkemede kullanarak uygulama eşiğini geriye dönük olarak ciddi biçimde düşürebilir. Örneğin bir kayan nokta işleminin 10 tamsayı işlemine eşit olduğunu, dolayısıyla sınırın 10^26 tamsayı işlemi veya 10^25 kayan nokta işlemi olduğunu iddia edebilir
    Bugünün benchmark’larını temel alıp daha iyi algoritmaları da geleceğe dönük kapsama almaya çalışınca, harcanan çabanın kendisinin artık önemli olmadığı bir noktaya gidiliyor. Bugünün benchmark’larının gerçek kabiliyeti yansıtıp yansıtmamasından bağımsız olarak, eşik çizgisi sanki onların üzerine çekiliyor. Küçük bir model bu benchmark’larda bilerek düşük performans gösterecek, ama nükleer silah yapımı gibi endişe ettikleri görevlerde çok iyi olacak şekilde de eğitilebilir

    • Tasarıda daha ilginç bir parça da var
      Uygulanan bir modelin eğitimine başlamadan önce geliştiricinin, o modelin tüm benchmark’larda daha düşük performans gösterip göstermeyeceğine karar verebileceği söyleniyor; eğitimden önce performansı nasıl bileceksiniz diye düşündürüyor
    • Tamsayı işlemlerini bir kenara bırakalım, kayan nokta hassasiyeti neye göre belirlenecek? Sırf bu bile sayıları ciddi biçimde çarpıtabilir
    • Bir anlamda bu, cebimizde çalışan genel amaçlı yapay zeka yapmaya da yol açabilir
      Kullanılabilecek bir üst sınır oluştuğunda insan yaratıcılığı o aralığa sığacak yönde toplanacaktır. Elbette bu yalnızca ABD için geçerli. Çin, Rusya, Kuzey Kore, İran vb. bu teknolojinin peşinden hâlâ özgürce gidebilir

  • Bu yazının tamamı ChatGPT ile yazılmış gibi hissettiriyor
    Örneğin orijinal yasa tasarısından bile alıntı yapmadan açık kaynağın değeri hakkında sürekli muğlak iddialarda bulunuyor

    • Ana noktaları madde işaretli bir listeyle özetleme hevesi de ChatGPT tarzı ifade
    • Bu tür kesin hükümler yakında sitede tabu gibi olacak sanırım
      Tartışmaya ne kattığını bilmiyorum; karşı argüman işlevi gören bir muhakeme içerip içermediği de şüpheli

  • Yapay zeka modellerinin geliştirilmesini doğrudan düzenlemek yerine, özellikle kamu güvenliği ve emniyeti açısından yüksek risk doğuran uygulama alanlarını düzenleme önerisi hoşuma gidiyor
    Sağlık, ceza adaleti, kritik altyapı gibi zarar potansiyelinin en yüksek olduğu yüksek riskli alanlarda yapay zeka kullanımını düzenlemek, yapay zeka teknolojisinin gelişmesine izin vermeye devam ederken zararlı kullanımlar için hesap verebilirliği güvence altına alabilir. Bu yaklaşıma karşı iyi bir argüman olup olmadığını merak ediyorum