AGI Hakkında Nasıl Düşünmeli
(ben-evans.com)"Temelde ne olduğunu da, riskinin ne olduğunu da bilmiyorsak ve uzmanlar da bilmediklerini söylüyorsa, biz buna nasıl yaklaşmalıyız?"
Tarihsel perspektiften AGI hakkında düşünmek
- 1946'dan bu yana, bilgisayarların ortaya çıkışıyla birlikte yapay zekaya (AI) ilgi başladı
- AI, hâlâ tamamen hayata geçirilmemiş bir teknolojiyi ifade eden bir terim olarak görülüyor
- İnsanla eşdeğer düzeyde yazılım tabanlı zekayı ifade eden AGI'ye (Artificial General Intelligence) ilgi sürüyor
AGI'nin gerçekleştirilebilirliği konusunda görüş ayrılıkları
- Son dönemde büyük dil modellerinin (LLM) ortaya çıkmasıyla, AGI'nin yakın olduğuna dair görüşler öne çıktı
- Bazı uzmanlar LLM'lerin AGI'ye evrilebileceğini öngörüyor
- Buna karşılık, AGI'nin gerçekleşmesi için hâlâ ek atılımlar gerektiğini savunanlar da var
- AGI'nin insanlık için bir tehdit oluşturabileceğine dair kaygılar da dile getiriliyor
- Ancak uzmanlar arasında bile AGI'nin mümkün olup olmadığı ve ne zaman gerçekleşeceği konusunda görüş birliği yok
AGI için teorik bir modelin yokluğu
- Genel zekanın (General Intelligence) tam olarak ne olduğuna dair üzerinde uzlaşılmış bir teorik model yok
- LLM'lerin neden iyi çalıştığı ve gelecekte nasıl gelişebileceği konusunda da belirsizlik var
- AGI kavramının kendisi de bir düşünce deneyi (Thought Experiment) niteliği taşıyor
AGI konusundaki belirsizlik ve riskler
- AGI'yi duyguları ve hakları olan yeni bir yaşam formu olarak tanımlayıp, kontrol edilemez olacağını varsaymak döngüsel mantığa düşme riski taşır
- AGI'nin özellikleri ve potansiyeli konusunda kesin konuşmak mümkün değil
- İnsandan çok daha zeki olabilir ya da sadece daha hızlı olabilir
- Köpek düzeyinde genel zekaya sahip, kullanışlı bir araç olarak da kalabilir
- AGI'nin risklerine yönelik kaygılar gerçek olsa da, riskin tam büyüklüğü ve niteliği bilinmiyor
AGI geliştirmenin kaçınılmazlığı ve buna verilecek yanıt
- Uzun vadede AGI teknolojisinin ilerlemesi kaçınılmaz görünüyor
- Açık modeller yayılıyor ve çiplerin performansı gelişmeye devam edecek
- Sonuçta matematiği yasaklayamazsınız
- Otomasyon teknolojilerinin yaratacağı sürtüşme ve acı kaçınılmaz olsa da, hayat devam edecek
- AGI'nin risklerini kabul ederken, aşırı korku yerine serinkanlı bir tutumla yaklaşmak daha doğru görünüyor
3 yorum
Bence, risk temelli bir bakış açısından bu, bir çocuğun ya da ilkel bir insanın ateşe bakmasına benziyor.
Ateşin hangi süreçlerden geçerek ışık ve ısı ürettiğini bilmese de, olgudan yola çıkarak ışığın bazen faydalı şekilde kullanılabildiğini, ısının da bazı durumlarda işe yaradığını keşfedip ondan iyi yararlanıyor.
Ama bu olguyu net biçimde anlamadığında ya da yanlış şekilde kullandığında zarar da görebiliyor; sonuçta bu açıdan bakarsak biz de yapay zeka karşısında ilkel insanlarız.
Yoksa benim dışımda herkes yapay zekayı çok iyi biliyor da ben mi bilmiyorum?
Aslında bariz bir konu ama..
AGI konusunda korku duyan birçok insan var; bu yazı onlara yardımcı olabilir gibi görünüyor.