- İnsan ve yapay zekadaki ‘zeka (intelligence)’ kavramını felsefi ve teknik açıdan inceliyor; tanımını ve özünü yeniden değerlendiriyor
- Zekayı basit bir hesaplama yeteneği olarak değil, çevreye uyum sağlama ve sorun çözmeyi genelleştirme kapasitesi olarak tanımlıyor
- Biyolojik zeka ile yapay zekayı karşılaştırırken, bağlamı anlama ve hedef yönelimi temel unsurlar olarak sunuluyor
- Yapay zekadaki ilerlemenin, insan zekasının özünü daha derin kavramayı sağlayan bir ayna işlevi gördüğünü açıklıyor
- Bu tartışmaların, AI araştırmalarının yönünü ve insan merkezli tasarım felsefesini yeniden kurmak için önemli çıkarımlar sunduğunu belirtiyor
Zekanın tanımı ve özü
- Yazı, zekayı yalnızca bilgi işleme ya da hesaplama yeteneği olarak görmüyor; onu çevreye uyum sağlayan ve hedeflere ulaşan genelleştirilmiş bir kapasite olarak tanımlıyor
- Zeka, belirli bir problemi çözme tekniği değil; yeni problemleri öğrenme ve çözme esnekliği anlamına geliyor
- Bu nedenle zeka, durağan bir özellik değil; duruma ve bağlama göre değişen dinamik bir süreç olarak açıklanıyor
- İnsan zekasının bilinç, duygu ve toplumsal etkileşimle derinden bağlantılı olduğu, bunun da basit algoritmik hesaplamaya indirgenemeyeceği savunuluyor
- İnsan düşüncesi, hedef belirleme, değer yargısı ve deneyime dayalı akıl yürütmeyi içeriyor
- Bu unsurların, mevcut yapay zeka sistemlerinin taklit etmekte zorlandığı alanlar olduğu belirtiliyor
Yapay zeka ile biyolojik zekanın karşılaştırılması
- Yapay zeka, veriye dayalı örüntü öğrenmesi ile belirli görevleri yerine getirirken, insanlar problemleri bağlamsal kavrayış ve anlam yorumlama yoluyla çözüyor
- AI istatistiksel korelasyonları öğrenirken, insanlar nedensellik ve amaçlılığı kavrıyor
- Bu fark, ‘zeka’nın özünün salt bilgi işleme hızından çok anlam kurma kapasitesinde yattığını gösteriyor
- Biyolojik zeka evrimsel baskılar ve hayatta kalma amacı içinde şekillenirken, yapay zeka insanın tasarladığı hedef fonksiyonları ile çalışıyor
- Bu nedenle AI’ın ‘zekası’, dışsal amaçlara bağımlı yapay bir biçim olarak tanımlanıyor
- İnsan zekası ise öz koruma ve toplumsal iş birliği gibi içkin motivasyon yapıları içeriyor
Zekanın bileşenleri ve ölçüm sorunu
- Yazı, zekayı oluşturan başlıca unsurlar olarak öğrenme, akıl yürütme, bellek, planlama ve yaratıcılığı sunuyor
- Bu unsurlar birbiriyle etkileşerek belirli bir ortamda uyumsal davranış üretiyor
- Örneğin yaratıcılık, mevcut bilgiyi yeniden birleştirip yeni çözümler ortaya koyan zekanın üst düzey bir ifadesi olarak açıklanıyor
- Zekayı ölçmenin zorluğuna da dikkat çekiliyor
- IQ ya da benchmark testleri, yalnızca belirli türde problem çözme yeteneklerini ölçüyor ve gerçek zekanın karmaşık özelliklerini yansıtamıyor
- Bu nedenle zekayı değerlendirmek için bağlamsal uyarlanabilirlik ve genelleme kapasitesi de birlikte ele alınmalı
Yapay zeka ilerlemesinin gündeme getirdiği felsefi sorular
- Yapay zekanın hızlı ilerleyişi, ‘zekanın özü nedir?’ sorusunu yeniden gündeme getiriyor
- AI, insanın dilini, üretimini ve yargılarını taklit ettikçe, insana özgü zekanın nerede bulunduğunu araştırma gereği artıyor
- Bu, yalnızca teknik bir sorun değil; ontolojik ve etik bir meseleye de genişliyor
- Yazı, AI’ın insan zekasının aynası gibi işlediğini açıklıyor
- AI’ın sınırları ve hataları üzerinden, insan düşüncesinin yapısını ve güçlü yanlarını daha açık biçimde anlayabiliyoruz
- Bu nedenle AI araştırması, insanı anlama sürecinin genişlemesi olarak yorumlanıyor
Zeka araştırmalarının gelecekteki yönü
- Gelecekte zeka araştırmalarının insan merkezli tasarım ve etik değerlendirmeleri içermesi gerektiği vurgulanıyor
- Yalnızca teknik başarılar değil, zekanın toplum ve insan yaşamı üzerindeki etkileri de birlikte değerlendirilmelidir
- Bu, AI sistemlerinin insan değerlerini ve amaçlarını yansıtacak şekilde tasarlanmasına ilişkin ‘değer hizalaması (value alignment)’ sorunuyla bağlantılıdır
- Zeka tanımını yeniden kurma işi, AI geliştirmesinin felsefi temelini güçlendiren bir süreç olarak sunuluyor
- Teknolojik ilerleme, insan zekasına dair anlayışı derinleştirebilir ve zekanın anlamını yeniden kurmak için bir fırsat olabilir
- Nihayetinde zeka araştırmaları, insan ve makinenin birlikte evrimi (co-evolution) yönünde ilerlemelidir
2 yorum
Hacker News görüşleri
Bu kitabın gerçekten bir editöre ihtiyacı varmış gibi hissettim.
Yaklaşık 100 bölüm başlığı, sanki halüsinasyon hâlinde çağrışımla üretilmiş gibi duruyor ve her bölüm, okuru şaşırtmaya çalışan sanatsal bir deneme gibi görünüyor.
İçerikle gevşek biçimde bağlantılı karmaşık diyagramlar ve teknik jargon çok fazla; bir de scroll hijacking olunca okumayı iyice zorlaştırıyor.
Toplamda 600 sayfa olduğu düşünülürse, çoğu kişinin bunu baştan sona okuyacağını sanmıyorum.
Yani doğrulanabilir gerçek → apaçık hakikat → yaygın kabul gören görüş → temelsiz iddia → klişe sonuç sıralamasıyla okurun onayını alma yöntemi.
Bu yapı, mantıksal temeli zayıf iddiaları ustaca araya sokmak için tarikat liderleri ya da politik hatipler tarafından sık kullanılan bir ikna tekniği.
Kitabın sibernetik ve hesaplama teorisi bölümleri iyi araştırılmış, ama özgün değil ve birleşik bir tez de sunmuyor.
Biyolojiyle sinema hikâyelerini karıştırınca odak daha da dağılıyor.
Yazarın AI hakkında güçlü fikirleri var, ama bunları doğrudan temellendirmek yerine ikna sandviçinin içine gizlemeye çalışıyor gibi.
İlgili bağlantılar: Compliment Sandwich, History of Computing yazısı
Kitabın tamamını okumadım ama onun yerine Karl Friston ya da Andy Clark'ın predictive processing kuramını okumak daha değerli olabilir gibi geliyor.
Kendi site tasarımım daha okunaklı olsa da, kitabın acayip yapısı bana daha çok çekici geldi.
Son zamanlarda bu tarz metinleri görünce bunlar bana kasıtlı muğlaklık ya da sahte-bilimsel yaklaşım gibi geliyor ve direkt geçiyorum.
Bu tartışmada Marcus Hutter'ın 『Universal Artificial Intelligence』 kitabını atlamak olmaz.
Bu kitap, zekânın matematiksel tanımı ile algoritmik olasılığa dayalı karar verme yaklaşımının temelini koyuyor.
Güncel AI teknolojisinin sınırları da bu çerçevede açıklanabilir.
Aslında bu kitabı gerçekten okuyan biri var mı diye sormak istiyorum.
Ben yarısına kadar okudum; kendini kopyalamanın hesaplamalı bir evrende doğal biçimde ortaya çıktığı fikri ilginçti.
Wolfram'ın dünya görüşüne benzer bir havası var, ama farklı alanları birbirine bağlama çabası zihni uyarıyor.
Popüler bilim olarak okunabilir.
Özellikle “kopyalama kötü kopyayla başlar” fikri aklımda kaldı.
Sistemlerin önce kusurlu kopyalar üretip zamanla bunu iyileştirerek çoğalmaya ulaşması ilginçti.
Bence bu fikir startup'lar, fikirler ve finansal sistemler için de geçerli.
Bu arada, çevrimiçi sürümdeki brainfuck kodunda bir bug var; isterseniz onu da bulun.
Anlamın durum değişiminden doğduğunu düşünüyorum.
İnsanlar karmaşık anlam üreticileridir ve evren entropiye bağlı olduğu için bir zaman sınırı vardır.
O zamana kadar da biz, yıldızların ışık saçması gibi anlam yayan varlıklarız diye düşünüyorum.
Kitabı bizzat okumadım ama yazar, insan zekâsının büyük bir bölümünün AI ile yeniden üretilebileceğini savunuyor gibi görünüyor.
Yani canlı olmayan sistemler de zekice davranış sergileyebilir görüşünde.
Ama AI'da bedensel bağlam (embodiment) olmadığı için, bunu insanla aynı türden bir zekâ saymak zor.
İnsan zekâsının kökenini anlamak için Ester Thelen'in 『A Dynamic Systems Approach to the Development of Cognition and Action** kitabı iyi bir başlangıç noktası.
Orada insan gelişiminin genetik bir programdan değil, deneme-yanılma etkileşiminden doğduğu anlatılıyor.
Sonuçta medeniyeti geliştiren temel şeyin bakım verme ve eğitme sanatı olduğunu düşünüyorum.
Sonuçta ‘yapay’ sıfatı zaten ayrımı yapıyor.
Ama bunların iradesi (will) yok. Hedefleri en nihayetinde programcının iradesinden ibaret.
Yazarın “Bu felsefe değil, Turing'in izinden giden bilimdir” tavrı, alçakgönüllü görünmeye çalışırken felsefeyi küçümseyen bir havaya sahip.
Ana iddiası olan “taklit zekâdır” düşüncesi, toplumsal örneklerle kolayca çürütülebilir.
Mesela bir oyuncu bir dâhiyi kusursuz biçimde canlandırsa bile gerçekten dâhi olmaz.
Yani inandırıcı cümle üretimi, zekânın özü değildir.
İnsan zekâsı temel akıl yürütme ve duyusal örüntü tanıma yetilerinden doğar; AI ise buralara hâlâ ulaşabilmiş değil.
Basit sinir ağları bile evrensel yaklaştırıcı (universal approximator) olduğuna göre, biyolojik beyinler de yapay beyinler de nihayetinde dünyanın karmaşık fonksiyonlarını yaklaştıran yapılar olabilir.
Zekâ yalnızca girdi-çıktı yaklaştırması değil; nedensel yapıyı öğrenme, simüle etme ve plan kurma yeteneğidir.
LLM'ler yalnızca, insan zekâsının genişlettiği bilgiyi içlerinde taşıdıkları için zeki görünür.
Asıl soru, bunların kendi başlarına nedensel model kurup kuramadıkları.
Bugünkü LLM'ler interpolation işinde iyi, ama extrapolation konusunda zayıf.
Duyusal girdiler farklı periyotlarda ve farklı konumlardan geldiği için, bunu aşırı basitleştirmek önemli bilgilerin kaybına yol açabilir.
Eskiden dinlediğim bir röportajda, insan akıl yürütmesinin (reasoning) mantıksal düşünceden çok toplumsal ikna için evrimleştiği yönünde bir hipotez vardı.
Yani başkalarını ikna etmek ya da kendi davranışlarımızı meşrulaştırmak için nedenler uyduruyoruz.
Bu açıdan bakınca, LLM'lerin sonraki token tahmini ile insan konuşmasının yapısı bana benzer geliyor.
Sanırım bu Hugo Mercier'nin çalışmasıydı.
Bkz. Why do humans reason?
Alet üretmek ve bilgiyi aktarmak için öğretim ve işbirliği gerekiyordu.
İlgili alıntı: Cambridge excerpt
Buna karşılık LLM'ler kavramlarla değil, yalnızca kelimelerle çalışır.
Dil, insanların yarattığı bir araçtır; fikirler ile dil aynı şey değildir.
Akıllı telefonun otomatik tamamlama tahmin ettiği kelime sayısını artırıp bunun insan konuşmasına ne kadar benzediğini ölçebiliriz.
Bu kitap tahminin merkeziliği, zekânın toplumsal yapısı, dilin sıkıştırma işlevi ve izole sistemlerin sınırları gibi konuları ele alıyor.
Ama asıl mesele, gerçek zekânın salt hesaplama ilkeleriyle mümkün olup olmadığı, yoksa çevresel içkinliğe de ihtiyaç duyup duymadığı.
Ben tüm öğrenmeyi maliyet ve verimlilik tarafından yönlendirilen bir süreç olarak görüyorum.
Biyolojik sistemler sonraki nesli desteklemek zorunda olduğundan, zekâ ekonomik baskılarla optimize edilen bir keşif süreci hâline geliyor.
İlgili yazı: What the Dumpster Teaches
Sadece sıcaklığı ölçüp kapanmak, hedef çıkarımı yapmak demek değil.
Gerçek zekânın, kendi hedefleri üzerine düşünebilen bir meta katmana sahip olması gerekir.
Yani burada da ekonomik seçilim baskısı var; yapı tamamen farklı değil.
İnsanlar bu çelişkilerden hoşlanmadıkları için tutarlılığı hikâyelerle (story) korumaya çalışıyor.
Din, siyaset, hukuk, AI mitleri — bunların hepsi kolektif tahmin hatasını hafifleten anlatı aygıtları.
Ama mikroorganizmalar bunlar olmadan da hayatta kalıyor.
Sonuçta zekâ, istikrarsız bilginin girdabından ibaret olabilir; yaşamı sürdürmek için mutlaka gerekli olmayabilir.
Eğer bilinç emergent ise, silikon tabanlı zekâ da mümkün olabilir.
Amazon incelemesine göre
kitabın özü, “beyin geleceği tahmin etmek için evrimleşti” diyen öngörücü beyin hipotezi.
Ayrıca bazı modern AI sistemlerinin zekâ, bilinç ve özgür irade geliştirebileceğini de savunuyor.
Bu yüzden ‘tahmin’ tanımı, zamanla değişebilecek geçici bir özellikten ibaret olabilir.
Zekâ, bizim kendimizin yapabildiğini sandığımız şeylerdir.
Ama bilgisayarlar giderek bunların hepsini yapabiliyor.
Sonunda insan zekâsı sadece ileri seviye örüntü eşleme olabilir.
LLM'ler henüz özerk araştırma ya da yüksek düzey tasarım yapamıyor.
Ayrıca unutabilme yetisi ve kendi bağlamını yönetme konusunda da eksikleri var.
İnsan zekâsının birçok yönü başka hayvanlarda da mevcut, ama yazı ve alet yapımı sayesinde bu çok hızlandı.
Örüntü eşleme, “korelasyon muhtemelen nedenselliğe işaret eder” şeklinde güçlü bir sezgisel kural sunuyor.
Zekâ, sistemleri hack'leme ve anlama yeteneğidir; bunun üzerinden daha karmaşık bilgi birikimi inşa ederiz.
Ateşten, taştan ve buğdaydan başlayıp bugün Mars keşfini konuşur hâle geldik.