LLM Kaçınılmazcılığı
(tomrenner.com)- Kaçınılmazcılık (Inevitabilism), belirli bir geleceğin mutlaka geleceği varsayımıyla söylemin yönünü belirleyen güçlü bir çerçeveleme biçimi
- AI ve LLM’lerin geleceği hakkında ana akım figürler “böyle bir gelecek kaçınılmaz” diyerek buna göre uyum sağlama baskısı uyguluyor
- Bu çerçeveleme, itirazı ya da direnci ‘gerçekçi değil’ diye damgalarken, fiilen seçim hakkını elinden alan psikolojik bir etki de yaratıyor
- Yazar, LLM’lerin ya da AI’ın gerçekten istenen bir gelecek olup olmadığını sorguluyor ve nasıl bir gelecek istediğimize, hangi teknolojileri seçeceğimize kendimizin karar vermesi gerektiğini vurguluyor
- Kaçınılmazlık çerçevesine kapılmak yerine, herkesin istediği geleceği aktif biçimde düşünmesi ve hayata geçirmesi gerektiğini savunuyor
Kaçınılmazlık çerçevesinin gücü
- Tartışmada çok iyi olan biriyle münazara ederken, insan kendini sürekli beklenmedik noktalara çekilirken bulabiliyor
- Kendi argümanının sadece zayıf taraflarını savunurken, asıl mesele akış içinde kayboluyor
- Sonunda akışı ve özgüveni kaybedip tartışmada geri düşülen bir yapı oluşuyor
- Üniversite yıllarında uluslararası münazara yarışmasını kazanan bir arkadaşın vurguladığı strateji, önce çerçeveyi kurmaktı
- Yani, kendi terimlerin ve mantığınla konuşmanın zeminini belirlemek. Çerçeveyi ele geçirdiğinde, tartışmanın sonucu da neredeyse baştan belirlenmiş oluyor
Surveillance Capitalism ve ‘Kaçınılmazcılık’
- Shoshana Zuboff’un 『The Age of Surveillance Capitalism』 kitabını okurken ‘Inevitabilism (kaçınılmazcılık)’ kavramıyla tanışıyor
- Bir kavrama ad vermek bile tartışmayı örgütlemek ve ortak bir sorun bilinci oluşturmak açısından büyük güç sağlıyor
- ‘Kaçınılmazcılık’, belirli bir geleceğin mutlaka gerçekleşeceğini öne sürerek, yalnızca buna hazırlık yapmanın rasyonel seçimmiş gibi görünmesine yol açan bir düşünme biçimi
- Bu yaklaşım, karşıt görüşleri ‘gerçekliği yok sayanlar’ diye yaftalıyor ve ancak çerçeveyi zaten kabul etmiş tartışmaları meşru sayıyor
AI için kaçınılmazlık çerçevesinin somut örnekleri
> “Biz, AI ile birlikte yaşanan bir dünyaya gireceğiz.” — Mark Zuckerberg
> “AI, yeni elektriktir.” — Andrew Ng
> “İnsanların yerini AI almayacak; AI kullanan insanlar, kullanmayanların yerini alacak.” — Ginni Rometty
- Bu tür sözler, AI çağının zaten karara bağlanmış bir gelecek olduğu havasını yaratıyor
- Tartışmanın odağı “Bu istediğimiz gelecek mi?” sorusundan “Kaçınılmaz geleceğe nasıl uyum sağlarız?” sorusuna kayıyor
- İçinde tehditkâr bir ton da barındırıyor; “reddedersen kaybedersin” ya da farklı düşünmenin “akılsızlık” olduğu duygusunu besliyor
Seçim ve özne olma hali
> "LLM’lerin gerçekten geleceğin biçimi olup olmadığından ve bunun benim istediğim gelecek olduğundan emin değilim"
- Ancak her birimizin, geleceğin nasıl görüneceğini ve teknolojinin nasıl kullanılacağını seçme hakkı var
- Kaçınılmazcılık çerçevesinin seçimlerimizi elimizden almasına izin vermemek gerekiyor
- Herkesin istediği gelecek üzerine düşünmesi ve o gelecek için mücadele etmesi gerekiyor
Sonuç
- Teknolojiye ve geleceğe bakarken, kaçınılmazlık çerçevesine pasif biçimde kapılmamak gerekiyor
- Herkesin, daha iyi olduğuna inandığı geleceği aktif biçimde hayal etmesi ve hayata geçirmesi gerekiyor
1 yorum
Hacker News görüşü
İki şeyin aynı anda doğru olabileceğini düşünüyorum.
Süpersonik yolcu uçaklarında olduğu gibi, “kaçınılmaz görünen teknolojiler” yeterli ticari getiri yoksa ya ortadan kayboluyor ya da mikrodalga fırın gibi belirli kullanım alanlarına sıkışıyor. Yeterince kârlı bir model ortaya çıkmazsa, LLM’ler bugüne kıyasla daha az özel ve daha az rahatsız edici bir yere oturacak gibi görünüyor. Her yere zorla LLM yerleştirme girişimleri pek iyi karşılanmıyor
Süpersonik yolcu uçağı benzetmesinin AI’a, hatta bilgisayarlar ve internetin tamamına da uygulanabileceğini düşünüyorum.
Bir zamanlar süpersonik yolcu uçağı teknolojisi büyüleyici ve kaçınılmaz biçimde yayılacakmış gibi görünüyordu, ama arka planda o dönemin teknolojisiyle çözülemeyen sorunlar ve kârsızlık vardı.
Bilgisayarlar ve internetin de havacılık ve uzay sanayisine benzer bir yola girebileceği hissine kapılıyorum. Belki de teknolojik zirveye zaten neredeyse ulaştık.
1970’lerde zaman makinesiyle gidip 50 yıl sonra, 2025’te süpersonik yolcu uçaklarının ortadan kalktığını ve havacılık sektörünün esasen değişmeden sadece daha sinir bozucu hâle geldiğini söyleseydiniz, kimse inanmazdı.
Bu yüzden belki de 2075’te LLM’ler hakkında bir belgesel izleyip, neden bu kadar umut verici görünen bir teknolojinin neredeyse tamamen kaybolduğunu hatırlıyor olacağız
“Çoğu insan LLM çıktılarının bayat ve tüketmesi rahatsız edici olduğu konusunda hemfikir” iddiasına pek katılmıyorum. Aslında insanlar LLM çıktılarını epey seviyor; ChatGPT tarihte en hızlı büyüyen uygulama oldu. Perplexity gibi AI uygulamaları da Google’ın aramadaki hakimiyetini tehdit etmeye başladı.
Elbette halk gidip özellikle ChatGPT’nin yazdığı romanları ya da şiir kitaplarını satın almayacaktır, ama bu çıktılar okunamaz ya da itici de değil. Açık ve okunması kolay özetler ile açıklamalar üretebildiği de inkâr edilmesi zor bir gerçek
İkinci iddian konusunda kafam karıştı. LLM şirketlerinin mevcut modellerden gelir elde edemediği doğru mu, emin değilim. OpenAI yıllık 10 milyar dolarlık ARR ve 100 milyon MAU bildiriyor. Elbette şu anda zarar ediyor olabilir, ama bu model iyileştirmesi için yapılan bir harcama. Eğer bugün model geliştirmeyi durdurup işletme maliyetlerini optimize etmeye ve büyük kullanıcı tabanını paraya çevirmeye odaklansalardı, ortada başarılı bir iş modeli olmadığını söylemek ne kadar doğru olurdu bilmiyorum. İnsanlar bu araçları zaten her gün kullanıyor. Bu kaçınılmaz
Yazının ana fikri temelde “AI’ı sıradan bir teknoloji olarak görme” yaklaşımındaki argümanla aynı
AI as Normal Technology
İlgili tartışma bağlantısı
“Kaçınılmaz görülen teknolojilerin sonunda ticari kârlılık eksikliği yüzünden gerilediği birçok örnek var” kısmı için, 120’den fazla kablo TV kanalının da ilk çıktığında iyi bir fikir gibi göründüğünü, ama pratikte LLM’lere benzer şekilde içeriklerin büyük kısmının kimsenin ilgisini çekmediğini söyleyebilirim
Modern seküler çağın olumsuz sonuçlarından biri, çok zeki ve düşünceli insanların binlerce yıllık felsefi ve dini düşünceyi modası geçmiş ya da artık işe yaramaz diye kolayca göz ardı etme eğilimidir. (Bu arada, <A Secular Age> kitabını şiddetle tavsiye ederim.)
Bu tutum, insanların dünya ve gelecek hakkındaki tekrar eden psikolojik kalıpları fark etmesini ve bu farkındalığa göre kendi pozisyonlarını ayarlamasını engelliyor
Örneğin AI kaçınılmazcılığı (inevitabilism), Reform dönemindeki kadercilikten (predestination) çok da farklı değil. Tarihin önceden belirlenmiş bir rota izlediği fikri, öznenin Tanrı’dan teknolojiye kaydığı ama psikolojik olarak aynı çizgide duran bir düşünce. Bu, özgürlük ve sorumluluğu belirsiz ama güçlü bir güce — artık teknolojiye — devreden bir psikolojik yapı
AGI’nin yakında baskın hâle geleceği iddiasına şüpheyle yaklaşıyorum, ama gençliğinde çok sayıda teoloji kitabı okumuş biri olarak LessWrong gibi popüler denemeleri dini ya da az okumuş insanların yazısı olarak görmüyorum. “Yeni tanrıları oldu!” bakışı, sık rastlanan bir konuyu saptırma biçimi. Elbette AGI’nin kaçınılmaz olduğuna inanan bazıları için yerinde bir benzetme olabilir, ama en zayıf iddialara odaklanmanın pek anlamı yok
Aklıma Techno Calvinists ile Luddite Reformists görüntüsü geliyor
Bunun, büyük anlatıların ya da ideolojilerin yokluğundan kaynaklandığını düşünüyorum. Felsefi/dini düşünceye ilgisiz ama yeni bir şeyler üretmek isteyen çok sayıda zeki teknoloji insanı var
Bunlar giderek daha fazla paranın peşine düşüyor ve sonunda sadece para kovalamak eyleminin boş olduğunu bir noktada fark ediyorlar. Ama kendilerini insanlığın bu evrensel sorununun üstünde sanıyorlar
Bu çarpıklık içinde mevcut sanatı geri dönüştürüyor, zaman geçtikçe daha da kötüleşen uygulamalar yapıyor ve insanlığı iyileştirme yönündeki o asli yaratma sevincini görmezden gelip sadece servet toplamaya odaklanıyorlar
LLM ve AI şişeden çıkmış cin gibi, ama gerçekte elektriğe değil, doğrusal perspektife ya da matbaaya daha yakın bir yere oturacak gibi geliyor. Bugünün kültüründe bu, Leonardo da Vinci’nin ömrü boyunca sadece doğrusal perspektif eğitimleri satması gibi bir şey olurdu
Bu tamamen yeni bir olgu değil; kadercilerin, tezlerini desteklemek için kullanabilecekleri yeni bir “korku nesnesi” daha eklendi sadece
Benim amacım yalnızca bu olguyu işaret etmek. İnsanlar fizikten ya da dinden gelen kaderciliği reddederken, “AI kaçınılmazdır” iddiasına hâlâ hayranlık duyma eğiliminde
Makaledeki temel iddia, 'kaçınılmazcılığın' konuşmayı kendi lehine yönlendiren retorik bir strateji olduğu; eleştiriyi “gerçekliği inkâr” diye yaftalayıp oyun dışı bırakma aracı olduğu yönünde. Reform ideolojisiyle yapılan karşılaştırmanın çok anlamlı olduğunu düşünmüyorum
Ayrıca burada sunulan 'seküler kadercilik' benzetmesinde de bir ironi var.
Protestan kader öğretisi özgürlük ve sorumluluktan kaçışla aynı şey değildir. Bu öğretinin özü, Tanrı’nın lütfunun ‘kazanılan’ değil ‘alınan’ bir şey olmasıdır; bu da eylemsizliği meşrulaştırmaz. Tam tersine, kişi kendi iyi işleri aracılığıyla kurtuluşun işaretini görmeye çalışır.
Bu da “hemen ödül beklemeyen çalışkanlık” anlayışına bağlanır ve Max Weber’in eserlerinde erken kapitalizmin itici güçlerinden biri olarak analiz edilir
Dolayısıyla kadercilik ile “teknolojik kaçınılmazcılık” gerçekte çok farklı kavramlardır
Tarihselcilikte de (ör. Hegel’in “tarihin kaçınılmaz yasaları”) buna benzer tartışmalar bulunabilir
Çocuklarımızın ya da torunlarımızın kuşağında Amerika’nın, hizmet ve bilgi ekonomisinin bütün üretimi yurtdışına devrettiği ve muazzam teknik yetkinliğin çok az sayıda elde toplandığı bir toplum olacağına dair bir his var içimde
Kamu yararını temsil eden hiç kimse teknolojik meseleleri anlamayacak ve insanlar kendi gündemlerini kurmak ya da iktidardakileri eleştirmek için gereken bilgiyi de kaybedecek
İnsanlar kristallere tutunup astrolojiye bel bağlayacak, eleştirel düşünme gerileyecek ve iyi hissetmekle gerçeğin sınırı bile bulanıklaşmış hâlde, neredeyse fark etmeden hurafeye ve karanlığa doğru kayacağız
Bu alıntının buraya tam uymadığını düşünüyorum ama kaynağı merak edenler için söyleyeyim, The Demon-Haunted World kitabından alınma
Bu satırları okuyunca sesi bile kulağımda çınlıyor
İnsanlar ne kadar taklit etmeye çalışsa da asla bayatlamayan benzersiz bir üslubu var
2009’da akıllı telefonların hakimiyetinin kaçınılmaz olduğunu söyleseydiniz, bunun sebebi zaten akıllı telefon kullanmış ve gücünü doğrudan deneyimlemiş olmanız olurdu; yoksa bir niyet uğruna özgür iradeyi çarpıtmaya çalışmanız değil
2025’te gerçekten AI kullanarak somut işler yapmışsanız, bu teknolojinin geniş çaplı benimsenmesinin kaçınılmaz olduğunu inkâr etmek zor olacaktır. AI tarihte hiç olmadığı kadar hızlı ve güçlü biçimde geliyor. Sırf korkutucu olduğu için buna sırt çeviremeyiz
80’lerde AI’ın kaçınılmaz olduğunu söyleyip yatırım yapanlar ya da 10 yıl önce VR’ın baskın olacağını düşünenler de vardı; sonuç ortada. Zuck hâlâ milyarlarca dolar yakıyor ve Apple da talebi tamamen yanlış okudu.
AR, VR’ın kurtarıcısı olabilir ama tüketici pazarına girmesi hâlâ uzak ve VR için geliştirilen teknolojilerin büyük kısmı AR ile doğrudan ilişkili olmayacak
Tesla’nın otonom Robo-taxi efsanesi de 10 yıldır anlatılıyor ama sürücüsüz şekilde para kazanan tek bir Tesla bile yok
Dönüp baktığında sadece başarıya ulaşmış teknolojileri örnek vermek aptalca. Başaramamış sayısız teknoloji ve yatırım/ sektör balonu da oldu
Bu tam olarak yazıda söz edilen retorik taktik
Bir zamanlar son derece yenilikçi ve kaçınılmaz görülen bir ulaşım aracının sürekli konuşulduğu dönemi hatırlayın. Hype, gizli toplantılar, dev beklentiler… sonunda ortaya çıkan şey Segway olmuştu
Bir tür kendi kendini gerçekleştiren kehanet gibi geliyor. Büyük teknoloji şirketleri ‘AI’ı her ürüne zorla sokup sonra da “bakın, bu kadar yaygın kullanılıyor, demek ki kaçınılmaz!” diyor
Ben de AI’ın kaçınılmaz olduğunu düşünüyorum ama şu anda grup düşüncesi o kadar baskın ki her şey konuşma balonu temelli agent UI’larla ifade ediliyor
Herkes bunu aşıp geçtikten sonra sırada neyin geleceğini görmek için heyecanlıyım
1950’de biri akıllı telefonların ana akım olacağını söylese çoğu insan bunu kolayca kabul ederdi. Bilimkurgu romanları ve filmleri de sık sık böyle bir geleceği tasvir ederdi
Ama sosyal medya için tepkiler farklı olurdu. Kimisi havalı bulur, kimisi distopya olarak görürdü
Aslında bu üçü de (akıllı telefon, sosyal medya, AI) 50’lerden önce bile insanların hayal gücünü cezbediyordu
Gerçekte AI, gelişmiş bir iletişim cihazından çok, hayal edilen sosyal medyaya daha yakın
1950’lerde nükleer teknoloji de kaçınılmaz görülüyordu. Hatta uranyum camından yapılmış sofra eşyaları bile satılıyordu; belki hâlâ birilerinin evindeki rafta parlıyordur ya da çoktan kırılmıştır
Bir “LLM kışı” yaklaşabilir
İnsanlar LLM’lerin gerçekte bir şeyleri ‘yapamadığını’ fark ettiğinde olabilir bu
Şirketlerin LLM hatalarının sorumluluğunu tüketicinin üstüne yıkmaya çalıştığını görebiliriz
“Bilmiyorum”, “Bu görevi yapamam” gibi çıktıları dürüstçe verebilen sistemlere ihtiyaç var
Programcılar için LLM kullanımının aslında negatif değer ürettiğine dair raporlar bile gelmeye başladı
LLM’in bıraktığı izleri temizlemek çok fazla zaman alıyor
LLM hatalarının sorumluluğunu tüketiciye yıkmak sadece şirketlerin yaptığı bir şey değil
Bu forumun hevesli kullanıcıları da (ya da belki siber pazarlamacılar) aynı tavrı gösteriyor
LLM’den değer çıkarmak için belli bir bilgi düzeyi ve ‘prompt engineering’ (artık ‘context engineering’ bile deniyor) becerisi gerektiğini savunuyorlar
Sonuçta bu aracın zaman kaybı olduğunu düşünenlerle büyük verim artışı yaşadığını söyleyenleri ayıran tek şeyin kullanıcının becerisi olduğu anlatısı ortaya çıkıyor
Bu anlatı bloglarda, forumlarda, hatta yakın tarihli METR araştırma sonuçlarının yanlış yorumlarında bile her yere sinmiş durumda
Elbette her araçtan tam verim almak için belli bir ustalık gerekir
Ama LLM kullanıp fayda göremeyen insanların yetersiz olduğu gibi genelleyici bir yargı kurmak aşağılayıcı
LLM, özel mühendislik uzmanlığı gerektiren bir uzaylı teknolojisi değil
Doğru soruları sormayı ve biraz araç/ kavram bilgisi edinmeyi öğrenen herkes bunu kullanabilir
Bu şekilde konuşanların amacı eninde sonunda LLM satmak ya da teknolojinin etkisini abartmak
İnsanların kendisi de güvenilmez olduğu için korkuluklar, kontroller, gözetim ve denetim koyuyoruz
Yazılımda code review, test ve monitoring gibi best practice’lerin olmasının sebebi bu
LLM’lerin yazılım geliştirmede en hızlı kök salabildiği alan olmasının nedeni de bu
Zaten güvenilmez insan ‘çalışan’larla başa çıkmak için yöntemlerimiz var; aynı deneyimi LLM’lere uygulayabiliriz
Sonuç olarak başarılı LLM uygulamalarının anahtarı, işe özel korkuluklar koymak ve gerektiğinde insanın devreye girdiği sistemler kurmak
LLM’yi davranışını zorla doğruya yaklaştıran sistemlerin içine koymak gerekiyor
Örneğin LLM’nin belgelere ya da man sayfalarına başvurmasını ve yalnızca belirli satırları çıktılamasını isteyebilirsiniz
Böylece sistem gerçekten o satırları bulup alıntılar; LLM de kafasından alıntı uyduramaz
LLM’nin henüz tip sistemiyle bütünleştiği bir örnek yok
Güçlü bir tip sistemi (ör. bağımlı tipler) “bu fonksiyon her zaman sıralı bir liste döndürür” gibi şeyleri derleme aşamasında garanti edebilir
Elbette doğrudan çok fazla ispat kodu yazmak gerekir, ama eğer LLM bu ispatları sizin yerinize yazabiliyorsa, derlendiği sürece doğru olduğuna güvenebilirsiniz
Tabii bellek yetersizliği ya da elektrik kesintisi gibi istisnalar her zaman vardır
Bu ‘düşük kaliteli çıktı üretme’ çılgınlığının bir an önce bitmesini istiyorum
Ama kaliteyle hiç ilgilenmeyen dolandırıcılar, spamcılar, clickbait blogcular, seçimlere müdahale etmeye çalışanlar ve kötü uygulama/müzik/video/“sanat” ile reklam geliri kovalamak isteyenler için bugünkü Gen AI kusursuz bir ürün
Kaliteye önem verenler AI’ın işe yaramaz olduğunu anladığında internet zaten ölmüş olacak
O noktada artık ‘hakikat sonrası’, ‘sanat sonrası’, ‘teknoloji sonrası’, ‘demokrasi sonrası’ bir çağda olacağız ve büyük kazancı da Kaliforniyalı birkaç milyarder elde etmiş olacak
Zeki insanların yeteneklerini toplumsal değeri yok eden çöp şeyler üretmeye harcadığını görmek kadar moral bozucu çok az şey var
90’larda bir arkadaşımdan interneti ilk kez duydum; üniversitede okuyan birinin interneti gösterebileceğini söylemesi üzerine bir saat sonra üniversite bilgisayarının başına oturmuştum
Linklere tıklamak, okunamayacak kadar hızlı akan metinler, harika düzenler, görseller, başka web sayfalarına bağlantılar… basım, gönderim ve bekleme olmadan her şeye anında erişebilmek beni çarpmıştı. Bunun gelecek olduğunu düşünmüştüm ve açıkça kaçınılmaz görünüyordu
Dün büyük bir kütüphaneye dayanan bir programı baştan yazmam gerekiyordu; normalde uzun belgeleri okumam ya da kodu tek tek incelemem gerekecekti
Bunun yerine bütün programı ve kütüphaneyi GPT 4.1’e yapıştırıp yeniden yazmasını istedim; tek seferde başardı ve ben de 15 dakikada tüm değişiklikleri okuyup sadece birkaç stil düzeltmesi yaparak işi bitirdim. Saatlerce zaman kazandım. Bu bana yine geleceğin bu olduğunu hissettirdi ve yine kaçınılmaz göründü
P.S. Pek çok yanıt, benim deneyimimi LLM ile sohbet ederek kodu kademeli değiştirme yaklaşımıyla (‘agentic coding’) karşılaştırıyor, ama benim yaptığım “tek seferde bir dosya, koda dokunmadan” biçiminde. Ayrıntılar için buraya bakabilirsiniz
Tamamen katılıyorum, ama aslında bu bana sadece IDE ile programlamanın geleceğin kendisi olduğunu söylemekten çok farklı gelmiyor
Kaçınılmazcılığın özü, yeni ve güçlü geliştirme araçlarının birkaç saatlik verim artışı sağlaması değil; bilginin aracılığını kimin yaptığı, bilgi emeğinin nasıl tanımlandığı, işveren-çalışan ilişkisi ve gözetim araçları gibi toplumsal sistemlerin nasıl değiştiğidir
Kaçınılmazcılığı yayanlar inatçı geliştiricileri ikna etmeye çalışmıyor; kendilerine avantaj sağlayacak yeni bir ‘oyun tahtası’ kurmaya çalışıyorlar. Kuralları sevmeyen ya da buna itiraz edenlere de “Yapacak bir şey yok, bu kaçınılmaz, sistem böyle” denilerek geçiliyor
LLM’nin sorunu, yaratıcı düşünme ya da derin düşünce için kullanılmaya çalışıldığında ortaya çıkıyor
Birçok bağlamda (özellikle kodlamada) gerçekten faydalı ama bu, LLM’nin ‘her şeyi değiştirecek’ bir teknoloji olduğu anlamına gelmiyor
“AI yeni elektriktir” iddiası da abartılı (AI’ın elektrik gibi olmayacağını vurgulayan Andrew Ng alıntısı)
Bana göre daha çok “AI yeni VBA” gibi. O zaman da “artık herkes programlayabilir!” diye heyecan vardı ama asıl etki daha ufak otomasyonlarda görülmüştü. Elbette bugün her şey çok daha hızlı ve hype çok daha büyük, ama özünde benzer
LLM her zaman iyi çalışmıyor
Örneğin kısa süre önce Windows 10 üzerindeki bir VirtualBox VM’in 4 kat yavaşlaması gibi tuhaf bir durum yaşadım
AI yardımıyla çeşitli çözümleri denedim ama fayda etmedi
Sonunda Windows Features içindeki "Virtual Machine Platform" kutucuğunun bir şekilde işaretinin kalktığını fark ettim
Bunu AI’a söylediğimde, bu seçeneğin gerekli olmadığını ve kapalı olmasının daha iyi olduğunu iddia etti
Oysa sorun gerçekten buydu; seçeneği işaretleyip yeniden başlatınca her şey düzeldi
AI, yalnızca derin akıl yürütme ya da temel sağduyu gerektiren durumlarda değil, basit çağrışımsal hafızada bile bariz şekilde yanılıyor
Web araması yerine kullanacaksanız mutlaka doğrulama yapmanız gerekir
LLM tabanlı AI’da ‘gerçek’ diye bir kavram yok. Sadece token tahmini var; girişe ve eğitim verisine bağlı olarak tesadüfen doğru olma olasılığı yüksek bir çıktı üretiyor
LLM kaçınılmazcılığına tamamen katılıyorum. Tasvir edildiği gibi herkesin her gün kullanacağı bir geleceğin kaçınılmaz olduğunu düşünüyorum. Akıllı telefonlar gibi
Ama AGI kaçınılmazcılığına katılmıyorum. “Modeller gelişmeye devam ediyor, o hâlde AGI kaçınılmaz” demek, sonuçtan hareketle mantığı ileri sıçratmak olur
Kodun gerçekten doğru çalıştığından emin misin?
Ya AI dışında bir şey kullanmadıysan ve kod okumayı öğrenmediysen?
Bence kodu bizzat okuyup doğrulama becerisi çok daha önemli
Eski iş yerimde, bir uçak şirketinin flap kontrol firmware’ündeki bir hatayı bulan birinden şu hikâyeyi duymuştum: Sorunu anlatmak için bizzat uçağa binip giderken, bindiği uçakta tam da o hatalı firmware çalışıyormuş
Bu kaçınılmazcılık mantığının en zor yanı şu: “kaçınılmaz” diyenler, aynı zamanda yüz milyonlarca doları geliştirmeye, kullanıma sokmaya ve tanıtıma harcayan kişiler
Sanki tilkiler kümese kapı yapıp “Tilkinin içeri girmesi engellenemez. O hâlde bunu herkes için çalışan bir sistem hâline getirmek daha iyi” diyormuş gibi
“Sözünün arkasına para koy” yaklaşımının kendisinde bir sorun görmüyorum
Acaba onlar gerçekten ‘kapı’ mı yapıyor, yoksa zaten bir kapı var da içine ilk giren kendileri mi olmak istiyorlar?
Katılıyorum. Tilkilere yardım etmek yerine onları kovalamamız gerekir
İki şey çok açık
Yazının dediği gibi, CEO’ların çizdiği çerçevede tartışmak anlamsız. Onlar esas olarak piyasaya konuşuyor; biz ise teknolojinin nasıl çalıştığını bilen insanlarız, bu yüzden LLM’leri daha nesnel değerlendirmeli ve kendi çerçevemizi kurmalıyız
Benim açımdan LLM’ler yazılım araçlarının evrimindeki bir sonraki aşama. LLM’nin kolayca düzgün kod yazabilmesi hem etkileyici hem tehditkâr gelebilir, ama onlarca yıldır bitmek bilmeyen tekrar eden CRUD ve iş mantığı ihtiyaçları vardı; bu kadar çeşitli örnekten beslenen dev bir olasılıksal üreticinin yeterli bağlam ve prompt ile yeni kombinasyonlar üretmesi o kadar da şaşırtıcı değil
Ben bir teknisyen olarak LLM’nin hedeflerime nasıl yardımcı olabileceğini anlamak istiyorum. İstemiyorsam kullanmam; ama yeteneklerinin nasıl değiştiğini düzenli takip etmem, aldığım kararın sağlıklı olması için gerekli
Dev hype karşısında geçmişe özlem ya da neyin arzu edilir olduğuna takılıp boş bir haçlı seferine çıkmayacağım
İnsanlar doğal dille iletişim kurmayı seviyor
LLM’ler, mevcut mantık dilleri ya da bilgisayarlarla iletişim kurmanın karmaşık arayüzlerinden uzaklaşarak internetin ilk dönemlerindeki bilişim anlayışını sona erdirmenin ilk adımı
Kaçınılmazcılık da buradan geliyor; çünkü insanların çoğu aslında bilgisayar kullanmayı öğrenmek istemiyor, sanki canlı bir varlıkmış gibi onunla sadece konuşmak istiyor
(Bilgisayarları gerçekten sevenlerin oranının %5’ten az olduğunu varsayıyorum)
İnsanlar aynı zamanda güvenilir ve deterministik tepkiler de bekler. Bir düğmeye bastıklarında hemen hemen her seferinde aynı sonucun çıkmasını isterler; %10 olasılıkla saçma bir şey olmasını değil
LLM’lerin bu düzeyde bir istikrara ulaşıp ulaşamayacağı hâlâ belirsiz
“Mantık dilinden uzaklaşmanın ilk adımı” mı… Mantık dilleri esasen deterministik uygulamaları mümkün kılarak soyutlama inşasında büyük bir sıçramaydı
Doğal dil bu hedeften o kadar uzak ki, bunu kısa şekilde açıklamak bile zor
“Ama insanlar da dille soyutlama yapmıyor mu?” diye düşünüyorsanız, gerçek bir hukuk metnini (ör. Temsilciler Meclisi yasa tasarısının tam metni) bir kez bile okumak fikrinizi değiştirebilir
Doğal dil UI’larının düşündüğüm kadar büyük ilgi görmemesine şaşırıyorum doğrusu
Doğal dil UI, bilgisayar biliminin uzun süredir tamamlanmamış rüyalarından biriydi ve şimdi sanki fazla sıradanlaşmış gibi geliyor
LLM’ler kodlama/yazı yazma/araştırma için en iyi araç olmayabilir, ama bu tür kullanıcı deneyiminin (UX) kalmasını isterim
Bir sorunu dille serbestçe ifade etmek ve kısaltmaları/argoyu/tonu bile doğru iletebilmek gerçekten etkileyici ve pratik olarak da çok yararlı
“Gündelik dil, fizikçinin anlatmak istediği ölçüde soyut ifade için tamamen uygunsuzdur. Fizikçinin niyetini bu kadar özlü biçimde yalnızca matematik ve matematiksel mantık ifade edebilir.”
Matematikte artık doğal dil kullanmıyor olmamızın bir sebebi var. Doğal dil fazla dolambaçlı ve çok belirsiz
Sözleşmeleri doğal dille açıklamanın bir yolu olsaydı, avukatlar bunu şimdiye kadar bulmuş olurdu
Sözleşme yorum farkları yüzünden GSYİH’nin hatırı sayılır bir kısmını boşa harcıyoruz
Bu kavram, Timothy Snyder’ın sözünü ettiği ‘kaçınılmazlık siyaseti’ ile yakından ilişkili
“Kaçınılmazlık siyaseti, geleceğin sadece bugünün uzantısı olduğu, ilerlemenin yasalarının zaten bilindiği, alternatiflerin olmadığı ve bu yüzden bizim yapabileceğimiz hiçbir şey bulunmadığı” yönünde bir dünya görüşüdür
Yazı bu kavramı ticari alana uyguluyor ama özünde ele aldığı şey, ‘özne olma gücünü’ elinizden alan bir dil
İlgili yazı bağlantısı