Drew DeVault röportajı: Yapay zekasız bir Vim sürümü
(jasonpolak.substack.com)- Drew DeVault, Vim 8.x’i uzun vadeli olarak sürdüren Vim Classic adlı bir fork ile, LLM destekli kod olmadan insanlar tarafından sürdürülen istikrarlı bir editör oluşturmak istiyor
- Üretken yapay zekayı reddetmek sadece bir tercih meselesi değil; pratik, felsefi, etik ve politik bir mesele ve özellikle telif hakkı ile kaynak doğrulamasını ve FOSS bakım sorumluluğunu zorlaştırdığını düşünüyor
- Yazılım mühendisliğinin özü hızlı kod yazmak değil, neyin yapılacağına karar vermek; LLM’lerin dikkatli problem anlayışı ve planlamayı zayıflattığını eleştiriyor
- Çevresel maliyet, veri merkezleri çevresinde artan elektrik ücretleri, tedarik zinciri yükü ve askeri/kolluk amaçlı kullanım nedeniyle yapay zekanın zararlarının daha az ayrıcalıklı insanlara daha ağır yansıdığını düşünüyor
- Sektör genelinde yapay zekayı reddeden bir uzlaşma görünmese de DeVault, Vim fork’u, yazıları ve topluluk çalışmalarıyla insan merkezli yazılım üretimini sürdürmek istiyor
Vim Classic ve yapay zekasız bakım
- Drew DeVault, Vim metin editörünü Vim Classic adıyla fork etti
- Vim Classic web sitesi, projeyi Vim 8.x’in uzun vadeli bakım fork’u olarak tanıtıyor ve “istikrarlı ve güvenilir bir editörün” “tamamen insanlar tarafından sürdürüldüğünü” belirtiyor
- Projenin temel kimliği, LLM destekli kod kullanmaması
- DeVault, Vim’den çıkmayı kolaylaştırma niyetinin olmadığını şakayla söylese de, üretken yapay zeka araçlarını kullanmama kararını hem pratik hem de felsefi, etik ve politik bir mesele olarak görüyor
LLM katkılarını reddetmenin pratik nedenleri
- DeVault’un LLM destekli katkıları kabul etmemesinin ilk nedeni, kalitesiz pull request sayısının artabilmesi
- Daha önemli pratik sorun ise telif hakkı ve kaynak doğrulaması
- Açık katkı kabul eden FOSS bakımcıları, yazılımın provenance bilgisini doğrulamak zorunda
- Ona göre LLM devreye girdiğinde bu doğrulama “tamamen imkansız” hale geliyor
- LLM kullanımının zamanla kullanıcıların yetkinliğini düşüren bir deskilling etkisi yarattığını eleştiriyor
- DeVault, LLM kullanımıyla kendisini daha körelmiş ve daha az yetkin hale getiren bir yola girmek istemediğini söylüyor
Yazılım mühendisliği ve zanaatkarlık
- DeVault’a göre yapay zeka kullanımı, yazılım mühendisliğinin teknik ustalığını sarsan bir sorun
- Yazılımda en zor kısım, kod yazma eyleminden çok hangi kodun yazılması gerektiğini bilmek
- Sektörün uzun zamandır kestirme yollar ve hızlı cevaplar arayan bir kültüre kapıldığını eleştiriyor
- Bunu “hızla hareket edip karmaşıklık eklemek” şeklinde ifade ediyor
- Bu yaklaşımın mükemmeliyeti dışladığını, micro-dependency kültürünü ve onun sorunlarını doğurduğunu düşünüyor
- DeVault’un tercih ettiği yaklaşım; problem alanını anlamak, dikkatli düşünmek, muhasebe yapmak, planlamak ve verilen kısıtlar içinde uygulamak
- Ona göre LLM’ler, bu mühendislik disiplinini reddetmenin en uç örneği ve kötü yazılımı daha hızlı üretmeyi mümkün kılıyor
Yapay zekanın etik ve çevresel maliyetleri
- DeVault, üretken yapay zekanın çevresel etkisinin çok büyük olduğunu ve sektör imkansız bir büyümeyi zorladıkça zararın arttığını düşünüyor
- Yapay zeka araçlarının çalışması için çok büyük miktarda kıt kaynak gerektiğini, örnek olarak Greenland ice sheet’e kadar değindiğini söylüyor
- Zararın özellikle daha az ayrıcalıklı insanlarda yoğunlaştığını düşünüyor
- Veri merkezlerinin yakınındaki yoksul sakinler, hızla yükselen elektrik faturalarını karşılamakta daha çok zorlanıyor
- Yapay zeka veri merkezlerinin ucuz bileşenleri emmesi nedeniyle, son 10 yılda yaygınlaşan uygun fiyatlı telefon erişiminin sona ermeye başladığını düşünüyor
- DeVault, yapay zeka araçları ve şirketlerinin Gaza, Iran gibi yerlerde insanları öldüren kararlara bilgi sağladığını öne sürüyor
- Ayrıca Claude’un şubat ayındaki okul bombardımanında 120 İranlı çocuğun ölümüne karıştığına dair iddiadan da söz ediyor
Politik bir araç olarak yapay zeka
- DeVault, üretken yapay zekayı baskıcıların aracı olarak tanımlıyor
- Yazılım mühendislerinin çoğunun temettüyle değil maaşla yaşayan işçi sınıfına mensup olduğunu ve üretken yapay zekanın bu çıkarlarla çeliştiğini düşünüyor
- Yapay zekanın faşist propagandayı kitlesel ölçekte üretmeyi kolaylaştırdığını ve açık uygulamalarda da faşist amaçlara hizmet ettiğini eleştiriyor
- Palantir ve Anthropic’in ICE ve IDF gibi kuruluşlara destek vererek faşizmin güçlenmesinde önemli rol oynadığını düşünüyor
- Peter Thiel ve çevresini açıkça antidemokratik otoriterler olarak nitelendiriyor
Yapay zeka etrafındaki propaganda ve toplumsal yeniden yapılanma
- DeVault, yapay zekayı bugüne kadar icat edilmiş propaganda taşıma araçlarından biri olarak görüyor
- Yapay zekanın son derece kişiselleştirilmiş ve pohpohlayıcı biçimde ikna sunduğunu eleştiriyor
- Dünya ekonomisinin yapay zeka etrafında yeniden örgütlendiğini ve kişiselleştirilmiş propagandadan kaçmanın zorlaştığını savunuyor
- Yapay zekanın etkileşim odaklı hack’leri uç noktaya taşıdığını ve kontrolcü tarikatların üyelerini programlamak için kullandığı taktiklere benzer yöntemleri büyük ölçekte ve olasılıksal biçimde kullandığını düşünüyor
Teknoloji sektörünün ahlaki çöküşü ve Uber örneği
- DeVault, Batı toplumlarının uzun zamandır ahlaki çöküş yaşadığını düşünüyor
- Yaşamın dışsallıkları, zanaatkarlık ve özenin kaybı, kültürün, iç dünyanın ve ahlaki amacın metalaştırılması, yoksulların feda edildiği “kibar” toplum fazlalığı gibi sorunlara dikkat çekiyor
- Geçmişte teknoloji sektöründe de ciddi ahlaki başarısızlıklar olduğunu, ancak bugünkü durumla kıyaslandığında bunların yönetilebilir ölçekte kaldığını düşünüyor
- Sosyal medya uygulamalarındaki “pull down to refresh” özelliğinin slot makinesi kolunu çekme deneyimini yeniden üretmek üzere tasarlandığı örneğini veriyor
- Rohingya genocide ile Facebook’un ilişkisine dair, bunun Facebook’un grotesk bir ahlaki başarısızlığı olduğu yönünde genel bir mutabakat bulunduğunu düşünüyor
- Yapay zeka konusunda ise bugün sektör içindeki meslektaşları arasında böyle bir mutabakat görmediğini söylüyor
- Uber, önemli bir sınırın aşıldığı örnek olarak sunuluyor
- Yasayı bilerek çiğnemeyi iş modelinin temel varsayımı haline getirdi
- İşgücü piyasasını sarstı ve hukuk yetişmeden önce tekel kurmak için nakit yaktı
- Sonunda hukuk yetişemedi ve bunun teknoloji sektöründe iş yapmanın normu haline geldiğini savunuyor
- DeVault, kendisinin fikri mülkiyetin hayranı olmadığını ama yapay zekada da aynı şeyin yaşandığını düşünüyor
Umutsuzluk içinde topluluk ve eylem
- DeVault, çevresindeki programcıların ve üreticilerin yapay zekayı benimsemesinin ruh sağlığı açısından iyi olmadığını söylüyor
- Aynı zamanda kendisi gibi düşünen dostlarla topluluk kurarak teselli ve umut anları bulduğunu belirtiyor
- Bu insanlar, yapay zeka sorununa dair ortak bir anlayışı koruyor ve doğru olduğuna inandıkları şekilde birlikte yazılım ve topluluk inşa ediyor
- Teknoloji alanında hâlâ yalnız ve güçsüz hissettiğini, ancak umutsuzluğun onu harekete geçirdiğini söylüyor
- Vim’i fork etmesi, blog yazıları yazması ve röportajlara yanıt vermesi; hepsi durumu biraz olsun ileri taşımaya yönelik eylemler
Toplumsal ekoloji ve küçülme
- DeVault, bu sorunlarla ilgilenen politik akımlar olarak Social Ecology ve Degrowth kavramlarını anıyor
- Social Ecology, Murray Bookchin’in düşüncesi olarak tanıtılıyor
- Degrowth’un bazen soldan bir “retvrn” gibi yanlış sunulduğunu, ancak aslında maddi koşullarda devasa bir gerileme anlamına gelmediğini söylüyor
- Degrowth, daha çok kapitalist düşünme ve yaşama biçimini yeniden düşünme çağrısı olarak görülüyor
- DeVault, toplumsal, ekolojik ve politik yaşam biçimlerimizi yeniden hayal etmemiz gerektiğini ve yapay zekanın buna yardımcı olmadığını düşünüyor
1 yorum
Lobste.rs yorumları
Daha önce “çekerek yenile”nin sosyal medya uygulamalarında slot makinesi kolunu çekme deneyimini yeniden üretmek için kasıtlı bir tasarım hedefi olarak getirildiğini ve kumar bağımlılığı yaratan insan bilişindeki kusurlardan yararlanmayı amaçladığını duyduğumda hissettiklerim aklıma geldi.
Ama çekerek yenilemeyi Loren Brichter icat etti ve kendisi üçüncü taraf Twitter istemcisi Tweetie’nin tek geliştiricisiydi. Yukarıdaki iddia, bir LLM gibi gerçekmiş gibi söylenmişti ama asıl motivasyon bu değildi; düşünceli bir UI tasarımıydı.
“Kullanıcı neden kaydırmayı durdurup parmağını kaldırıp bir düğmeye bassın ki? Zaten yaptığı jesti sürdürse olmaz mı? Daha yeni şeyler görmek istiyorsanız yukarı kaydırırsınız. Bu yüzden kaydırmanın kendisini bir jest haline getirdim.”
https://web.archive.org/web/20110518203737/…
https://theguardian.com/technology/2017/…
Burada asıl vim-classic ve avantajları hakkında konuşan kimse yok.
Önce kendim denedim; Vim 9’a kıyasla ne kaybedeceğimi merak ediyordum ama pek bir şey kaybetmedim. Birkaç eklentide hızlı düzeltmeler ve geçici çözümler yapınca hemen kullanılabilir hale geldi.
Şaşırtıcı olan, eklentiler, dış çağrılar ve fzf gibi işlerin genelinde belirgin biçimde hızlanmasıydı. Benchmark’a gerek olmayacak kadar hissedilir derecede daha hızlıydı; işlemlerin arasına giren “rastgele” gecikmeler azalmıştı ve TUI hareketleri fiilen takılmıyordu.
Sonrasında diğer tüm sürümleri sildim, yalnızca vim-classic bıraktım; şiddetle öneririm.
Drew’nun böyle söylemesi komik; çünkü kendisi ihtiyaç duyduklarında insanlara hash map’i kendilerinin uygulamasını tavsiye ediyor.
Bu bana mükemmelliğe götüren bir yol gibi görünmüyor. Kanıtlanmamış ve titizlikle yazılmamış hash table’ların her yere yayılması, daha çok “hızlı hareket edip karmaşıklık sokmaya” benziyor.
Şahsen uzmanların yapabileceği düzeyde özenli analiz harcanarak mükemmel bir hash table algoritması yazılmasını ve herkesin onların süreklilik gösteren uzmanlığından faydalanmasını tercih ederim. Bir sistem programcısının her seferinde kendi hash table’ını yapmak zorunda olduğu bir dünya, sistem yazılımlarının giderek daha büyük bir bölümünün Rust ile yazıldığı bugünden çok daha az iyi olurdu.
Yazının asıl odağına daha yakın konuşursak, aramızdan küçük ama anlamlı bir azınlığın uyguladığı gibi, LLM’leri kullanarak eskisinden daha yüksek bir mükemmellik düzeyine nasıl ulaşılabileceğine dair neredeyse hiç tartışma yok.
Bu tür yazılara verilen tepkiler neredeyse her zaman ortaya konan etik noktadan kaçıyor gibi görünüyor. LLM’ler etik dışı biçimde eğitildi, iklim değişikliğinin hızını ciddi biçimde artırıyor ve faşizmin yükselişiyle açıkça bağlantılı. Bunlar tek başına, LLM’lerin getirebileceği herhangi bir faydayı kelimenin tam anlamıyla boşa çıkarır.
Anthropic gibi şirketlere para ödemek, yaptıklarını doğrudan desteklemek demek. Bireylerin bu şirketlerin davranışlarından sorumlu olup olmadığı ya da kapitalizm altında etik tüketimin imkânsız olduğu gibi tartışmalara girilebilir; sonuçta konu bireysel etiğe bağlanır, ama bence böyle bir tartışma alanı var. Yine de bu meseleler o kadar sık kenara itiliyor ve onun yerine LLM ile “daha yüksek mükemmelliğe” ulaşmaktan söz ediliyor ki, röportajda ortaya atılan noktaların gerçekten çürütüldüğü hissine kapılmıyorum.
Vim’i fork’lamanın pratik gerekçelerine dair bir paragraf vardı, ama dayanağı çok değildi; geri kalanların çoğu yapay zekanın geri döndürülemez biçimde etik olarak kirlenmiş olduğuna dair politik ve toplumsal tartışmaydı.
Ben elektronun özünde iyi ya da kötü olmadığı inancını benimsediğim için Drew ile bir noktada mutlaka ayrışacağım. Yine de doğrudan görebileceği kanıtlar, örneğin son 3 ayda Vim ile Vim Classic’in hata bildirim oranları gibi veriler sunmasını isterdim.
Gerçek mükemmellik, zor işlerin çoğunun rekabet eden öncelikler arasındaki gerilimi içerdiğini anlamaktan, bunların arasında üretken bir yol bulmaktan ve yeni veriler geldiğinde en iyi dengeye dair bakışını düzeltmeye hazır olmaktan çıkar.
“Mikro bağımlılık kültürü”, “bu alana yönelik en tuhaf reddiye” gibi korkuluklar kurup onları kolayca yıkmaktan kesinlikle çıkmaz.
LLM kullanarak daha yüksek bir mükemmellik düzeyine ulaşılabileceği söylemi, o taraf sayıca ezici biçimde az olduğu sürece, diğer LLM kullanıcıları ne kadar iyi olursa olsun çok büyük zararlar doğurabilir. Bu yüzden çok üzücü ama gerçekçi biçimde, tartışılan konuda o azınlık önemsiz hale geliyor.
Vim’i fork’layıp istediğini yapmak bence harika. Vim’i her gün kullanıyorum, seviyorum ve değiştirmeyi de düşünmüyorum.
Ancak şu anda Vim 9.2 kullanan biri olarak, “LLM’lerle ilgili devasa bir ideolojik sorun var” gerekçesi dışında neden geri dönmem gerektiğini pek bilmiyorum.
Vim9 script de oldukça iyi bir iyileştirmeydi; diğer düzinelerce yeni özellik arasında sık kullandıklarım da var: https://vimhelp.org/version9.txt.html#new-9
Vim script profillemesini durduran
:profile stopve raporu dosyaya döken:profile dumpdesteği oldukça iyi. Yazım denetimi değişiklikleri arasında da çok iyi olanlar vardı.LLM’lere karşı ideolojik duruş dışında, geçimimi sağladığım aracı neden artık çok daha küçük bir ekibin bakımını yaptığı tarafa taşımam gerektiği net değil.
“Sektörün son 10 yılda mümkün kılıp yaygınlaştırdığı, geniş ölçekte bulunabilen ucuz telefon mucizesini karşılayabilen insanlar; ama ucuz parça talebi yapay zeka veri merkezleri tarafından tamamen emildikçe bu dönem sona eriyor” kısmını görünce, ENIAC’tan ucuz telefonlara uzanan birim maliyet düşüş yolunun yapay zeka tedarik zincirinde de tekrarlanıp tekrarlanamayacağını merak ettim.
Muhtemelen hayır. Drew’nun düşünce liderliğine göre temel ekonomi de “sona eriyor” olmalı.