- Eric Schmidt’in konuşmasının özü, AI hakkında gelen yuhalamalardan çok internetin yan etkilerini kabul ederken sorumluluğun yerini muğlaklaştıran ifadelerde yatıyor
- Google’daki yöneticilik dönemi; reklamcılık, veri toplama, davranış yönlendirme ve A/B testleri gibi internet iş modelinin kemikleştiği dönemle çakışıyor
- “Aynı araçlar”ın hem iyi hem kötü işler için kullanıldığı çerçevesi, karanlık kalıpları tasarlanmış yapılar değil de yan ürünlermiş gibi gösteriyor
- Öğrencilere AI kararlarının alındığı odaya girmelerini tavsiye ederken, önceki teknolojilerde neyin yanlış gittiğine dair bir başarısızlık analizi sunmuyor
- AI’nin internetle aynı yoldan gitmemesi için, geçmişteki kötü tarafların kendiliğinden ortaya çıkmadığını, insanların inşa ettiği sonuçlar olduğunu kabul etmek gerekiyor
Mezuniyet konuşmasında muğlaklaşan sorumluluk
- Eric Schmidt’in Arizona Üniversitesi mezuniyet konuşması, AI hakkındaki sözlerinin yuhalanmasıyla biliniyor; ancak daha önemli bölüm, ilk yarıda internetin yan etkilerini kabul ettiği kısım
- Schmidt, dünyadaki herkesi birbirine bağlamanın ve dünyanın bilgisini erişilebilir kılmanın bilginin demokratikleşmesine, yoksulluğun azalmasına, daha bilge ve daha nazik bir topluma yol açacağına inandığını söylüyor
- Aynı zamanda aynı araçların insanları izole ettiğini; herkese ses veren platformların kamusal alanı zedelediğini; öfkeyi ödüllendirip en kötü içgüdüleri büyüterek insanların birbirleriyle konuşma ve davranma biçimini sertleştirdiğini de kabul ediyor
- Demokrasiyi kutuplaştıran ve genç kuşakları kaygılandıran teknolojiler üretmek isteyen kimse olmadığını, “bu bizim planımız değildi ama öyle oldu” şeklinde ifade ediyor
- Beklenen iyi sonuçlardan etkin bir dille söz ederken, kötü sonuçları “oldu” diye edilgen ifadeyle anlatması, sorumluluğun nerede olduğunu belirsizleştiriyor
Google yöneticisi olarak konumu
- Schmidt, 2001’den 2017’ye kadar Google CEO’su ve başka yönetici rollerinde bulundu; bu dönem, internet iş dünyasının karanlık kalıplarının geliştirildiği ve sektöre yerleştiği zamanla örtüşüyor
- Google, reklamcılık, veri toplama, kullanıcı davranışını yönlendirme ve her şeyi A/B testine tabi tutma gibi internet iş modelini yönlendiren şirket olarak ele alınıyor
- Steve Wozniak, ilk Apple bilgisayarlarını yaparken kapalı ekosistemleri ya da cihaz kontrolünü amaçlamadığını söylese bu samimi gelebilir; ancak Schmidt için aynı mesafeyi uygulamak zor
- Schmidt’in kendisini yalnızca arama motoru denen bir “araç” yapmış kişi olarak görmesi; bunu reklam şirketi, veri toplama şirketi, davranış değiştirme ve karanlık kalıplar katmanlarından ayrı düşünmesi sorun olarak öne çıkıyor
- “Aynı araç”ların olumlu X için de olumsuz Y için de kullanıldığı çerçevesi, kötü sonuçları tasarlanıp inşa edilmiş yapılar değil, soylu amaçların yan ürünü gibi gösteriyor
AI sözleri ve öğrencilerin yuhalaması
- Konuşmanın ilerleyen kısmında Schmidt, öğrencilere AI ile ilgili kararların alındığı odalara girmelerini, seslerini duyurmalarını ve insani değerlerle muhakemeyi oralara taşımalarını söylüyor
- Teknolojinin kendi başına sadece bir araç olduğunu; neyin optimize edileceğine insanların karar verdiğini ve öğrencilerin yaşamı boyunca bu “birilerinin” bizzat öğrenciler olacağını ifade ediyor
- Ardından “özgürlük”, “açık tartışma”, “farklı düşünen insanlarla birlikte yaşamanın yavaş, dağınık ama güzel projesi”, “eşitlik” ve “çeşitli bakış açıları”nı seçme mesajı geliyor
- Öğrenciler, önceki kuşaklar gibi teknolojinin başka bir halini hiç deneyimlemedi; sahip olunamayan, verilerin başkalarında tutulduğu, davranışların izlendiği, verilerin satıldığı ve reklam hedeflemesi yapılan karanlık kalıplı teknolojiyi biliyorlar
- Böyle öğrencilere, geçmişteki temel karar vericilerden birinin bir sonraki teknoloji dalgasına hevesle katılmalarını söylemesi, olayın yalnızca AI’den hoşlanmadıkları için gelen bir yuhalama olmasından daha karmaşık bir anlam taşıyor
Eksik olan şey: özür ve başarısızlık analizi
- Schmidt, geçmişteki kötü sonuçların kendi görev süresi ve karar alanı içinde ortaya çıktığını kabul etse de, neden başarısız olunduğuna dair bir muhasebe sunmuyor
- Faydalı araçların üstüne neden kötü teknik ve ticari katmanların kurulmasına izin verildiği, neden bunun engellenemediği ve hangi noktalarda sorumluluk üstlenilmesi gerektiği açıklanmıyor
- Öğrencilere gerçekten değerli olabilecek tavsiye, yeni teknolojinin odasına girmelerini söylemek değil; önceki teknolojide neyin yanlış gittiğine ve hangi kararların bu sonuçları doğurduğuna dair somut bir analiz olurdu
- AI’ye yönelik korku, soyut teknolojinin kendisinden değil; Silicon Valley’deki karar vericilerin önceki yeni teknolojiyi yönettiklerinde onun karanlık kalıplı versiyonunu inşa etmiş olmaları hafızasından kaynaklanıyor
- Geçmişe dair özür, sorumluluğun kabulü ve tekrarın nasıl önleneceğine dair bir yol olmadan sadece “öyle oldu” gibi edilgen ifadeler kalırsa, AI’nin de internetle aynı yöne gideceğine dair güvensizlik büyüyor
Bir sonraki tekrarın önüne geçmenin koşulu
- İnternetin kötü yanları, araçlar kitlelere sunulduktan sonra kendiliğinden ortaya çıkmış şeyler değil; insanların gerçekten kötü tarafları inşa etmesinin sonucu olarak özetleniyor
- AI’nin internetle aynı yoldan gitmemesi için, bunun neden yaşandığını ve hangi kararların bu sonuçlara yol açtığını kabul etmek gerekiyor
- Yalnızca bir sonraki kuşağın Schmidt’lerine değil, bugün de Silicon Valley ve Washington DC’de etkili olan Schmidt benzeri figürlere, geçmiş kararların bugünkü teknoloji ortamını şekillendirdiğini kabul ettirmek gerekiyor
- Sorumlu kişilerin kabulü ve muhasebesi olmadan, bir sonraki teknolojide de aynı iş modellerinin ve karanlık kalıpların tekrarlanma riski var
- Bir dahaki sefere daha iyisini yapmak gerektiği sonucu, teknoloji iyimserliğinden değil, geçmişteki başarısızlıkları sorumlu biçimde ele alma tarzından başlıyor
Seçilmiş teknoloji başlıklarını almaya devam etmek ister misiniz?
Telegram kanalını takip edin. @GeekNewsTR
1 yorum
Lobste.rs görüşleri
Yazı olarak okumak isteyenler için bir deşifre metni var
İzlemeye değerdi. Casey zaten zeki biri ama bu konu, onun normalde ele aldığı teknik meselelerden çok daha ağır bir konuydu
Schmidt öğrencilere, “teknolojiyle ilgili kararların alındığı odaya insanlığı taşıyın” gibi bir şey söylüyor; kulağa hoş geliyor. Ama şu an gidişata bakınca, yapay zeka gibi herkesi etkileyen teknoloji kararlarını başkaları veriyor ve geri kalan herkes o odada hiç yokmuş gibi görünüyor
Yazıda da vurgulandığı gibi, kilit nokta bir anda üslubun tamamen edilgen çatıya kayması. “Bunu biz yaptık, kötü sonuçlar doğdu ve bu bizim hatamızdı” ya da “korkunç bir hata yaptık” veya “bu şekilde başarısız olduk” demiyor.
Joseph Weizenbaum da daha 1976’da 『Computer Power And Human Reason』 kitabında aynı soruna işaret etmişti. Üst düzey yöneticiler bile kendilerini, ne sorumluluğunu üstlendikleri ne de anladıkları teknolojinin masum mağdurları gibi sunuyor; böylece “trajedide eylemler vardı ama fail yoktu” denerek sorumluluk buharlaşıyor. Teknolojik, politik ve toplumsal kaçınılmazlık miti, vicdanı felç eden ve gerçekte var olan faillerin omuzlarından sorumluluğu alan güçlü bir yatıştırıcı gibi işliyor.
“Sorumlu olan insanlar değil sistemdir” türü ifadeler tekrar tekrar karşımıza çıkıyor ve bizim böyle bir gelecek isteyip istemediğimizi sorma fikri bile ortadan kayboluyor. Geriye sadece bunun yaklaşmakta olduğu, durdurulamayacağı ve geri çevrilemeyeceği tavrı kalıyor
Ürkütücü ama benim kaygılarımı çok iyi yakalamış. Ben internet çağının çocuklarından biriyim; bu video sanki o duyguya isim vermiş gibi hissettirdi
Casey kendine fazla haksızlık etmiş. Çok iyi yapılmış bir video ve o konuşmanın ana sahnelerini izlerken benim verdiğim tepkiyle de oldukça örtüşüyor.
Bir de I Think You Should Leave alıntısı komikti. Burada fazlasıyla “Hepimiz bunu kimin yaptığını bulmaya çalışıyoruz” havası var
“Biz sadece daha iyi bir dünya kurmak istedik ama bir şekilde kötü şeyler oldu” tavrı gerçekten çok şey anlatıyor. Eric Schmidt kelimenin tam anlamıyla ikiyüzlü ve eylemleriyle zarar vermiş birçok insan gibi kendi davranışlarını rasyonalize ediyor.
Bir diğer önemli eksen de kuşak meselesi. Schmidt’in kuşağı siyasi ve ekonomik gücü fazlasıyla elinde tutuyor. Bugünün gençleri aptal değil; neler olup bittiğini görüyorlar. Hayatlarının yaşlı insanlar tarafından kontrol edildiğini ve onların genç kuşaklara iş güvencesizliği, ekonomik zorluklar, distopik teknoloji ve çevre krizini yüklediğini görüyorlar. Sonra da bütün bunların “öylece olup bittiğini” söylüyorlar ama herkes o durumu yaratanın onlar olduğunu biliyor. Öğrencilerin yuhalaması çok doğal. Ben de aynısını yapardım