Yapay zeka gözetimi yasaklanmalı; hâlâ vakit varken harekete geçmek gerekiyor

• Yapay zeka sohbet botu konuşmaları, mevcut çevrimiçi takip ile aynı türden, ancak daha ağır mahremiyet ihlallerine yol açıyor
• Sohbet botları aramadan daha fazla kişisel veri topluyor ve hatta insanların somut düşünce süreçlerini ile iletişim tarzlarını da kavrıyor
• Bu bilgiler; reklam, ideolojik yönlendirme gibi manipülasyonlar için daha sık ve daha incelikli biçimde kullanılma riski taşıyor
• Geçmişte mahremiyeti koruyan yapay zeka hizmetleri vardı, ancak son dönemde birçok şirkette mahremiyet sızıntıları ve veri kötüye kullanımı arttı
• Yasal düzenleme eksikliği nedeniyle sorunlar tekrarlanıyor; bu yüzden yapay zeka gözetimini yasaklayan yasaların acilen çıkarılması gerekiyor

---

Yapay zeka sohbet botları ve mahremiyet ihlalinin ciddiyeti

• Mevcut çevrimiçi takipte görülen tüm mahremiyet ihlali sorunları, yapay zekada da aynı şekilde ama daha ağır biçimde ortaya çıkıyor
• Sohbet botu konuşmaları, basit arama sorgularından daha uzun ve ayrıntılı olduğundan kişisel bilgi ifşası çok daha fazla olma eğilimi gösteriyor
• İnsanlar, dertlerini, duygularını ve düşünme biçimlerini sohbet botlarına daha kolay açar hâle geliyor
• Sohbet botları, arama geçmişinden farklı olarak kişilik, iletişim biçimi vb. unsurları da içeren kapsamlı kişisel profiller oluşturuyor

Yapay zeka verilerinin kullanımı ve manipülasyon riski

• Bu kadar zenginleşen kişisel bilgiler, ticari ve ideolojik manipülasyon için daha etkili biçimde kötüye kullanılma potansiyeli taşıyor
• Sohbet botları üzerinden davranış yönlendiren reklamlar ya da sistem prompt'ları ve arama motoru optimizasyonu (SEO) manipülasyonu yoluyla kullanıcılar belirli siyasi tutumlara veya ürünlere yönlendirilebilir
• Sohbet botlarının insanlardan daha ikna edici olabildiğini gösteren araştırmalar zaten mevcut; ayrıca gerçekten hezeyansı düşünceye sürüklenen vakalar da bildirildi
• Sohbet botu bellek özellikleri, geçmiş konuşma verilerini öğrenerek kişiye özel ikna ve güçlü etki yaratma kapasitesine sahip oluyor
• Rahatsız edici klasik reklamların yerine, kişiselleştirilmiş ikna mesajları ya da ustaca yerleştirilmiş ürün önerilerinin doğal biçimde iletildiği bir ortam oluşuyor

Mahremiyet koruyan yapay zeka hizmetleri ve sektörün durumu

• Son 20 yılda Google Arama etrafında dönen mahremiyet tartışmaları, yapay zeka sohbetine de uygulanıyor; ancak yapay zekanın etkisi daha büyük
• DuckDuckGo gibi şirketler, mahremiyet odaklı yapay zeka sohbeti hizmetleri (Duck.ai) ve anonim yapay zeka yanıtları sunuyor
• Ancak bu tür korumalar istisna niteliğinde; sektör genelinde ise mahremiyet olayları artış eğiliminde
• Son dönemde Grok'taki sohbet botu konuşmalarının büyük çaplı sızması, Perplexity'nin hack zafiyetleri ve Open AI'ın her yöne yayılan kullanıcı takibi vizyonu gibi gelişmeler peş peşe haber oldu
• Anthropic ise daha önce sohbet kayıtlarının saklanmasını kapatmışken, yakın dönemde sohbet konuşmalarını kullanmayı varsayılan hâle getirdi; böylece kullanıcı verileri eğitimde kullanılabiliyor

Hukuki karşılık ve bundan sonraki görevler

• Mahremiyet koruyan sohbetin istisna değil, standart uygulama hâline gelmesi için hızlı yasama adımları gerekiyor
• ABD'de henüz genel bir çevrimiçi mahremiyet yasası bile yok; ayrıca bu hak anayasal bir temel hak olarak da güvence altına alınmış değil
• Son dönemde yapay zeka ile ilgili federal düzeyde yasama fırsatlarının açıldığı bir atmosfer var; buna karşılık eyalet düzeyindeki yapay zeka yasalarını yasaklamaya dönük tartışmalar da sürüyor
• Zaman kaybı nedeniyle kötü uygulamaların yerleşik hâle gelmesi endişesi bulunuyor
• Geçmişte çevrimiçi takipte yaşanan sorunların yapay zeka takibi olarak tekrarlanmasını önlemek için yapay zeka gözetiminin yasaklanması acil bir görev olarak öne çıkıyor

Sonuç

• DuckDuckGo gibi şirketler, mahremiyet koruyan hizmetler ile isteğe bağlı yapay zeka özellikleri sunmayı sürdürüyor
• Kullanıcılar, verimlilik artışı ile mahremiyet koruması dengesini birlikte sunan çevrimiçi araçlar bekleyebilir

[GN⁺]

Hacker News görüşü

• Facebook’u kullanmayı bırakmama neden olan şey, yaklaşık 7 yaşındaki Avustralyalı bir kızın yüzünden büyük bir örümceği elinde tuttuğu videoyu görüp “örümceği bırak da evi ateşe verelim” gibi bir meme yorumu yazmam ve hesabımın anında cezalandırılmasıydı; o sırada şirkette Facebook uygulama entegrasyonundan sorumlu geliştiriciydim, bu yüzden itiraz ettim ama ister AI hızla reddetti ister gerçekten çok hızlı bir insan baktı, internet meme kültürünü hiç anlamadıkları hissine kapıldım; ondan sonra Facebook’u tamamen bıraktım, AI insanları bu kadar kolay cezalandırabiliyorsa bunun gerçekten karanlık olduğunu düşünüyorum
  • Bence temel sorun AI’nın yasa uygulaması yapması değil, özel şirketlerin neredeyse hiç düzenleme olmadan insanların günlük hayatını etkileyebilecek güce sahip olması; Facebook örneği geçiştirilebilir ama bunu bir ev sahibi ya da sigorta şirketi böyle karar vermek için kullansa zarar çok büyük olurdu; bu politikaların özel şirketlerle sınırlı kalması mümkün değil, devlet kurumları da şimdiden bu sistemleri aktif biçimde kullanıyor ve bu daha da kötüleşecek
  • Ben sadece reddit’te DFhack için bir bug düzeltme script’i paylaşmıştım ve ban yedim; DFhack, Dwarf Fortress modcularının sık kullandığı bir program için script’lerden oluşuyor; geleceğin standardı böyle düşük seviyeli AI denetimi olacaksa, bu büyük platformların artık kullanılmaya değmediğine eminim
  • AI’nın artık kodlama testlerinde ön eleme bile yapıyor olması beni rahatsız etti; özgeçmişler de AI tarafından incelenip gerekçe eklenmiş red mektupları gönderildi ama yazılanlar da saçmaydı; bir insanın bakıp bakmadığından bile emin değilim ve AI’nın baktığını varsayıyorum; AI ortaya çıkmadan önce de iş aramak zordu ama şimdi geriye yalnızca tüm işe alım sürecine karşı bir tiksinti kaldı
  • Facebook’un otomatik ürün yönetimi yaklaşımı fazlasıyla hayal kırıklığı yaratan ve utanç verici bir seviyede; hatta Mark Zuckerberg adlı bir avukatın hesabını bile otomatik olarak engelleyecek kadar ileri gidiyor, ilgili haber(https://huffpost.com/entry/…); Facebook reklamvereni olan herkesin reklam hesabı sebepsiz yere kısıtlanabiliyor ama itiraz edebileceğiniz tek bir kişi bile yok, tonla para harcasanız da durum aynı; herkesin bildiği tek tüyo, reklamdan önce fan sayfasında 5~7 gün boyunca pek bir şey içermeyen gönderiler paylaşmak ve beğeni satın almak; yoksa reklam hesabı anında askıya alınıyor
  • Acaba comma splice yüzünden mi banlandın diye düşündüm(Comma splice nedir: https://en.m.wikipedia.org/wiki/Comma_splice)
• Büyük AI şirketlerinin bundan sonra da daha güçlü gizlilik savunusu yapacağını düşünüyorum; Sam Altman da röportajlarında bunu avukat-müvekkil gizliliğine benzetiyor; onu gerçekten tam bir kişisel asistan ya da bilgi tabanı olarak kullanma yönündeki kararların önündeki engel, yeterli mahrem verinin olmaması; gerçek çözüm modeli yerelde doğrudan çalıştırmak ama bu mevcut iş modeline ters, dolayısıyla düzenleme yoluyla tanımlanmış “zorunlu” gizlilik tarafına yönelecekler ve bu da sonuçta üçüncü taraf düzenlemeleri ve kamu yararı gerekçeleri tarafından yönetileceği için benim kontrolümün dışında olacak
  • “İş modeliyle çelişiyor” argümanı donanım satan şirketler için geçerli değil; Apple, Dell ya da Lenovo olsam Hugging Face destekli yerel modellere tüm gücümle yüklenirdim
  • "Fiat privacy" de sonuçta birine cinayet itiraf etmek ya da cüzdan anahtarını kasada saklamak gibi aynı zafiyetlere sahip; kiliseden öğrenilecek şeyler var; eğer LLM sağlayıcılarının çalışanları gerçekten gizliliği korumak adına kendi özgürlüklerini ya da servetlerini feda etmeye hazır olduklarını inançlarıyla gösterseydi toplum bunu kabul ederdi; Richard Masten’ın gizli ihbarcı bilgilerini içeren belgeleri mahkemede imha edip neredeyse hapse girmesi gibi örnekler, iyi bir toplumda ilkelere bağlı kalmanın etkili olabildiğini gösteriyor
  • Sam Altman’ın sözünü ettiği avukat-müvekkil gizliliğini, OpenAI’nin bütün konuşmaları izleyip gerekirse devlete bildirmeye istekli olduğunu açıkça söylemesiyle karşılaştırın(resmî tutum: https://openai.com/index/helping-people-when-they-need-it-most/); “ciddi ve acil tehdit” olarak değerlendirilirse kolluk kuvvetlerine iletileceği yazıyor; niyet genel olarak iyi olabilir ama tüm konuşmaları gözetleyen kurumsal AI fikrine katılamam, telefon şirketleri nasıl yasa dışı dinleme yapamıyorsa AI’nın tüm konuşmaları kaydedip değerlendirdiği, hatta listeler halinde sınıflandırdığı bir çağın çok yakında geleceğini düşünüyorum
  • Big Tech safça iyi örnek oluyormuş gibi yapıyor ama aslında yalnızca “düzenleme ve pazarın ele geçirilmesi” için zaman kazanıyor; hoş sloganlı ürünler ya da “yarım yamalak özellikler” yayımlayıp pazar payını büyütüyorlar, düzenleme gelmeden önce yeterince güç toplarlarsa siyasetçileri bile yönlendirebilir hale geliyorlar; ABD hükümetinin AI şirketleri hakkında gerçekten bir şey yapmasının en az 5 yıl süreceğini düşünüyorum ve o zamana kadar OpenAI, Google ve Meta düzenleme tartışmalarının kontrolünü tamamen ele geçirmiş olacak
  • Herkes istediği anda herhangi birini öldürebilir; güvenliğin şifrelemeyle garanti edildiğini sanmak bir yanılsama, her şey gizliliğin korunmasına bağlı
• Sohbet botlarıyla konuşmuş herkesin mutlaka bilmesi gereken bir şey var: Şimdiye kadar yaptığınız tüm sohbet botu konuşmaları şu an düzgün biçimde silinmiyor ve gelecekte reklam hedefleme, finansal/siyasi manipülasyon ya da “kişiye özel etki satışı” için her an kullanılabilir; bu riski “chat log’larla AI eğitimi” diye küçümsememek gerekir; gelecekte reklam/etki sohbet botları ortaya çıktığında, benim geçmişte başka botlara bıraktığım tüm konuşma kayıtlarını referans alıp beni nasıl ikna edeceklerini araştırmaları çok daha somut bir tehlike; hatta insanların platform içinde birbirine yazdıkları mesajlar bile, şirket para sıkışıklığına düşerse satılabilir; düşündükçe daha da kaygı verici bir gerçeklik oluyor
  • AI sohbet botlarında beni en çok korkutan şey, bunun “optimize edilmiş bir manipülasyon arayüzü” olarak kullanılabilmesi; elindeki bütün konuşmaları temel alarak sadece “bu kişiyi x yapmanın yolu ne?” diye bir prompt vermek yeterli, gerisini AI optimize edip yönlendirebilir
  • Kişiselleştirilmiş reklamlar ya da yeniden hedefleme reklamları bana hiç itici gelmedi; zaten reklam göreceksem, alakasız olandan ziyade bana uygun olanı görmeyi tercih ederim
  • Konuşma geçmişinin bir gün mahkemede delil olarak karşınıza çıkabileceğini gözden kaçırmamak gerek
• “Korunan konuşma” iddiası fiilen anlamını yitirdi; telefon şebekesindeki kısa mesajlar da uzun zamandır MITM saldırılarına açık, gerçek dünyada da Birleşik Krallık polisi yüz tanıma AI ile haksız tutuklamalar yapıyor, Birleşik Krallık’a giren herkesten parola ve cihazlarını teslim etmeleri zorla istenebiliyor, reddederseniz terör yasası kapsamında süresiz gözaltı mümkün, terör şüphesi varsa avukatla görüşme hakkı bile yok; gizlilik çağı zaten sessizce sona erdi
• AI sayesinde geçmiş düşünceleri bile büyük ölçekte gözetleyip sansürlemek artık mümkün hale geliyor; gerçekten korkutucu bir dönem
  • Sonunda pek çok insanın çevrimiçi davranışın kendisinden uzaklaşacağını düşünüyorum; özel konuşmalar var olabilir ama tek bir sanat eseri üretmek bile sonunda Google/Meta hissedarlarına bağış yapmak gibi oluyor; yani asıl düşünce sansürü başlamadan önce bile bu risk zaten vardı
  • Aslında bu sansür çok daha basit yollarla uzun zamandır vardı; örneğin bu sitedeki(HN) yorumlar upvote alma motivasyonu yüzünden sürekli biçimleniyor, elbette downvote troll’leri süzmeye yardım ediyor ama temel sorun ortadan kalkmıyor; şahsen AI’nın sosyal medyayı tamamen mahvetmesini istiyorum, belki ancak ondan sonra daha sağlıklı platformlarla yeniden başlayabiliriz
  • Roko’s Basilisk kavramı giderek daha gerçek hale geliyor
  • Arama geçmişinden çok daha tehditkâr
• Altered Carbon romanındaki AI oteli gibi, şu anki yorum havası bana kimsenin kullanmadığı bir AI gerçekliğini hatırlatıyor(bkz: https://en.m.wikipedia.org/wiki/Altered_Carbon); romandaki AI’lar müşterileri memnun etmeye o kadar takıntılıydı ki yorucu hale geliyorlardı, gerçek hayattaki AI’nın büyük farkı ise yalnızca kurumlar için var olması
• Gözetimin öncelikle bu teknolojiyi yaratan şirketlere(onların çalışanları dahil) ve bu yasaları geçiren siyasetçilere uygulanması gerektiğini düşünüyorum; bu grubun AI tarafından toplanmış tüm verilerine hepimizin tam erişimi olmalı
• Gabereial Weinburg’ün(DuckDuckGo’nun kurucusu) iki yüzlü biri olduğunu düşünmemin nedeni, açık açık “insanların gizliliğe ihtiyacı yok” dediği halde DuckDuckGo’nun gizlilik koruması sattığını iddia etmesi; gerçekte başka çeşitli şirketlerle izleme verisi alışverişi yaptı ve “DuckDuckGo takip etmiyor” derken ortaklarının takip etmesine izin verdiği gibi çelişkiler de vardı; son dönemde bu tartışmalar internetten siliniyor gibi, o yüzden bulmak zor
  • Bu kadar ciddi bir iddiaysa aratınca bir şeyler çıkması gerekir ama çıkmıyor; internetten tamamen silmek zor olduğu için ortada doğal olarak bir kanıt olması gerekir gibi geliyor
  • Eskiden Microsoft ile de veri alışverişi yapmıyor muydu diye merak ediyorum
• Giderek “sıfır gizlilik” çağına yaklaşırken bundan nasıl kaçınılabileceğine dair güvenilir bir alternatif olup olmadığını merak ediyorum; AI artık sadece insanların yürüyüşünden bile kimlik tespiti yapabiliyor, yüz tanıma olmadan da bunu kanıtlayabiliyor, hatta Wi‑Fi sinyallerinden kalp atışı bile çıkarılabiliyor; sonuçta “birilerinin” her şeyi bileceği bir çağ kesin gibi, mesele bunun gerçekten çok az kişiyle mi sınırlı kalacağı yoksa herkese mi açık olacağı; ben açık biçimde herkesin erişebildiği seçeneğin daha iyi olduğunu düşünüyorum
  • Çözüm yasama ya da piyasa(kişisel olarak oyum piyasadan yana)
• Sohbet botlarıyla ilgili en büyük sorun, insanların onlara insanlık atfetme eğilimi; geliştiriciler bile bazen onlarla gerçek bir insanla konuşur gibi davranıyor; ama LLM’ler insan değil ve OpenAI ile diğer tüm sohbet botu şirketlerinin bunu açık ve sürekli şekilde vurgulaması gerekiyor; toplumun geneli AI’yı “insan değil” olarak algılayacak şekilde eğitilirse durum çok daha iyi olur
  • Tam zamanlı bir kodlayıcı değilim, işimde kodlama oranı yaklaşık %25 ama bazen LLM’lerle şakalaşmak ya da sohbet etmek kodlamayı daha eğlenceli hale getirdi; mesela Claude uzun süredir uğraştığım bir bug’ı tek seferde çözdüğünde “vay canına, bu şey harikaymış! peki sırada ne var...” gibi konuşmaya başlıyorum ve AI sayesinde eğlence için daha fazla kod yazıyorum; işin çoğunu pratikte AI yaptığı için bu daha çekici geliyor
  • “AI’nın insan olmadığını öğretmenin neden daha iyi olacağını somut olarak açıklayabilir misin?” diye karşı çıkılıyor
  • Bu yüzden insanların AI’ya “Clanker” gibi isimler takıp onu gerçek insanlardan ayırması bana çok ilginç gelmişti