- Başlıca AI şirketleri, reklam gelirine dayalı iş modellerine yönelirken, kullanıcının çevresindeki tüm görsel ve işitsel bilgileri toplayan donanım odaklı AI asistanları geliştiriyor
- Bu her zaman açık (always-on) AI sistemleri, sesli çağrı sözcüğü olmadan da kullanıcının günlük konuşmalarını algılayıp uzun vadeli bağlam biriktirerek proaktif yardım sunacak şekilde tasarlanıyor
- Ancak bu veriler reklam şirketlerinin sunucularına gönderilen bir yapıda işlendiğinde, gizlilik politikası değişirse her an risk doğabilir
- Buna karşılık yerel cihaz üstü çıkarım (edge inference) yapısında veriler fiziksel olarak dışarı çıkmaz; böylece politikaya değil, mimari düzeyde güvenlik garantisi sağlanabilir
- En faydalı AI aynı zamanda en mahrem teknoloji olacağı için, veriyi dışarı göndermeyen yerel tabanlı AI modeline geçiş zorunludur
Reklam tabanlı yapıya dönüşen AI asistanı sektörü
- OpenAI, ChatGPT'ye reklam ekledi ve bu, sektör genelindeki yapısal değişimin bir işareti olarak sunuluyor
- OpenAI, 2025'te Jony Ive'ın donanım girişimi io'yu 6,5 milyar dolara satın aldı ve ekransız küçük bir AI cihazı geliştiriyor
- Tüm büyük AI asistanı şirketleri reklam geliriyle çalışıyor ve çevreyi sürekli gözlemleyen donanımlar üretiyor
- Bu iki unsur çarpıştığında, veri kötüye kullanımını önlemenin tek çözümü olarak yerel cihaz üstü çıkarım (local inference) gösteriliyor
Her zaman açık AI'ın kaçınılmazlığı
- Mevcut sesli asistanlar, yalnızca “Hey Siri”, “OK Google” gibi uyandırma sözcüklerinden (wake word) sonra çalışan bir yapıya sahipti
- Ancak gerçek hayattaki konuşmalarda bu sözcükleri kullanmaya fırsat olmadığından, doğal bağlamı anlayan AI gerekli hale geliyor
- Yeni nesil asistanlar, ses, görüntü, varlık algılama, giyilebilir cihazlar gibi çeşitli sensörler üzerinden kullanıcı ortamını sürekli algılıyor
- Bu yüzden mesele “her zaman açık AI ortaya çıkacak mı” değil, o veriyi kimin kontrol edeceğidir
- Şu anda bu kontrol reklam şirketlerinin elinde
Politika bir vaat, mimari ise garantidir
- Şirketler “veri şifreleme”, “anonimleştirme”, “reklamla ilgisiz kullanım” gibi söylemler öne sürse de, bulut tabanlı işleme yapısında tam güven mümkün değildir
- Kullanıcının şirketin bugünkü ve gelecekteki politikalarına, iç çalışanlarına, dış tedarikçilerine, devlet taleplerine ve açıklanmamış reklam ortaklarına kadar herkese güvenmesi gerekir
- OpenAI, “verileri reklamverenlere satmıyoruz” dese de, Google'ın Gmail'i 13 yıl boyunca reklam hedefleme için kullanmış olması bir emsal olarak gösteriliyor
- Politikalar değişebilir, ama mimari değişmez
- Yerel işleme yapısında veriler fiziksel olarak dışarı çıkamaz
- API çağrıları, uzaktan telemetri, anonimleştirilmiş kullanım verisi gönderimi mümkün olmaz
- E-postadan çok daha hassas olan ev içi ses ve video akışları, kişinin özel hayatının tamamını içerir
- Amazon örneğinde olduğu gibi, yerel ses işlemenin kaldırılması, reklam entegrasyonu planları ve Ring'e kolluk kuvveti erişiminin açılması, merkezi yapının risklerini gösteriyor
Edge inference teknolojisinin olgunlaşması
- Geçmişte “yerel modeller yetersiz performans veriyor” itirazı vardı, ancak bugün bu seviye yeterince olgunlaşmış durumda
- Gerçek zamanlı konuşma tanıma, anlamsal hafıza, diyalog çıkarımı, konuşma sentezi gibi tam bir AI hattı ev içi cihazlarda çalıştırılabiliyor
- Fan gürültüsü olmadan, tek seferlik donanım alımıyla ve veriyi dışarı göndermeden çalışabiliyor
- Bu; model sıkıştırma, açık kaynak çıkarım motorları ve verimli silikon alanlarındaki ilerlemeyle mümkün oldu ve performans/enerji verimliliği her yıl artıyor
- Gerçek test evlerinde de sorun bağlamı anlamanın zorluğu; model boyutu ya da performans eksikliği değil
- Bu nedenle donanım ve yazılım satışı merkezli bir iş modeli gerekiyor ve
- üreticinin veriye fiziksel olarak erişemeyeceği bir mimari tasarlaması gerekiyor
Yerel AI'ın gerekliliği ve sonuç
- En kullanışlı AI, en mahrem bilgileri işleyen teknoloji olacak
- Bunu güvenli tutmanın tek yolu, verinin dışarı gönderilemeyeceği yapısal bir tasarımdır
- Politika, vaat veya ayar değişiklikleriyle koruma sağlanamaz; mimari düzeyde engelleme gerekir
- “Choose local. Choose edge.” ifadesiyle, veriyi dışarı göndermeyen AI sistemleri kurma çağrısı yapılıyor
1 yorum
Hacker News yorumları
Şirketin öne çıkardığı ürünün her zaman açık, her zaman dinleyen bir yapay zeka cihazı olması nedeniyle bu tanıtım metni komik geliyor
Yalnızca yerel donanımda çalışsa bile, hayatımızın her anının kaydedilip analiz edilmesi gerekmiyor
Ailenin özel konuşmaları ya da reşit olmayanların anları bile saklanacaksa bunun kabul edilebilir olup olmadığı sorgulanmalı
Misafirlerden onay alınıp alınmadığı, hırsızlık ya da devlet emri durumunda veya satın alma-birleşme sürecinde gizlilik güvencesinin korunup korunamayacağı endişe verici
Mahkeme emri gelirse bilgi bir şekilde teslim edilmek zorunda kalır
Gerçek gizliliği korumak için bilginin en baştan hiç var olmaması gerekir
Keşke kişisel beynin içindeki bilgiler gibi hukuken korunan bir yöne doğru yasa yapılsaydı, ama gerçeklik ters istikamette ilerliyor
Yeter ki iznim olmadan bilgi dışarı çıkmasın, fiziksel olarak kolayca çıkarılamasın ya da biri beni taklit ederek erişemesin
Bu koşullar sağlanırsa başkalarının gizliliğini de ihlal etmeyeceğini düşünüyorum
Hedef kitlesi gizliliğe önem veren insanlar, ama tam da bu kişiler bu sorunları ilk dile getirecek olanlar
Sonuçta gizliliği umursamayanlar gidip zaten Google gibi şeyleri kullanır
Ben de sadece yerelde çalışan bir yapay zeka cihazı yapmak istemiştim ama üşendiğim için erteledim
Yine de bu tür cihazların nöroçeşitli (neurodiverse) insanlar için hayat değiştirecek kadar faydalı olabileceğini düşünüyorum
Gerçek zamanlı işleyip kullanıcının hedeflerine ulaşmasına yardımcı olacak eylemleri gerçekleştiren bir yapı gibi görünüyor
Büyük yapay zeka şirketlerinin reklam geliri merkezli hareket ettiği görüşüne katılıyorum
Evin içinde sürekli bulunan yapay zekanın gizlilik sorunlarından kaçması zor
Black Mirror'daki The Entire History of You ya da Ted Chiang'ın The Truth of Fact, the Truth of Feeling örneklerinde olduğu gibi, sonunda özel alanlar da gözetimle dolacak gibi görünüyor
Bu akış içinde teknolojiyi reddeden insanlar giderek toplumsal çevrenin dışına itilecekmiş gibi geliyor
“Her zaman açık gelecekten kaçınılamaz” sözüne katılmıyorum
Açık kaynak kullanıp, veri madenciliği yapmayan hizmetlere para ödeyip, etik girişimleri desteklemek mümkün
Android'in yerine geçecek bir Mobile Linux gerektiğini düşünüyorum
Cihazı ve yazılımı tamamen şirketler değil bireyler kontrol etmeli
Ücretsiz hizmetlerin sunduğu rahatlığa aldanmayıp, parayla oy vermek gerekiyor
İnsanlar sonuçta mevcut durumu korumayı seçiyor
“Bağlam farkındalığı” denilen şey sonuçta gözetimin başka bir adı
İnsanlar ceplerinde küçük bir Big Brother taşıyor olmayı giderek normal kabul edecek
Ama çoğu kişi sadece kabulleniyor ve bireysel düzeyde küçük çözümlerle yetiniyor
Ben de gizlilik yasaları için çalıştım ama halkın ilgisizliği yüzünden hiçbir şey olmadı
LLM otomasyonu olmasa da gözetim zaten bir gerçek
Yerelde çalışıyor olsa bile, her zaman dinleyen bir asistan hâlâ gizlilik ihlali
Arkadaşlar ziyarete geldiğinde konuşmalarının kaydedilebileceği düşüncesinden rahatsız olacaklardır
Kusursuz konuşmacı ayrımı (speaker diarization) olmadan bu tür sistemlere asla güvenilemez
Tüm aile üyeleri aynı hafıza havuzunu paylaşıyor ve bu hâlâ çözülmemiş bir gizlilik sorunu
Gelecekte konuşmacı kimliğine dayalı STT modeli ile kişiye özel hafıza etiketlemesi denemeyi planlıyorlar
Ürünün yıl sonuna doğru çıkacağı söyleniyor ama ortada fiziksel bir fotoğraf bile yok
Web sitesi tasarımı da özensiz görünüyor ve maddi güçleri sınırlı gibi
Sonunda bu tür cihazların hackerlar için gizlilik karşıtı reklam panosuna dönüşmesinden endişe ediyorum
Prototip üretim sürecinde gerçek fotoğraflar paylaşılmış
Reklamların açık açık yerleştirilmesinden daha tehlikelisi, model içindeki örtük öneri yanlılığı
ChatGPT, Claude ve Perplexity'ye aynı soru sorulduğunda ilk 5 önerinin örtüşme oranı sadece %40 civarında
Google arama sıralamalarıyla korelasyonu da neredeyse yok
Sonuçta hangi ürünün önerileceği, modelin şeffaf olmayan iç kararlarına bağlı
Ben her zaman açık bir yapay zeka asistanının cazibesini anlayamıyorum
Gizlilik bir yana, böyle bir cihaz hayatım üzerindeki kontrol hissimi azaltacak gibi geliyor
Yalnızca gerektiğinde çalışan istek üzerine yardımcı tipi bir şey güzel olurdu, ama aşırı otomasyon insan düşüncesini köreltebilir
Sonunda “arkadaş gibi AI” diye paketlenmiş bir gözetim dronları denizi ortaya çıkabilir
Birlikte ilerlemek yerine herkesin kendi peynirini kapmaya çalıştığı bir koşu bandı bu
“Evde yumurta var mı diye sordum, komşu elinde yumurtayla kapıda belirdi” türü bir AI etkileşimi hiciv senaryosu ilginç
Konuşma verileriyle eğitilmiş yapay zekanın giderek insan cümlelerini tamamlamaya başlaması ve sonunda sessizlik içinde anlatım moduna geçmesi etkileyici bir sahne
Yazıda Anthropic'ten bahsedilmemesi üzücü
Şu anda en iyi programlama odaklı ajanları yapıyorlar ve OpenClaw asistanının çekirdeğiydi
Her zaman dinleyen akıllı hoparlörler, kasıtlı olarak kullanılan OpenClaw'a göre çok daha büyük bir gizlilik riski taşıyor