Meta, istilacı AI Discover akışını derhal durdurmalı

 (mozillafoundation.org)
1 puan yazan GN⁺ 2025-06-07 | 1 yorum | WhatsApp'ta paylaş
  • Meta, AI sohbetlerinde oluşturulan kişisel konuşma içeriklerini kullanıcı onayı olmadan Discover akışında yayımlayarak gizlilik ihlali endişelerini büyütüyor
  • Mozilla topluluğu, Discover akışının durdurulmasını, AI konuşmalarının varsayılan olarak gizli olmasını, bilgilerin kullanıcı rızasına dayalı olarak paylaşılmasını ve şeffaflık sağlanmasını talep ediyor
  • Herkesin kolayca kullanabileceği kapsamlı bir opt-out sistemi kurulması ve özel konuşmaları ifşa edilen kullanıcılara kalıcı silme hakkı verilmesi gerekiyor
  • Pek çok kişi, kişisel bilgilerinin kamuya açık şekilde sızdırıldığının farkında değil
  • Bu kampanya, açık önceden onay olmadan kullanıcı konuşmalarının yayımlanmayacağının garanti altına alınmasını istiyor

İçerik özeti

Gizlilik ihlali endişeleri

  • Meta, kendi yapay zeka hizmetinde yapılan kişisel konuşma içeriklerini Discover akışı üzerinden kamusal içeriğe dönüştürmeyi sessizce hayata geçirdi
  • Çok sayıda kullanıcı, yazdıkları konuşmaların kamusal olarak yayımlandığının farkında değil

Mozilla topluluğunun talepleri

  1. Discover akışının derhal durdurulması
    • Gerçek gizlilik korumaları oluşturulana kadar Discover akışının kapatılması çağrısı yapılıyor
  2. AI konuşmalarının varsayılan olarak gizli olması
    • Tüm AI etkileşimlerinin varsayılan olarak gizli tutulması ve yeterli bilgilendirme ile onay olmadan herkese açık paylaşım özelliğine izin verilmemesi isteniyor
  3. Şeffaflık talebi
    • Kaç kullanıcının önceden bilgi sahibi olmadan veya onay vermeden kişisel bilgilerini paylaştığına dair net sayıların açıklanması talep ediliyor
  4. Evrensel bir opt-out sistemi kurulması
    • Herkesin kolayca erişebileceği bir opt-out sistemi Meta'nın tüm platformlarında sunulmalı; böylece kişisel veriler AI eğitiminde kullanılmamalı
  5. Bildirim ve silme hakkı sağlanması
    • Özel konuşmaları yayımlanan kullanıcılara derhal bildirim yapılmalı ve isterlerse bu içeriği kalıcı olarak silebilme hakkı verilmelidir

Özel hayat ile kamusal alan arasındaki sınırın bulanıklaşması

  • Meta'nın politika değişikliği, özel konuşmalar ile kamusal içerik arasındaki sınırı belirsizleştiriyor
  • İnsanlar özel bir alanda konuştuklarını düşünürken, gerçekte bilgilerin kamuya açık şekilde yayılma riski bulunuyor

Kampanya ve imza çağrısı

  • Kişisel rıza olmadan konuşma içeriklerinin yayımlanmasının durdurulması ve kullanıcılara açık bir seçim hakkı tanınması için bir kampanya yürütülüyor
  • Kampanyayı destekleyen kullanıcılar, isimlerini bırakarak Meta'nın politika değişikliğine zorlanmasını amaçlayan imza kampanyasına katılabiliyor

İlgili okumalar

1 yorum

 
GN⁺ 2025-06-07
Hacker News yorumları

  • Arka plan kaynakları:

    • “Meta has a new stand-alone AI app. It lets you see what other people are asking.” https://www.businessinsider.com/meta-ai-app-public-feed-warn... (Mayıs 2025)
    • “People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app” https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove... (Mayıs 2025)
      İlk bağlantı, konuşmaların varsayılan olarak gizli olduğunu ve kullanıcı hatasının devreye girmiş olma ihtimalinin yüksek olduğunu söylüyor[1]. Mozilla’nın vurgulu ifadesi ilk bakışta bunun tersi gibi de okunabiliyor[2]
      [1]: “To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.”
      [2]: İlk gördüğümde “Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.” ifadesini böyle anlamıştım
    • Bu durumun kendisinden emin değilim, ancak Google Docs’tan ChatGPT ve Notion’a kadar “yalnızca bağlantıya sahip kişilerin görebileceği bir paylaşım bağlantısı oluşturmak” ile “o paylaşım bağlantısını herkes tarafından aranabilir/keşfedilebilir hâle getirmek” açıkça farklı şeyler
      Meta, yapay zeka sohbetlerinde paylaş düğmesine basıldığında varsayılan olarak arama/keşfedilebilirliği açıyorsa; daha da kötüsü, sektör standardına yakın bir seçeneği hiç sunmuyorsa, bu kafa karışıklığını açıklar ve son derece beklenmedik bir dark pattern olur. Üst yorumdaki gibi, yalnızca paylaşım simgesine basmak yeterince bilgilendirilmiş rıza anlamına gelmez
    • Uygulamayı kullanmadım ve muhtemelen bundan sonra da kullanmayacağım, ancak iki yazı da kullanıcının etkileşimi “paylaşmayı” seçtiği mekanizmayı göstermiyor. Bir dark pattern mi var?
      Diğer uygulamalarda “paylaş”a basınca WhatsApp, SMS, e-posta vb. yöntemi seçtiğiniz bir modal açılır; yöntem ve alıcı seçildikten sonra fiili paylaşım gerçekleşir. Ama “paylaş” düğmesinin davranışı anında yayımlamaksa, bir sonraki adımda belirli, güvendikleri bir kişiyi seçeceklerini bekleyen insanların şaşırması gayet anlaşılır
    • Uygulamayı kullanıyorum ama paylaşmam için bir kez bile yönlendirilmedim; bu yüzden garip geliyor

  • Uygulamayı bizzat deneyince, bu yazıyı Mozilla’nın yalan söylemesi dışında başka türlü yorumlamak zor. Bu uygulamadaki paylaşım, diğer sosyal medya uygulamalarıyla aynı
    Uygulamanın sağ üstünde “Share” düğmesi var; basınca altta büyük bir “Post” düğmesi bulunan bir ara ekran çıkıyor. O düğmeye basınca sohbet paylaşılıyor
    Başkaları farklı bir ekran mı görüyor? Mozilla neden böyle söylüyor? Taleplerin çoğu zaten karşılanmış durumda

    Shut down the Discover feed until real privacy protections are in place.
    Her şey zaten varsayılan olarak gizli ve neyin herkese açık olduğunu görebiliyorsunuz
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    Bu zaten doğru
    Provide full transparency about how many users have unknowingly shared private information.
    Meta’nın bunu yapması için bir sebep yok
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    Zaten var. Düzeltme: Görünüşe göre yalnızca AB kullanıcıları için geçerli. Şahsen bunun herkese açık paylaşım iddiasıyla ilgili olduğunu düşünmüyorum
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    Bu da zaten var

    • Bu bir dark pattern sorunu. Pek çok kişi belirli bir kişiye paylaşmaya çalışırken yanlışlıkla genel halka paylaşıyor. Burada işaret edilen sorunlardan biri bu. Pek çok kişi için “share”, “bunu belirli bir kişiyle paylaşmanın bir yolunu ver” demek; “genel halkın indeksleyip arayabileceği şekilde göster” demek değil
    • Kullanıcı değilim ama fark, kullanıcının paylaşılan öğenin yalnızca arkadaşlarına görüneceğini beklerken gerçekte herkese açık olması değil mi?
    • Belki de farklı ekranlar görüyor olabilirler. Bugün de olabilir, yarın da
      Meta’nın şu anki temel sorunu, başkalarının da söylediği gibi dark pattern. Meta, kullanıcıların yapmasını istediği davranışlara göre UI öğelerini taşıyor, değiştiriyor ve kaldırıyor. Niyet etmediğiniz, hatta yaptığınızı hatırlamadığınız bir şeyin yayımlanmış, paylaşılmış ya da değiştirilmiş olması her zaman şaşırtıcı. Meta ürünlerinde, pasif hesaplarda bile sanki kendiliğinden bir şeyler oluyor
      Meta ürünlerini yeterince uzun süre kullanırsanız iki kullanıcının aynı deneyimi yaşayacağının garanti olmadığını fark edersiniz. Standart bir deneyim yok. Bölgeye ve dile, açıkçası bunun dışındaki bilinmeyen etkenlere göre deneyim değişiyor. Canlı ortamda sürekli dark pattern’ları test edip optimize ediyorlar. Meta Business Suite’i bir saat kullanırsanız, tüm platformun bozuk bağlantılar, bozuk özellikler ve hiçbir yere gitmeyen ya da terk edilmiş özelliklere giden UI öğelerinden oluşan bir dark pattern labirentine daha yakın olduğunu anlarsınız. Bir ekip size X yaptırıp Y özelliğini kullandırmaya çalışıyor, başka bir ekip Z yaptırıp W özelliğini kullandırmaya çalışıyor. Business Suite bunların hepsini birbirine karıştırıyor. Bugün kod tabanını dondurup aylarca Business Suite’i inceleseniz bile, en dibine kadar her şeyin dark pattern olduğunu keşfedersiniz
    • Mozilla neden bir TV şovunun reklamını yapmak için sistem yetkilerine sahip gizli bir adware eklentisi dağıttı?
      Mozilla neden sormadan rastgele üçüncü taraf hizmetleri entegre etti?
      Mozilla neden tarama geçmişini Cliqz’e gönderdi?
      Mozilla neden engellenemeyen Google takibini entegre etti?
      Mozilla neden verileri sattı?
      Mozilla neden devre dışı bırakılsa bile güncellemeden sonra yeniden açılan telemetri hizmetleri kurdu?
      Mozilla neden böyle yalan söylüyor?
      Çünkü Mozilla
    • “Kullanıcının haberi olmadan özel bilgi paylaşan kişi sayısı hakkında tam şeffaflık sağlayın” talebini Meta da yerine getiremez. Kullanıcının farkında olmadan paylaşıp paylaşmadığını nasıl bilecekler?

  • Mozilla yazısı neyin yanlış olduğunu açıklamakta epey kötü olduğu için Meta AI uygulamasına kendim girdim:
    Sohbetlerde bir “Share” düğmesi var
    Düğmeye basınca sohbet taslağı ve “Post” düğmesi görünüyor
    “Post”a basınca sohbet herkese açık olarak yayımlanıyor ve “Discover” sekmesine gidiyor
    Yayımlanan sohbette “send” simgesine basarak sohbet bağlantısını başka birine gönderebiliyorsunuz
    Şahsen bunun gerçekten bir dark pattern olduğunu ve insanların “Share” eylemini algılama biçimiyle çeliştiğini düşünüyorum. Sohbeti herkese açmadan paylaşamamak da iyi değil
    Örneğin şu anda gördüğüm en üst Discover gönderisi, bir bebek fotoğrafının stilize edilmiş hâli; gönderiyi açınca orijinal fotoğrafı da görebiliyorsunuz. Gönderen kişinin fotoğrafı bir akrabasına ya da arkadaşına paylaşmaya çalışmış olma ihtimali çok yüksek görünüyor
    Özetle Meta, Meta’ya en çok yakışan şeyi yapmış: izin istemektense sonra özür dilemek daha iyidir yaklaşımı

    • Evet, tam olarak mesele bu. Telefonda farklı uygulamalar arasında fotoğraf, web sayfası vb. şeyleri bir mesajlaşma uygulamasıyla başka birine özel olarak paylaşırken her zaman share kullanıyorum. Şu anda benim için “share”in anlamı bu
    • Ne yaptığınızdan emin değilseniz yapmamalısınız. Örneğin az önce Hacker News’e bir yazı gönderdim; uygulamamdaki düğmenin üzerinde “submit” yazıyor ve internette yayımlayacağına dair uyarmıyor. Bu bir sorun mu? Hayır. Çünkü ne yaptığımı biliyorum ve internet kullanan herkesin de bilmesi gerekir

  • Kulağa büyük bir mesele gibi geliyor ama Mozilla daha fazla ayrıntı veremez mi?
    Örnek ya da ekran görüntüsü lazım. Okuduktan sonra bile bunun ne zaman, nasıl gerçekleştiğini anlamadım.

    • Açıklamakta berbatlar. Aslında açıklamaya çalışmıyorlar bile. Muhtemelen Meta’nın yeni AI sosyal medya uygulaması ile ilgili:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      Bazı insanların, istemlerini herkese açık paylaştıklarını bilmeden uygulamadaki yapay zekayı kullandığını duydum.
    • İlgili bağlam şu:
      “Geçen hafta çıkan bağımsız yapay zeka uygulamasına Meta sosyal özellikler ekledi. ‘Bu utanç verici döküntü ne?’ ya da ‘Eşime artık onu sevmediğimi nasıl söylerim?’ gibi sessiz sorular, yakında uygulamanın Discover sekmesinde gezinen herkes tarafından görülebilir.”
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • Neden endişelenildiğini gösterecek bağlam ve örnekler eksik.
    Somut bir konu ya da anonim yazarın destekleyemediği iddialar olmamasına rağmen ton fazlasıyla kendini haklı gören ve buyurgan.
    “Mozilla: Improve your messaging. Now.”

    • İlk gördüğüm şey “Mozilla: Improve your messaging. Now.” oldu. O kadar kötüydü ki hemen çıkmak istedim; bariz bir işaretti. Saçmalık dedektörüm çaldı ama HN’de puanı çok yüksek olduğu için kalanını da okudum; yanılmamışım.

  • “Meta: shut down [...]” ifadesindeki noktalama, Meta “shut down” diyormuş gibi gösteriyor. “Meta, shut down your [...]” gibi virgül olmalı.

    • Eski sohbet uygulamalarında iki nokta, birinin dikkatini çekmek için kullanılırdı. Örneğin IRC istemcilerinde bir takma adı Tab ile otomatik tamamlayınca, giriş o takma adla başlıyorsa otomatik olarak iki nokta eklenirdi.
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • Muhtemelen “Dear Meta: ...” daha iyi olurdu.

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    Gizlilik protesto formunu göndermek için bu onay kutusunu zorunlu kılmalarında bir ironi var.

  • En doğrusu Meta platformlarından çıkmak.

    • ABD dışındaki dünyanın büyük kısmı WhatsApp’a geri döner.
      SMS bir seçenek değil. Tekrar söyleyeyim, çünkü ABD dışında gönderilen her SMS için para ödeniyor.
      WhatsApp birlikte çalışabilirlik planı var ama muhtemelen yalnızca AB için geçerli olacak.
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • Birkaç gün önceki “Meta found 'covertly tracking' Android users through Instagram and Facebook” hikâyesi aklıma geldi. Web pikselinden localhost’taki Meta uygulamasına (FB/IG) STUN isteği gönderme meselesi.
      Facebook/Instagram’ı, özellikle sürekli çalışan mobil uygulamalarını kullanırken izlenme konusunda gerçekten endişeli olunduğunu düşünmek bana zor geliyor.
      Facebook hâlâ Tor onion servisi işletiyor mu? Geçmişte, aşırı düzeyde takibi önleyerek bu ürünleri kullanmanın tek yolu gibi görünüyordu.
    • Ağ etkileri nedeniyle çoğu kişi Meta ürünlerinden en az birine bağlı. Arkadaşlarınız iletişim kurmak ve buluşma ayarlamak için Instagram/Facebook/WhatsApp kullanıyorsa, platformdan ayrılmak toplulukla bağınızı koparmaya benzer.
      Bu yüzden hükümetlerin gizliliği düzenleme ve platformlar arası birlikte çalışabilirliği zorunlu kılma rolü var. “Sadece kullanma” gerçekçi bir talep değil.
    • Meta’dan tamamen ayrılmayın; sadece sömürün. Gönderi, yorum, davranış sinyali katkısı yapmayın. Web uygulamasını kullanın ve mümkünse ayrı bir gizli gezinme konteynerinde kullanın. Cihazınızdaki tüm Meta uygulamalarını kaldırıp kökünü kazımanız gerekir.
    • Mozilla işinden de çıkmak gerek.

  • Bu web sitesi neden Firefox Mobile’da düzgün çalışmıyor? Mozilla, lütfen biraz toparlasa.
    Görüntü alanı telefon ekranının yalnızca 1/4’ünü kaplıyor ve onu siyah bir boşluğun içinde kaydırıp durabiliyorsunuz.

  • Bir sosyal medya şirketi, sonuçları sosyal medyada paylaşılabilen bir yapay zeka uygulaması yapmış. Şaşırtıcı!
    Ama hiç ayrıntı vermeyen, yeterince moda sözcük ve etkileşim çağrısı içeren bir yazı yazarsanız HN’nin tepesine çıkarsınız ve günün öfke döngüsü de sürer. Yarın yine “Google kötü”ye döneriz.