Meta, dahili veri sızıntısının ardından çalışan takip programını durdurdu

 (wired.com)
1 puan yazan GN⁺ 5 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Meta, çalışan bilgisayarlarındaki girdileri toplayan Model Compatibility Initiative(MCI) verilerinin şirket içinde gereğinden fazla kişiye açığa çıkmasının ardından programı geçici olarak durdurdu
  • MCI, Nisan ayında ABD’deki çalışanlar için kullanıma alınmıştı; fare hareketleri, tıklama konumları, tuş vuruşları ve ekran içeriği gibi bilgileri toplaması çalışanların tepkisini çekmişti
  • Yönetim, yapay zekanın insanların yazılımı nasıl kullandığını öğrenmesi için çalışan verilerinin gerekli olduğunu düşünüyordu; ancak gizlilik ve güvenlik endişeleri fiili bir dahili erişim sorununa dönüştü
  • Stephane Kasriel, çalışanlara 18 Haziran’da tespit edilen güvenlik sorununun 4 saat içinde giderildiğini, ancak ilk düzeltme kalıcı olmadığı için veri erişiminin daha da kısıtlandığını bildirdi
  • Meta, MCI’yi yalnızca veri koruma kontrollerinin etkili olduğundan emin olduğunda yeniden başlatacağını; programın uzun vadeli değerini değerlendirmek için ise halihazırda yeterli veri topladığını açıkladı

MCI’nin durdurulması ve dahili veri sızıntısı

  • Meta, çalışan takip programı MCI’yi geçici olarak durdurdu
  • Durdurma kararı, MCI ile toplanan potansiyel olarak hassas verilerin şirket içindeki başka çalışanlara açığa çıkmasının ardından alındı
  • Meta sözcüsü Tracy Clayton, programın gizlilik koruma önlemleriyle tasarlandığını ve şu anda Meta çalışanlarının verilere uygunsuz şekilde eriştiğine dair bir işaret olmadığını, ancak soruşturma süresince durdurulduğunu açıkladı

Toplanan veriler ve çalışan tepkisi

  • MCI, Nisan ayında ABD’deki çalışanlara dağıtılan bir araçtı
  • Çalışanların karşı dilekçede işaret ettiği toplama kapsamı şunlardı
    • Fare hareketleri
    • Tıklama konumları
    • Tuş vuruşları
    • Ekran içeriği
  • İlk kullanıma sunulduğunda çalışanlar MCI’den çıkış yapamıyordu; ancak itirazların ardından bu durum sınırlı düzeyde değiştirildi
  • Çalışanlar, MCI’nin gizlilik, güvenlik ve bireysel özgürlüğü ihlal edebileceğinden endişe ediyordu

Meta’nın MCI’yi yürütme nedeni

  • Meta yönetimi, MCI’nin veri toplamasının yapay zeka sistemlerini eğitmek için gerekli olduğunu defalarca savundu
  • Amaç, yapay zekanın insanların bilgisayar yazılımlarını nasıl kullandığını öğrenmesini sağlamaktı
  • Yönetim, çalışanların yapay zekanın öğrenebileceği en iyi örnekler olduğuna karar vermişti

Dahili güvenlik duyurusu ve çalışan tepkisi

  • Pazartesi günü bir Meta mühendisi, dahili güvenlik duyurusunda MCI ile toplanan bilgileri içeren bir veritabanının şirket içindeki herkesin erişimine açıldığını bildirdi
  • MCI’ye karşı faaliyetlere katılmış eski bir çalışan, bu sorunu “a mess” diye nitelendirerek çalışanların beklediği bir şey olduğunu söyledi
  • Söz konusu eski çalışan, liderliğin çalışanların endişelerine rağmen programı dayattığını ve çalışan ile müşteri verilerinin güvenliği ve gizliliğine yönelik riskleri kabul etmediğini eleştirdi
  • Pazartesi günü dahili forumda güvenlik sorununa ilişkin eleştirel yorumlar yağdı; ardından Meta, bazı çalışanları şaşırtacak şekilde MCI’nin tamamını durdurdu
  • Bazı çalışanlar, durdurma duyurusuna kadar aracın dizüstü bilgisayarlarında çalışmaya devam etmesi nedeniyle kafa karışıklığı yaşadıklarını söyledi

Kasriel’in duyurusu ve yeniden başlatma koşulları

  • Meta’nın yapay zeka araştırmalarından sorumlu başkan yardımcısı Stephane Kasriel, Pazartesi geç saatlerde çalışanlara MCI’nin durdurulduğunu bildirdi
  • Kasriel’e göre güvenlik sorunu 18 Haziran’da tespit edildi ve 4 saat içinde giderildi
  • Ancak ilk düzeltme kalıcı olmadığı için veri erişiminin ayrıca kilitlenmesi gerekti
  • Bu sorun nedeniyle “bazı MCI türevi veriler” amaçlanandan daha fazla kişinin erişimine açık hale geldi, ancak ayrıntılı bir açıklama yapılmadı
  • MCI, ancak Meta veri koruma kontrollerinin etkinliğinden emin olduğunda yeniden etkinleştirilecek
  • Meta, MCI’nin uzun vadeli değerini değerlendirmek için halihazırda yeterli veri topladığını ve gelecekte MCI’nin akıbeti hakkında daha fazla bilgi paylaşacağını belirtti

İlgili okumalar

1 yorum

 
GN⁺ 5 시간 전
Hacker News yorumları

  • Meta hâlâ en yüzsüz şirket ve çalışılması da en utanç verici şirketlerden biri olmaya yakın
    Bu şirketin ürünleri arasında dünyayı belirgin biçimde daha kötü hale getirmemiş tek bir şey bile aklıma gelmiyor
    Donanıma son dönemdeki girişi de Ray-Ban ile sarhoş kadınları çeken erkekler ve gözetim gibi, gündelik etkileşimlerdeki güveni bozan yönler buluyor
    Daha “düşünceli” frontier laboratuvarlarında çalışan birkaç tanıdığım, sırf bu yüzden Meta başvuranlarını doğrudan eliyor

    • Facebook örneğin hissedarlara çok para kazandırdı; bunun da dünyayı daha iyi bir yer yapmakla aynı şey olduğunu biliyoruz
    • Dünyayı belirgin biçimde daha kötü hale getirmemiş bir ürün olarak zstd var
      React ve PyTorch konusunda ise görüşler ayrılabilir
    • Meta, ne yaparsa yapsın büyüyemeyen 10 yaşındaki biri için altın kafes gibi. Utanç verici
    • Meta ürünlerinin topluma zararlı olduğu doğru ama çalışması daha utanç verici şirketin Palantir olduğunu düşünüyorum
    • 2004~2005 dönemindeki Facebook gerçekten iyiydi
      Orman yangını gibi yayıldı ve kullanması çok eğlenceliydi. Ben, üniversiteden arkadaşlarım ve onların arkadaşlarının olduğu dönemdi

  • Parayla elde tutmak istedikleri çalışanlara bile bunu yapıyorlarsa, kullanıcı verilerine neler yapmayı düşünürler kim bilir
    Kullanıcı sistemlerine bağlanan kendi sistemleriyle daha neler yapmayı düşünürler
    “Dumb f*cks” bu şirketin ilk günden beri süren çizgisiymiş meğer

  • Bu tür sızıntıların, içine girmekte olduğumuz gözetim toplumuna karşı tek etkili direniş olduğuna dair inancım giderek artıyor
    Meta bunu yapmayı sürdürecek, diğer işverenler de muhtemelen onu izleyecek ve devlet de “uygun yasal süreç” yoluyla bu verileri kendi dosyalarına ekleyecek
    Güvenlik kamerası yaygınlaştırma, sohbet denetimi ve anonimliği ortadan kaldırma gibi şeyler şu anda gerçek zamanlı yaşanıyor
    Bu tür veriler sızdığında, bunun ne kadar büyük bir sorumluluk riski olduğu herkes için açık hale geliyor. Meta yöneticilerinin verileri de o yığının içinde ve askerler ile milletvekilleri Flock veritabanında yer alıyor
    PornHub'ın tam tercih profiline sahip olduğu kaç senatör vardır acaba
    Elbette bu tür veri sızıntılarının zararları olur. Ama bu zarar gerçekten herkesin her yerde herkes tarafından izlenmesinden daha mı büyük

    • Sızmadığında zarar daha da büyük olabilir
      Çünkü güç sahiplerine şantaj yapmak için kullanılabilir. Özellikle yasa dışı bir şey yapmış olmanız da gerekmez; tartışmalı bir ifade ya da alışılmadık cinsel tercih bile yeter
      Elbette yasa dışı şeyler de olabilir ve hiçbir yasa dışı unsur olmasa bile parallel construction tarzı bir soruşturma üretmeye yetecek kadar malzeme çıkabilir

  • Bağlantı verilen yazıyı okuyunca, sızdırılan veriler arasında bazı çalışanların özel konuşmalarının düz metin gibi görünen ekran görüntüleri ile performans bilgilerinin bulunduğu görülüyor
    Tüm ekranı kaydedip sonra da iyi bir anonimleştirme beklemek oldukça cüretkâr bir seçimmiş

  • “Kuralları çiğnemiyorsan korkacak bir şeyin yok” diyenler, çoğu şirketin kurallara harfiyen uymayı bir tür protesto saydığını da düşünmeli
    Yalnızca kurallara uymanız bile bu gözetimin sizi tespit edip cezalandırması için kullanılacaktır

  • O sistem delil keşfi sürecinde kâbus gibi olurdu

    • Hatta kulağa harika bir fikir gibi geliyor
      Bunu önceden düşünüp “nihai kanıt” üretme ihtimali en yüksek görevleri gözetim dışında tutup tutmadıklarını merak ediyorum

  • Berbat bir şirket ölüm sarmalına giriyor

    • Ne yazık ki kasadaki nakit ve Facebook adlı altın yumurtlayan kaz sayesinde bir süre daha dayanacaktır

  • Sadece duraklattılar ve yeniden başlatma niyetinde oldukları gayet açık
    Neden eksilendiğimi anlamıyorum. Haberde kelimesi kelimesine şöyle deniyor
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Meta galiba gerçekten çok para ödüyor

  • Muhtemelen o yardımcı aracı AI ile yazmışlardır. AI'ın güvenliği düzgün sağlayamaması da pek şaşırtıcı değil