- Yapay zeka eğitimi için akıllı gözlük içeriklerini inceleyen Kenyalı Sama çalışanları, Meta’nın sözleşmeyi sonlandırmasıyla 1.108 kişinin işten çıkarılmasının beklendiği bir anlaşmazlığın içinde
- Sözleşmenin feshi, çalışanların Meta gözlük videolarında kullanıcıların tuvalet kullanımı ve cinsel ilişki sahnelerini gördüklerini söylemesinden iki ay bile geçmeden gerçekleşti
- Meta, Sama’nın operasyon standartlarını karşılamadığını söylerken; Sama, Meta dahil müşterileri için yürüttüğü işlerde operasyon, güvenlik ve kalite standartlarını karşıladığını ve kendisine hiçbir zaman standart altı performans bildirimi yapılmadığını savundu
- Meta, kullanıcıların Meta AI ile paylaştığı akıllı gözlük içeriklerinin zaman zaman taşeron çalışanlar tarafından incelenebileceğini, ürün performansını iyileştirmeye yönelik insan incelemesi için ise açık kullanıcı onayı aldığını belirtti
- Birleşik Krallık ICO’su ile Kenya Veri Koruma Komiserliği gizlilik endişelerine yanıt verirken, Sama’nın önceki Facebook içerik moderation sözleşmesine ilişkin tartışmalarla birlikte yapay zeka veri emeğinin riskleri de görünür hale geldi
Meta ile Sama arasındaki sözleşme feshindeki tartışma başlıkları
- Meta, yapay zeka eğitimi için birlikte çalıştığı Sama ile olan büyük sözleşmesini sona erdirdi; Sama ise bu karar nedeniyle 1.108 kişinin işten çıkarılacağını öngörüyor
- Fesih, Kenya merkezli Sama çalışanlarının Meta akıllı gözlük videolarında kullanıcıların tuvalet kullanımı ve cinsel ilişki sahnelerini gördüklerini söylemesinden iki ay bile geçmeden geldi
- Meta, sözleşmeyi Sama’nın kendi operasyon standartlarını karşılamaması nedeniyle bitirdiğini söyledi
- Sama ise Meta dahil müşterileri için talep edilen operasyon, güvenlik ve kalite standartlarını sürekli olarak karşıladığını ve kendisine standartların altında kaldığına dair hiçbir bildirim yapılmadığını savundu
- Kenyalı işçi örgütleri, Meta’nın kararının çalışanların kamuya açık açıklamaları nedeniyle verildiğini düşünüyor; ancak Meta bu iddiaya doğrudan yanıt vermedi
Akıllı gözlük videolarının incelenmesi ve kişisel veri sorunu
- Şubat sonunda İsveçli medya kuruluşları Svenska Dagbladet ve Goteborgs-Posten’in araştırmasında anonim çalışanlar, Meta gözlükleriyle çekilen videoları incelediklerini açıkladı
- Çalışanlardan biri “oturma odasından çıplaklığa kadar her şeyi görüyoruz” dedi; videolarda tuvalet kullanımı ya da cinsel ilişki sahnelerinin de yer aldığı belirtildi
- Meta, kullanıcıların Meta AI ile paylaştığı akıllı gözlük içeriklerinin zaman zaman taşeron çalışanlarca incelenebileceğini kabul etti
- Meta, bu incelemenin müşteri deneyimini iyileştirme amacı taşıdığını ve bunun diğer şirketlerde de yaygın bir uygulama olduğunu düşünüyor
- Meta, BBC’ye gönderdiği açıklamada fotoğraf ve videoların kullanıcıya özel olduğunu, ürün performansını iyileştirmeye yönelik yapay zeka içeriklerinin insan tarafından incelenmesi için açık kullanıcı onayı aldığını belirtti
Düzenleyici kurumlar ve ürün kullanım riskleri
- İsveç’teki haberlerin ardından Birleşik Krallık veri denetim kurumu ICO, söz konusu haberleri “endişe verici” bulduğunu söyleyerek Meta’ya mektup gönderdi
- Kenya Veri Koruma Komiserliği de akıllı gözlüklerle ilgili gündeme gelen gizlilik endişeleri hakkında soruşturma başlattı
- Meta, eylülde Ray-Ban ve Oakley ile birlikte yapay zeka destekli gözlük ürün ailesini tanıttı
- Özellikler arasında metin çevirisi, kullanıcının baktığı nesneyle ilgili sorulara yanıt verme gibi işlevler bulunuyor; bu özellikler özellikle kör ya da az gören kullanıcılar için faydalı olabilir
- Cihazların popülerliği arttıkça kötüye kullanım endişeleri de büyüdü ve Kenya’da kadınların rızaları dışında görüntülenmesiyle de ilişkilendirildi
- Meta gözlüklerde, dahili kamera kayıt yaparken çerçevenin köşesindeki gösterge ışığı yanıyor
Veri etiketleme emeği ve önceki sözleşme tartışmaları
- Sama çalışanları, veri annotator olarak Meta AI’ın görselleri yorumlamasını sağlamak için içeriklere manuel etiketler ekledi; ayrıca yapay zeka ile etkileşim transcript’lerini de inceledi
- Bir çalışana göre bir erkeğin gözlüğü yatak odasında kayda devam etti ve ardından erkeğin eşi olduğu düşünülen bir kadının soyunduğu sahne görüntülendi
- Sama, merkezi ABD’de bulunan bir outsourcing şirketi; teknoloji işleri sağlayarak istihdamı artırmayı hedefleyen kâr amacı gütmeyen bir organizasyondan doğdu ve bugün “ethical” bir B-corp olarak faaliyet gösteriyor
- Meta ile Sama arasındaki önceki Facebook içerik moderation sözleşmesi de eleştirilere ve eski çalışanların hukuki girişimlerine yol açmıştı; bazı çalışanlar açık saçık ve travmatik içeriklere maruz kaldıklarını söyledi
- Sama daha sonra bu işi üstlenmiş olmaktan pişmanlık duyduğunu açıkladı
- Africa Tech Workers Movement’tan Naftali Wambalo, akıllı gözlük sözleşmesinde çalışan işçilerle de temas kurduğunu ve Meta’nın insan emeğiyle akıllı gözlük içeriklerinin incelendiği gerçeğinin ortaya çıkmasını istemediğini düşündüğünü söyledi
- Wambalo, Meta’nın sözünü ettiği standartların daha çok “gizliliği koruma standartları”na benzediğini ifade etti
- Meta daha önce hizmet şartlarında kullanıcıların insan incelemesi olasılığını görebildiğini belirtmişti
- Oversight Lab’den Mercy Mutemi, Meta’nın açıklamasının Kenya hükümeti için bir uyarı olması gerektiğini ve yapay zeka ekosistemine giriş yolu olarak sunulan temelin son derece kırılgan olduğunu düşünüyor
1 yorum
Hacker News yorumları
Meta, akıllı gözlük içerik sınıflandırmasını verdiği taşeron şirketle sözleşmesini iptal etti; bu da o şirketin çalışanları sınıflandırdıkları içeriklerdeki ağır gizlilik sorunlarını ifşa ettikten sonra yaşandı
OpenAI, CSAM sınıflandırmasını onlara vermişti ve Sama 2022'de OpenAI ile müşteri ilişkisini sonlandırmıştı: https://time.com/6247678/openai-chatgpt-kenya-workers/
Aradan 4 yıl, bu haberin çıkışından da 3 yıl geçti ama teknoloji şirketlerinin çalışma biçimi zerre kadar iyileşmedi
Onlarla konuşmayın ya da etkileşime girmeyin; hatta aynı ortamda bulunmanızı bile önermem
Meta, Sama'nın kendi standartlarını karşılamadığını söyledi; Sama ise bu eleştiriyi reddediyor
Suçluları koruyup muhbirleri rezil etmek ancak diktatörlüklerin ve oligarşilerin işidir
Taşeron şirketin hangi ülkede olduğunun önemi yok; suç küreselleştiyse muhbir koruması da küresel olmalı
Bir işçinin dediğine göre “oturma odalarından çıplaklığa kadar her şeyi görüyorlar”
Meta bunun müşteri deneyimini iyileştirmek için yapıldığını ve diğer şirketlerde de yaygın bir uygulama olduğunu söyledi ama bunu gerçekten doğru mu okudum diye düşündürüyor
İnternette 20 yılda gördüğüm muhtemelen en tuhaf ifadelerden biri
Meta ne dediğini okuyup anlıyor mu gerçekten diye insan merak ediyor
Sanırım sorun analizi gibi amaçlardan söz ediyordu
WhatsApp kullanmadığımı söylediğimde hâlâ tuhaf tepkiler alıyorum ama Meta'nın tüm varlıkları kirlenmiş durumda, o yüzden kullanmıyorum
Burada daha kötü olanın ne olduğunu bilmiyorum: Meta'nın müşterilerin akıllı gözlüklerinden video kaydetmesi mi, yoksa bunu dile getiren insanları işten çıkarması mı
Bu şirketlerin rezilce davranmasını engellemek için baskı kurmak kesinlikle gerekli ama sonuçta o verilerle rezillik yapabilmeleri için insanların önce o verileri vermesi gerekiyor
Flock gibi “kamusal” gözetim verileriyle rezillik yapan istisnalar var
Şirket tipi gözetim gözlükleri takıp mahrem anlar yaşamanın normalleşecek kadar kültürün çürümesi ayrı mesele ama insanların nasıl bu kadar güvenebildiğini anlayamıyorum
Daha genel olarak bakınca da, Meta'nın elbette izleyeceği internete bağlı bir kamerayı neden üzerinde taşır, onu da anlamıyorum
Akıllı gözlükler ve diğer “kişisel” teknolojiler etrafındaki zorlu gizlilik ve güvenlik sorunlarının dikkatli, dürüst ve hızlı tepki veren bir şirket tarafından gayet iyi yönetilebileceğini düşünüyorum
Bu yüzden Meta'nın kişisel cihazlarına asla dokunmam
Onların tüm DNA'sı kullanıcıyı kâr için sömürmek üzere yazılmış
Benim değerlendirmeme göre bu sorunları yalnızca insanların sömürünün derinliğini fark etmesini engelleyecek bir örtü olarak görüyorlar; yani bunları kelimenin tam anlamıyla gerektiği gibi ele alamazlar ve almayacaklar
Gözlükten çekilen videoların hangi koşullarda sınıflandırma için yüklendiğini merak ediyorum
Muhtemelen kullanıcı gözlüğe gördüğü bir şey hakkında soru sorduğunda, yanıt üretmek için video sınıflandırmaya yükleniyor
İnsanlar “nasıl olsa sadece AI” diye düşünüp gizlilik konusunda çok kaygılanmıyor gibi
Bu başlığı görünce, “row” kelimesinin neredeyse hayatım boyunca yanlış telaffuz ettiğim sözcüklerden biri olduğunu hatırladım. Doğru telaffuzunu ancak bu yıl öğrendim
Bu bağlamdaki row, dough ile değil cow ile kafiyeli
İlk aklıma gelen kafiye örneği bow olmuştu ama o örneğin de sorunlu olduğunu fark ettim
“Ortak bir dille ayrılmış iki ülke” sözü cuk oturuyor
https://www.merriam-webster.com/dictionary/row#dictionary-en...
Eski bir Meta çalışanıyım. Yuhalanmayı hak ederim
İçeride veriler için 4 seviyeli bir derecelendirme vardı; 1, “gökyüzü mavidir” gibi kamusal bilgi, 4 ise kişisel kullanıcı verisi ya da sızması/paylaşılması halinde hassas sayılacak bilgilerdi
Temel olarak tüm kullanıcı verilerinin seviye 4 olduğu söylenirdi ve gerekli onay olmadan bir şey yaparsanız anında işten çıkarılırdınız
Bootcamp sırasında her ay en az bir kişinin kullanıcı verilerine eriştiği için birkaç saat içinde binadan çıkarıldığına dair çok hikâye duyardık
Benim çalıştığım görsel araştırma tarafında, kamusal alanda video kaydedebilmek için bir yıllık hukuk sürecinden geçmemiz gerekmişti
Anonimleştirme pipeline'ları, güçlü denetim izleri, mümkün olduğunca fazla veri silme ve bir şeyler ters giderse otomatik silme sistemleri kurmak zorundaydık
Verinin nerede tutulduğuna ve kimlerin erişebileceğine dair katı kurallar da vardı
Sözleşme imzalamamış herhangi bir kişinin küçücük de olsa görünebildiği “vahşi” videolar üçüncü taraflara gittiği için açıklama ekleme çalışmaları için paylaşılamazdı
Açık veri setlerine giren izlenebilir tüm kişiler ve mekânlar için hukuki feragatnameler imzalanmıştı
Şimdi ise özel verilerin hiçbir süzgeç olmadan anotatörlere boca edilip eğitim verisi olarak kullanıldığını duymak, en temel kontrollerin bile ortada olmadığını gösteriyor
Bu da sadece Zuck ya da gelir yaratma tarafı bir şey istediğinde kuralların geçerli olmadığını gösteriyor
Tüm sektörün kendi kendini çökertmesini umuyorum
SWE'lerin PII'ye yalnızca kullanıcı ya da müşterinin açık rızası olduğunda, örneğin bir destek talebi gibi durumlarda erişebilmesi gerekir
Hele bootcamp'teki kişiler için bu daha da geçerli; eğitim sırasında anonimleştirilmemiş kullanıcı verilerine erişebilmek bana çok tuhaf geliyor
Benim önceki şirketimde bile müşteri onayı olsa dahi kullanıcı verisine erişmek için inanılmaz fazla süreç vardı
Çünkü içeride bambaşka bir hikâye yaşandığı çok açık görünüyordu
Akıllı gözlüklerin daha büyük ticari nişlerinden biri POV porno çekimi olduğu için, böyle içeriklerin moderasyon kuyruğuna düşmesi pek şaşırtıcı değil
Proje planlanırken bu kullanım senaryosu hesaba katılmalıydı
Oculus Go döneminde de “cihazımızı insanların porno izleyebilmesi için tarayıcıyla birlikte çıkarmalıyız” dememek için içeride çok sayıda kibar örtmece kullanılıyordu
Sunucuya aktarıldı diye birini gönderip seks yapmalarını engelleyecek değilsiniz herhalde
https://archive.ph/ubWba
AI eğitiminin rahatsız edici yanlarının nasıl üçüncü dünya ülkelerindeki yoksul emekçilere yıkıldığına dair daha fazla okumak isterseniz Karen Hao'nun Empire of AI kitabını öneririm
Bu işçiler güvencesiz işlerde saat başına üç kuruşa çalıştırılıyor ve korkunç materyallere maruz kalıyor